Al college Shell giocò a football alla South Carolina State University, venendo inserito nella College Football Hall of Fame. Dopo non essere stato scelto nel Draft NFL 1974 firmò con i Pittsburgh Steelers, con cui disputò tutta la carriera fino al 1987. Le sue 201 gare sono il secondo massimo della storia della franchigia dopo le 220 di Mike Webster. Fu convocato per cinque Pro Bowl tra il 1978 e il 1982, fu inserito quattro volte nella formazione ideale della stagione All-Pro e fu premiato come miglior giocatore della squadra nel 1980. Con gli Steelers vinse quattro Super Bowl negli anni settanta, compiendo diverse giocate chiave nel Super Bowl XIII e nel Super Bowl XIV. Shell si ritirò con il record NFL di intercetti per una strong safety con 51.