Joseph Leynard "Joe" Smith nació el 26/07/1975 en Norfolk, Virginia. Mide 2.08 metros, pesa 225 libras (102 kg) y juega en la posición de forward.
Smith estudió en la Universidad de Maryland, y en dos años promedió 20.2 pts, 10.7 rebs y 3.1 tapas por juego con los Terrapins, por lo que tuvo que abandonar sus estudios rápidamente debido a que ya era pretendido en la NBA. Entonces, en el Draft de 1995, fue elegido en el pick N°1 por los Golden State Warriors.
En su primer año con los Warriors promedió 15.3 pts y 8.7 rebs, y fue incluído en el mejor quinteto de novatos de la liga. Al año siguiente, tuvo unos números de 18.7 pts y 8.5 rebs, y al siguiente de 17.3 pts y 6.9 rebs, pero para la campaña 1997-98 fue traspasado a los Philadelphia 76ers, donde sólo jugó 30 partidos y promedió 10.3 pts.
En la temporada siguiente, lo cambiaron a los Minnesota Timberwolves y promedió 11.8 pts y 7.2 rebs en dos años, pero se vio involucrado en un escándalo sobre el salario junto a Kevin McHale, quien por entonces era ejecutivo de los T-Wolves. Joe aceptó recibir contratos baratos de un año con el fin de que el equipo tenga dinero para hacer contrataciones grandes. Esto prohibió a los de Minny tener elecciones de primera ronda por cinco años.
Para la 2000-01, fue traspasado a los Detroit Pistons, donde promedió 12.3 pts y 7.1 rebs, pero al año siguiente renovó su contrato con los Timberwolves, regresó, y en dos temporadas promedió 9.1 pts y 5.6 rebs.
Ya en la temporada 2003-04 fichó por los Milwaukee Bucks, y allí pasó tres temporadas, en las que le fue muy bien, promediando 10.1 pts y 7 rebs por juego. Pero en las siguientes tres campañas, Smith pasó por cinco equipos: Denver Nuggets y Philadelphia 76ers en la 2006-07; Chicago Bulls y Cleveland Cavaliers en la 2007-08; y Oklahoma City Thunder y los Cavs, otra vez, destacándose la estadía con los Bulls, ya que promedió 11.2 pts.
En la 2009-10 jugó 64 partidos y promedió sólo 3 pts y 2.5 rebs para los Atlanta Hawks, y en la 2010-11 sólo cuatro encuentros con los New Jersey Nets antes de ser transferido a Los Angeles Lakers. Con los angelinos sólo jugó 16 partidos, en los que no aportó más de 1.3 rebs por juego.