Défenseur droitier robuste, Joe Hall a obtenu le surnom de « Bad Joe » à cause de son style de jeu agressif. Mais Hall n’est pas qu’un dur à cuire, il a aussi un talent certain, ce qui fait encore plus peur aux joueurs des autres équipes.

Natif de l’Angleterre, la famille Hall vient s’établir au Canada alors que le jeune Joe n’est âgé que de deux ans. À l’âge de 20 ans, il s’aligne avec les Brandon Regals dans la Ligue sénior du Manitoba. L’année suivante, il joint les rangs du Rowing Club de Winnipeg et participe à la grande finale contre les Silver Seven d’Ottawa. Il devient professionnel à la saison 1905-1906, alors qu’il se joint aux Lakes de Houghton-Portage dans la Ligue internationale de hockey. La même année, il est nommé sur la première équipe d’étoiles, marquant 33 buts en 20 matchs, tout en menant la ligue avec 98 minutes de pénalité.

En 1909, au moment de la formation de l’ANH, il fait partie de l’alignement des Shamrocks de Montréal. La saison suivante, il quitte Montréal pour aller 300 kilomètres plus loin, rejoindre la formation des Bulldogs de Québec. Il y demeure durant sept ans, période durant laquelle il remporte la coupe Stanley à deux reprises.

À l’époque, la rivalité entre Montréal et Québec existait déjà et il n’était pas rare de voir de bonnes empoignades entre Joe Hall et la vedette montréalaise, Newsy Lalonde. Au moment de la création de la LNH, les Bulldogs se dissocient de la ligue, laissant ses joueurs libres pour être repêchés par une équipe de la nouvelle entité. L’organisation des Canadiens a beaucoup aimé ce qu’elle a vu au cours des confrontations avec les Bulldogs et décide de tenter sa chance en amenant Joe Hall dans la métropole.

À sa première saison avec le Tricolore, il accumule 15 points et il ajoute à sa fiche 100 minutes au banc des pénalités, ce qui est presque le double de tout autre joueur dans la formation. L’équipe ne participera toutefois par aux séries éliminatoires en 1917-1918. La saison suivante par contre, les Canadiens atteindront la finale de la coupe Stanley contre les Metropolitans de Seattle, finale qui s’avérera fatale.

Une pandémie de grippe frappe le globe en 1919. Après cinq matchs d’une finale âprement disputée, plusieurs joueurs des Canadiens sont admis dans des hôpitaux de la région de Seattle. Le 5 avril 1919, Joe Hall décède des suites d’une pneumonie due à la grippe. Le match ultime de la finale est annulé et la coupe Stanley ne sera jamais décernée cette année-là.

Joe Hall est intronisé au Temple de la renommée du hockey en 1961.