La carrière de Bob Fillion est née d’une lettre destinée à son frère. En 1938, le directeur général des Canadiens Cecil Hart envoie une lettre à Georges Fillion, un des six frères, tous joueurs de hockey, de Bob Fillion. Lorsque la lettre l’invitant au camp d’entraînement arrive à la résidence de Thetford Mines, au Québec, Georges décide qu’il est trop vieux et demande à un de ses jeunes frères, ayant plus de talent que lui en anglais, de lui répondre à sa place.

Bob Fillion, alors âgé de 17 ans a exprimé les regrets de son grand frère, mais n’a pas oublié de mentionner qu’il est lui-même un excellent joueur de hockey. La lettre suivante, en provenance de Montréal, lui était directement adressée.

Évoluant avec les Maple Leafs juniors de Verdun à ses débuts, Fillion débute son ascension vers la LNH, aux côtés de ses futurs coéquipiers Maurice Richard, Émile Bouchard et Paul Bibeault. Avant la fin de la saison suivante, il entre dans les rangs séniors, passant deux saisons avec les Cataractes de Shawinigan, dans la Ligue de hockey sénior du Québec.

Après avoir passé la saison 1942-1943 dans l’armée, où il a été non seulement caporal, mais également membre de l’équipe de hockey de l’Armée canadienne, Fillion se joint aux Canadiens pour le début de la saison 1943-1944.

Il compte son premier but dans la LNH à son troisième match, en battant le gardien des Blackhawks, dans une victoire de 5-3, à Chicago. La même année, il compte six buts et amasse 23 passes, ce qui sera sa plus importante production offensive, durant ses sept saisons avec les Canadiens. De plus, il couronne son année recrue en soulevant la coupe Stanley.

Fillion est un des meilleurs défenseurs à caractère offensif du circuit. Il joue également à l’aile gauche et ses compagnons de trio sont Murph Chamberlain de l’autre côté et Ken Mosdell au centre. Fillion est un joueur rapide, préférant utiliser sa vitesse et sa vision de jeu, plutôt que la force brute, pour contrer les meilleurs ailiers droits de la ligue.

En 1945-1946, il trouve le fond du filet dix fois, ce qui en fait sa meilleure récolte de but en carrière. La même année, l’attaquant de 5 pieds 10 pouces, continue sa belle lancée durant les séries éliminatoires, marquant quatre fois et récoltant trois passes, ce qui le positionne au quatrième rang des pointeurs en série, juste derrière les membres de la fameuse «Punch Line».

Fillion quitte les Canadiens pour la Ligue de hockey sénior du Québec, où il joue la saison 1950-1951, en compagnie de deux de ses frères, avant d’accrocher ses patins.