Ailier droit originaire de Dearborn, au Michigan, Jim Cummins a été repêché en 4e ronde par les Rangers de New York, le 67e choix au total, lors du repêchage de 1989. Il a fait ses débuts dans la LNH en mars 1992 avec les Red Wings de Detroit.  Le robuste attaquant a par la suite porté les couleurs des Flyers de Philadelphie, du Lightning de Tampa Bay, des Blackhawks de Chicago et des Coyotes de Phoenix. Le 26 juin 1999, il a été échangé aux Canadiens par les Coyotes contre le choix de 6e ronde des Rangers de New York au repêchage de 1999. Il a disputé 47 parties dans l’uniforme du Tricolore, durant la saison 1999-2000, au cours desquelles il a marqué trois buts et a amassé cinq aides.  La saison suivante, il a endossé l’uniforme des Mighty Ducks d’Anaheim avant de poursuivre sa carrière avec les Islanders de New York puis l’Avalanche du Colorado jusqu’en 2003-2004.