Un certain Fischer, fils de notaire de retour d'Angleterre, introduit le rugby auprès de ses camarades du collège de Bourgoin. Les premières parties se jouent sur le champ de manœuvres de l'Oiselet. Les couleurs ciel et grenat sont directement inspirées d'Aston Villa, le club anglais que Fischer affectionnait.
Le club est officiellement créé sous le nom de Club Sportif Bergusien (CSB) — les Bergusiens étant les habitants de Bourgoin. Il est le cinquième club de rugby de l'Isère, après Grenoble, Vienne, Vizille et La Mure. Dès 1910, le CSB s'engage dans le Challenge Brennus et remporte son premier titre dès l'année suivante.
Le CSBJ devient locataire d'un terrain à Jallieu. Georges Osch, Robert Faure et Pierre Rajon fondent le Parc des Sports. Le terrain est acquis en 1923, puis offert aux villes de Bourgoin et Jallieu en 1933 — c'est la naissance de ce qui deviendra le mythique Stade Pierre Rajon.
Le club prend officiellement le nom de Club Sportif Bourgoin-Jallieu en 1956, anticipant de onze ans la fusion officielle des deux communes, qui n'interviendra qu'en 1967.
Le 16 mai 1965, le CSBJ remporte le Championnat de France de 2e division en battant Beaumont-de-Lomagne (14-6 ap.) à Avignon. Le club accède pour la première fois de son histoire en première division. Cette performance sera reproduite en 1971 (victoire 15-6 contre Pamiers) et 1973 (10-6 contre Le Creusot).
Après une finale perdue en 1981 contre Aire-sur-l'Adour, le CSBJ décroche le titre de champion de France Groupe B contre Le Creusot. Avec l'émergence de Marc Cécillon, futur international, le club acquiert une stabilité durable et ne quittera plus l'élite.
Le CSBJ atteint pour la première fois les quarts de finale du Championnat en 1994 (éliminé par Dax), puis les demi-finales en 1995, défait par le Stade Toulousain (16-10 à Béziers). L'ère des grands joueurs arrive : Pascal Papé, Julien Bonnaire, Morgan Parra, Sébastien Chabal ont tous porté le maillot ciel et grenat.
Saison historique. Le CSBJ atteint la finale du Championnat de France — perdue de justesse contre Toulouse (16-10). Mais dans le même temps, les Berjalliens remportent le Challenge Européen en battant Castres. C'est le plus grand titre du club à ce jour. La même année, les Espoirs sont finalistes du Championnat de France.
Le CSBJ réalise la série de 46 matchs consécutifs sans défaite au Stade Pierre Rajon. Une performance légendaire dans le rugby français. Deux demi-finales du championnat en 2004 (Stade Français) et 2005 (Biarritz), et deux finales de Challenge Européen en 2003 et 2009 (perdue contre les Northampton Saints à Twickenham).
Le départ du mécène Pierre Martinet, des problèmes financiers majeurs, et des rétrogradations administratives précipitent le club en Fédérale 1 en 2012, puis en 2017. Une traversée du désert douloureuse pour une institution du rugby français.
En mars 2018, Henri-Guillaume Gueydan reprend la présidence. La Tribune Nord est inaugurée en 2018, la Tribune Sud en 2021. En mars 2020, la SAS BJ Rugby est créée. En 2020, le CSBJ intègre la Nationale (3e échelon du rugby français) et y évolue depuis lors.
Pascal Papé, ancien international et enfant du club, devient Manager général en juillet 2023, avec Grégoire Pintiaux aux avants et Sébastien Bouillot aux arrières. Le CSBJ poursuit sa reconstruction avec un fort accent sur la formation locale, fidèle à ses valeurs fondatrices de 1906.