Au plan religieux, les envahisseurs romains avaient « interprété »les divinités gauloises et les avaient identifiées à leurs Dieux. C'est ainsi que l'on continuait à honorer Toutatis et Taranis, qui se dissimulaient en quelque sorte sous Mercure (ou Mars) et Jupiter, ou que l'on vénérait toujours, dans la Belgique romaine, les divinités des eaux, les déesses mères assurant la fécondité de la terre. C'est seulement vers la fin du Ier siècle que sont attestées, en Gaule, les premières communautés chrétiennes de Lyon et de Vienne, issues des chrétiens d'origine orientale.
A l'avènement de Constantin (306/312), la nouvelle religion était encore très faiblement installée dans notre région. Ses origines sont d'ailleurs obscures, et il est certain qu'avant les grandes invasions qui débutèrent en 406, il y avait, certes, quelques implantations essentiellement urbaines, mais elles étaient sans communautés suffisamment nombreuses pour établir une hiérarchie épiscopale.
C'est sans doute sous la forme de missions à caractère provisoire, ou à l'initiative de quelques individus que le Christianisme a commencé d'exercer une influence limitée, la très grande majorité des campagnes n'étant pas atteinte. A noter toutefois que l’on a retrouvé à Bavay dans les remblais du IVe siècle l’extrémité d’une spatule, décorée d’un « chrisme » (monogramme du Christ, formé des lettres grecques khi (X) et rhô (P) ), ce qui prouverait que la foi nouvelle y était connue et pratiquée.
A ce sujet, il semble d’ailleurs que la capitale des Nerviens possédait peut-être un évêque au IVè siècle. En effet, il s'agirait d'un certain « Supérior », dont le nom est cité dans un document qui donne les signatures des participants à un Concile qui se serait tenu à Cologne en 346. Cette assemblée n'a probablement jamais existé, mais on peut penser que le faussaire a utilisé les noms de personnages réels, car quelques évêques cités sont, eux, fort connus.
Peut-être cet évêque a-t-il été un évêque missionnaire ? Quoi qu'il en soit, et même si l'on admet en définitive l'existence de ce premier évêque des Nerviens, on notera qu'il n'a eu aucun successeur connu avant St Vaast, dans la première moitié du VI' siècle.
En tout état de cause, les grandes invasions (Vandales, Suèves, Alains (Iraniens), Saxons, Burgondes, Alamans notamment) qui débutèrent en 406, après le franchissement du « limes », balayèrent à la fois christianisme et romanité, la Belgique seconde étant désormais vouée à la domination des Germains.
Bavay fut entièrement dévastée, et c'est Cameracum (Cambrai) qui devint capitale des Nerviens. En effet, la qualité du « castrum », situé sur un petit plateau, proche de l'Escaut, et des voies romaines importantes (accès à Boulogne et Cologne notamment) faisait de Cambrai une cité moins exposée que Bavay, d'ailleurs complètement ruinée : civitas camaracensium.
Profitant de ces événements, les Francs saliens, qui avaient reçu en 356 de l'empereur Julien des terres en Toxandrie (Campine), reprirent leur marche vers le sud, et atteignirent Tournai et Cambrai. Ils installèrent leur capitale à Tournai.
A l'avènement de Clovis, son pouvoir s'étendait bien au-delà de cette capitale, et la Gaule romaine était en passe de devenir la Gaule franque, après la victoire de Tolbiac. Lorsque Clovis se fit baptiser en 496 par St Rémy, celui-ci, de par sa position d'évêque de Reims, capitale de la « Belgique seconde », avait déjà juridiction sur toute cette province, jusqu'à la mer du Nord (le diocèse de Reims, rappelons-le, avait été fondé probablement au milieu du IIIe siècle par St Sixte).