D’après les écrits historiques, les noms anciens du village sont : Rollaincort en 1010, Rollaincourt en 1030 et Raillencourt en 1142. La Seigneurie de Raillencourt fut possédée en 1150 par une famille de ce nom. Sainte Olle vient de Saintolla, nom que l’on trouve dans une bulle du Pape Innocent II datée de 1142. Sainte Olle désigne la Sainte vivant en recluse sur le terroir et qui fut martyrisée. En la Cathédrale de Cambrai, un vitrail lui est dédiée sur le transept gauche. Le village de Raillencourt Sainte Olle se trouvait sur une voie romaine reliant Cambrai à Arras. Le terrage de Raillencourt Sainte Olle appartenait à l’abbaye de Cantimpré. Les Seigeurs sont Amaury en 1150, Jacques en 1170 et Jacques de Raillencourt qualifié de chevalier en 1204. Lamelin est le dernier Seigneur de Sainte Olle. Parmi les Mayeurs, sortes de Bourgmestres ruraux sont mentionnés : Jacques Hutin en 1303, Charles Prevost en 1599 et Antoine Canonne en 1630. Banlieue immédiate de Cambrai, la commune en a partagé toutes les vicissitudes historiques fort nombreuses (occupation espagnole). Jeanne d’Arc, prisonnière des Anglais serait passée à Sainte Olle lors de son transfert à Rouen, sur le chemin reliant Cambrai à Arras. A la fin du 19ème siècle et début du 20ème siècle, l’activité industrielle occupait les villageois (fabrique de chicorée Cardon, Black, Laman). En 1914, il y avait 16 estaminets dans le village pour 1100 habitants.