Aujourd'hui chef-lieu de canton, Bully-les-Mines appartenait jusqu'à la révolution a l'ancien pays d'Artois et n'était qu'un bourg de 500 habitants jusqu'au milieu du XIXème siècle.
Bully (Buily-en-Gohelle à l'époque), figure sur la carte de CASSINI rédigée au XVIIIème siècle. Si on ne retrouve pas de traces préhistoriques significatives, un bracelet, des bijoux et monnaies Celtes, attestent du passé fort lointain de la commune. L'époque Gallo-Romaine est plus riche, on a retrouvé des monnaies du Haut et Bas Empire, des poteries, des bijoux et des sépultures.
Le voisinage de trois places fortes, Arras, Béthune et Lens, est souvent funeste à Bully qui sert de terrain de combat ou de passage des armées. En 1213, le village est dévasté par les troupes du Comte Ferrand. En 1303, il est rasé, même les arbres sont abattus. En 1348, un tiers de la population meurt de la peste noire. En 1383, le village est assailli par les Flamands révoltés.
Lors de l'invasion de l'Artois par Louis VII en 1513, Bully fut une nouvelle fois ravagé par les troupes Françaises et Albanaises qui pillèrent les récoltes, chevaux et bestiaux. En 1537 ce sont les troupes de Louis XII qui emportent tout. Jusqu'en 1557, le receveur ne peut prélever aucun impôt, tant la population est éprouvée.
En 1648, lors de la Bataille de Lens, Bully fut le témoin du choc des armées du grand Condé et des Espagnols. De 1709 à 1712, Bully fut ruiné par les pillages des armées de la guerre de Succession d'Espagne. La Paix d'Utrech permit à la commune de se reconstruire jusqu'à la révolution. En 1793, la commune compte 410 habitants.
En 1796, un incendie consuma la moitié du village.
La transformation du village et l'accroissement rapide de sa population sont la conséquence de la houille sur le territoire de la commune. Vers la fin de 1850, Alexis Boitelle, directeur de la compagnie des Mines de Bethune, arrivait à Bully avec les ouvriers et le matériel nécessaires à l'exploitation des premiers sondages. À l'époque, Bully est une petite commune d'environ 400 âmes, pauvre et mal cultivée, où les ressources étaient si restreintes que l'on ne pût y trouver le bois nécessaire à la construction du premier abri pour exécuter les sondages. Les habitants de l'époque résidaient dans le village concentrés autour de l'Église Saint-Maclou. La première fosse de la compagnie de Béthune démarre à Bully en 1852 et la couche de charbon est atteinte en 1853... L'aventure charbonnière va alors profondément modifier le paysage de la commune, qui compte 1 450 habitants.
La seconde fosse qui porte le n°2 ou Fosse de Mazingarbe à cause de sa proximité avec cette ville, démarre son activité en 1855.
Au fil des années des habitations sortent de terre au lieu dit « Les Brebis », le carreau de Fosse 6, l'église Ste Barbe, les écoles, les Grands Bureaux, des routes, des voies ferrées, une gare fut dénommée « Gare des Brebis-Grenay ». Cet ensemble forme ce que l'on appellera « Hameau des Brebis » qui avait la particularité de se situer sur le territoire des deux communes de Bully-les-Mines et Mazingarbe.
En 1861, se tiendra au centre du village aux lieux-dits les Hautes Warnières (actuelle place Victor Hugo), un marché hebdomadaire qui se déroulera le jeudi, où l'on trouvera toutes sortes de denrées. En 1876, le marché des Brebis, réservé aux légumes et comestibles, ouvrira le samedi 7 octobre, et se déroulera tous les samedis. Ces deux marchés hebdomadaires ont résisté à l'épreuve du temps.
Une catastrophe minière à la Fosse n°1 fit 19 victimes dont l'ingénieur Célestin Delattre et des enfants de 9 à 15 ans, le 18 novembre 1869.
Lors du Conseil Municipal du 18 décembre 1897, les membres ont approuvé à l'unanimité la proposition du Maire, de donner au hameau le nom des Brebis et de donner le nom de Bully à l'agglomération. Le 17 février 1898, il est décidé de ne maintenir le nom des Brebis que pour la partie située sur le territoire de Mazingarbe, la partie Bullygeoise prenant naturellement le nom de Bully-les-Mines. Le village de Bully se dénomme quant à lui « la Hauteville ».
Le 28 aout 1925, le Maire donne communication du décret du 25 juillet 1925 concernant la dénomination de Bully qui sera désormais Bully-les-Mines, afin d'éviter toute erreur de communication entre les villes de Bully et Grenay, en référence à la gare qui porte le même nom.