在中國以前黑社會也叫做秘密結社，對於中國秘密結社的起源也就是黑社會的起源，可上溯到東漢的張角所領導的黃巾軍起義。張角在起義時，利用自己所領導的“太平道”秘密結社，發動了一場規模宏大的農民起義。宋代出現了白蓮教，韓山童、劉福通利用白蓮教發動了反元鬥爭。起義首領劉福通、郭子興、朱元璋都是白蓮教徒。這時期的秘密結社在動員農民、組織起義中發揮了作用。清入關時，實行民族壓迫政策，發生了大規模的反清鬥爭。同時，一些反清義士秘密結社，采取各種形式進行反抗。“洪門”便應運而建了。又因入該會者“拜天為父，拜地為母”，故又稱天地會。天地會的宗旨是“反清複明”，它大約成立於康熙年間，活動範圍主要在南方。秘密結社中有相當一部分具有濃厚的反抗民族壓迫的色彩，對於漢族人民來說有很大的號召力。這時，中國的秘密結社繼續發展，成為一支重要的社會力量。後來，在推翻清朝統治的鬥爭中，這些力量也發揮過一些作用。
    白蓮教和天地會兩大體係在幾百年的發展中，又分化成許多派別。白蓮教體係繁多，如聞香教、八卦教、清水教、天理教、一貫道等。天地會又稱三點會、三合會、，這個體係也分了許多流派，如小刀會、紅線會、哥老會等，由於各地語言風俗不同，對各派的稱謂也有變化，如哥老會，西南又稱“袍哥”。
    秘密社會組織在失去反清鬥爭目標後，其中一向組織及其首領，開始滋生了專橫跋邑的作風，自身的惡習和痼疾也越來越重；各派政治勢力又競相拉攏這些組織，以圖作為自己爭權奪利的工具。政治上的退化和自身癌變使在病態社會東奔西突的大多數秘密社會組織開始迅速墮落腐化，被稱之為黑社會組織。