在中国以前黑社会也叫做秘密结社，对于中国秘密结社的起源也就是黑社会的起源，可上溯到东汉的张角所领导的黄巾军起义。张角在起义时，利用自己所领导的“太平道”秘密结社，发动了一场规模宏大的农民起义。宋代出现了白莲教，韩山童、刘福通利用白莲教发动了反元斗争。起义首领刘福通、郭子兴、朱元璋都是白莲教徒。这时期的秘密结社在动员农民、组织起义中发挥了作用。清入关时，实行民族压迫政策，发生了大规模的反清斗争。同时，一些反清义士秘密结社，采取各种形式进行反抗。“洪门”便应运而建了。又因入该会者“拜天为父，拜地为母”，故又称天地会。天地会的宗旨是“反清复明”，它大约成立于康熙年间，活动范围主要在南方。秘密结社中有相当一部分具有浓厚的反抗民族压迫的色彩，对于汉族人民来说有很大的号召力。这时，中国的秘密结社继续发展，成为一支重要的社会力量。后来，在推翻清朝统治的斗争中，这些力量也发挥过一些作用。
    白莲教和天地会两大体系在几百年的发展中，又分化成许多派别。白莲教体系繁多，如闻香教、八卦教、清水教、天理教、一贯道等。天地会又称三点会、三合会、，这个体系也分了许多流派，如小刀会、红线会、哥老会等，由于各地语言风俗不同，对各派的称谓也有变化，如哥老会，西南又称“袍哥”。
    秘密社会组织在失去反清斗争目标后，其中一向组织及其首领，开始滋生了专横跋邑的作风，自身的恶习和痼疾也越来越重；各派政治势力又竞相拉拢这些组织，以图作为自己争权夺利的工具。政治上的退化和自身癌变使在病态社会东奔西突的大多数秘密社会组织开始迅速堕落腐化，被称之为黑社会组织。