中国古代的心丧有两个渊源，一是商代高宗谅篙三年，一是孔门弟子为孔子心丧三年。
高宗谅篙之制最早见于《尚书·周书·无逸)}:“周公曰:‘其在高宗，旧时劳于外，爱及小人，作其即位，乃或亮阴，三年不言。其惟不言，言乃雍。亮阴，《论语·宪问》作“谅阴”，《礼记·丧服四制》作“谅篙气《尚书大传》作“梁篙”，是帝王丧之礼的专用语。西晋杜预说:“周公不言高宗服丧三年，而云谅篙三年，此释服心丧之文也。晋代博士段畅重申杜预之说，“素服心丧，谓之谅篙。不论把亮阴释为凶庐还是释为信默，它同“三年不言”一起，作为一种居丧形式是没有问题的，后人也把它专用于帝王居丧，因而成为帝王心丧之礼的一个源头。当然，后世的谅篙未必全指心丧。
孔门弟子为恩师服丧见于《礼记·檀弓))子贡建议“请丧夫子，若丧父而无服”。郑玄注:“无服不为衰，吊服而加麻，心丧三年，对此，《史记》亦有记载，孔子葬后，“弟子皆服三年。三年心丧毕，相诀而去”《礼记》又载:“事师无犯无隐，左右就养无方，服勤至死，心丧三年。对于这句话，清代徐乾学认为“心丧之说始见于此。为师心丧三年实质上是把为父、君所服的最长的丧期(三年)和为朋友所服的最轻的丧服形式(吊服加麻)揉合在一起的丧礼变制，它更能表居丧者对恩师的尊敬和真情。
到汉代，心丧继续用于师丧，如东汉李部去世后，“门人上党冯青独制服，心丧三年，时人异之”。此外，汉代还出现了为亲属服心丧三年的情况。如东汉马棱，“少孤，依从兄毅共居业，恩犹同产，毅卒无子，棱心丧三年。尽管如此，心丧之礼在先秦两汉并不是一种正式的丧礼，而是由少数人自发实施的权宜之礼。
孔门弟子为师服丧作为心丧礼的源头之一是无可争议的。至于高宗亮阴，尽管学界争论颇多，但它被后人视为帝王居丧的表现并作为心丧的依据却是史实。先秦两汉时期，皇帝专用的亮阴之制已经久废而不行。到了西晋，才由晋武帝重新把谅篙之礼发展成为一种真正意义上的心丧之礼。心丧的对象也从恩师、远亲逐步扩大到父母、君主，并同上古帝王专用的亮阴之制达到了某种合流，心丧之礼逐步制度化、系统化。