Корените на традиционната китайска медицина се крият много далече в миналото – толкова далече, че мненията на различните специалисти се различават с хиляди години.
Едни от тях са привърженици на идеята, че тази медицина е с начало от времето преди Жълтия Император – Хуан Ди (митологическа личност, съществувала около 2650 г. пр. н. е.). Легендата гласи, че той пръв е записал тези познания в трактата Хуан Ди Ней Дзин (Трактат за вътрешното на Жълтия Император), за да се запазят за поколенията.
Други пък, поставят под съмнение съществуването на този император и датират написването на първия медицински трактат между 400 и 200 г. пр. н. е., като се основават на археологическите находки на този документ.
Независимо, че Хуан Ди Ней Дзин не е от преди четири-пет хиляди години, (само от 2200 г.) това не означава, че практиката на тези методи е изчакала първо някой да роди теоретично такъв голям труд. Тъкмо обратното, за да се стигне до написване на нещо толкова обхватно и подробно, е имало достатъчно голяма практика. Освен това е известно, че императорите в Китай често са имали навика да горят всички книги, ако е имало опасност знанието да се разпространи далеч зад стените на дворците. В такъв случай как може да се каже, че съществуването на една медицина започва от времето, към което е датиран текстът, който се води за най-стар (към този момент)?
В периода след новата ера, от който са останали достатъчно писмени източници, изследователите на медицинските текстове отчитат, че китайската медицинска теория е допълвана нееднократно, внасяни са коментари и бележки, съдържащи личния опит на известни лекари. Създавани са нови текстове, които са систематизирали съществувалите преди тях малки и по-големи ръкописи. Такива трудове са Jia Yi Jing (Систематизирана класика на акупунктурата и обгарянето с мокса), Nanjing (Трудните въпроси в китайската медицина), Zhen Jiu Da Chen (Големите достижения на акупунктурата и обгарянето с мокса), Shan Han Lun (Трактат за болестите, предизвикани от студ), Wen Bing Xue (Трактат за болестите, предизвикани от горещина) и много други.
По-важното обаче е, че философските основи и методите на практикуване на това изкуство са останали почти непроменени за няколко хилядолетия. (Нещо, което не можем да кажем за нито една друга медицина, камо ли за конвенционалната.) Това само по себе си говори, че тази медицина работи, в противен случай отдавна щеше да бъде забравена.
Акупунктурата, лечението с билки и практикуването на чигун са били основни методи за лечение на многобройното население на Китай до настъпването на културната революция. Дори и в настоящия момент една четвърт от човечеството продължава да се лекува едновременно с методите на традиционната китайска и на западната медицина.