传说五台最早是道家的地盘，《道经》里称五台山为紫府山，曾建有紫府庙。《清凉山志》称佛教的文殊菩萨初来中国时，居于石盆洞中，而石盆在道家的玄真观内，这说明当时五台山为道家所居。
佛教最初传入中国时，只有少数人奉行。公元前二年，大月氏国(原居中国新疆西部伊犁河流域的少数民族，西迁中亚后建立的国家)国王的使者伊存来到当时中国的首都长安(即今西安)，他口授佛经给一个名叫卢景的博士弟子，这是中国史书上关于佛教传入中国的最早记录。
佛教传入五台山，普遍的说法是始于东汉。史籍记载，永平十年(公元67年)十二月，汉明帝派往西域求法的使者同两位印度高僧迦叶摩腾和竺法兰来到洛阳。
永平十一年在洛阳城西雍门外御道之南，建造一座僧院以供这两位印度高僧居住。为纪念白马负经(《四十二章经》)输像(佛像)之功，因名白马寺。
永平十一年，迦叶摩腾、竺法兰从洛阳来到了五台山(当时叫清凉山)。由于山里很早就有阿育王的舍利塔，再加上五台山又是文殊菩萨演教和居住的地方，他二人想在此建寺，但由于当时五台山是道教根据地，他二人颇受排挤，因此奏知汉明帝。汉朝廷为辨别佛教与道教的优劣高下，让僧人与道士表演、说明、验证，因此双方达成协议——约期焚经，以别真伪(相传，焚经地点在今西安焚经台)。焚经的结果，道教经文全部焚毁，佛教经文却完好如初，故他二人获得建寺的权利。台内山多地广，河流纵横，何处适合建寺?《清凉山志》载：“在大塔左侧，有释迦牟尼佛所遗足迹，其长一尺六寸，广六寸，千幅轮相，十指皆现”。相传他二人不仅发现此足迹，而且还发现佛“舍利”，此外，营坊村这座山的山势奇伟，气象非凡，和印度的灵鹫山(释迦牟尼佛修行处)相似。由于这三种原因，故决定在此建寺。寺院落成后，以其山形命名为灵鹫寺。汉明帝刘庄为了表示信佛，乃加“大孚”(即弘信的意思)两字，因而寺院落成后的全名是大孚灵鹫寺。大孚灵鹫寺是现今显通寺的前身。从那时起，五台山开始成为中国佛教的中心，五台山的大孚灵鹫寺与洛阳白马寺同为中国最早的寺院。
敦煌壁画：五台山图
南北朝时期，五台山佛教的发展出现第一个高潮。北魏孝文帝对灵鹫寺进行规模较大的扩建，并在周围兴建了善经院、真容院等十二个寺院。北齐时，五台山寺庙猛增到二百余座。到了隋朝，隋文帝又下诏在五个台顶各建一座寺庙。即东台望海寺、南台普济寺、西台法雷寺、北台灵应寺、中台演教寺。也因为五台山是文殊菩萨演教的地方，所以这五个台顶上的寺庙均供奉文殊菩萨，但五个文殊的法号不同：东台望海寺供聪明文殊、南台普济寺供智慧文殊、西台法雷寺供狮子吼文殊、北台灵应寺供无垢文殊、中台演教寺供孺童文殊。从此以后，凡到五台山朝拜的人，都要到五个台顶寺庙里礼拜，叫做朝台。此时，五台山之名已在北齐史籍中大量出现。
盛唐时期，五台山佛教的发展出现了第二个高潮。这个期间据《古清凉传》，全山寺院多达三百所，有僧侣三千余人。此时的五台山，不仅是中国著名的佛教名山之一，而且是名符其实的佛教圣地了，被誉为中国佛教四大名山之首。
五台山成为佛教圣地，并在中外佛教界发生重大影响，是从唐代开始的。有唐一代是五台山佛教发展史上的一个关键时期。
李唐王朝起兵太原而有天下，所以视五台山为“祖宗植德之所”。李渊在起兵反隋时，就对佛教许下大愿，如果当上皇帝，一定大弘三宝。武德二年(619)李渊便在京师集聚高僧，立十大德，管理僧尼事务。唐太宗即位后，重兴译经事业，使波罗颇迦罗蜜多罗主持，又度僧三千人，并在旧战场各地建造寺院。贞观九年(635)，太宗下诏曰：“五台山者，文殊必宅，万圣幽栖，境系太原，实我祖宗植德之所，切宜祗畏。”“是年，台山建十刹，度增数百。”
武则天在争夺皇位的斗争中，非常重视佛教的作用。长寿二年(693)，名僧菩提流志等呈上新译《宝雨经》，称菩萨现女身，为武则天上台大造舆论。证圣元年(695)，武后命菩提流志和实叉难陀重新翻译《华严经》。圣历二年(699)译毕。新译《华严经》说：“东北方有处，名清凉山。从昔以来，诸菩萨众于中止住。现有菩萨名文殊师利，与其眷属诸菩萨众一万人，俱常在其中而演说法。”长安二年(702)，武则天自称“神游五顶(清凉五台山的五大高峰)”，敕命重建五台山的代表寺院清凉寺。竣工后，命大德感法师为清凉寺住持，并封其为“昌平县开国公，食邑一千户，主掌京国僧尼事。”
这是五台山在全国佛教界取得统治地位的发端，也是五台山在封建统治者的利用和主持下，发展成为名山圣地的开始。
据记载，唐代自太宗至德宗，“凡九帝，莫不倾仰灵山，留神圣境，御札天衣，每光五顶，中使香药，不断岁时，至于百辟归崇，殊帮赍供，不可悉记矣。”显而易见，从唐太宗到唐德宗，都对五台山佛教给予极大的支持和扶助。
从佛教经典来看，除新译《华严经》说文殊菩萨住处“名清凉山”外，《佛说文殊师利宝藏陀罗尼经》也云：“佛告金刚密迹王言：我灭度后，于此南赡部州东北方，有国名大震那，其中有山名五顶，文殊童子游行居住，为诸众生于中说法。”
由于佛教经典中所说的文殊菩萨住处——“清凉山”“五顶山”，同五台山的地形、气候、环境，极为相似，所以，中外佛教徒便把五台山这个“五峰耸出”“曾无炎暑”的自然场所，当作是他们虚幻世界里的文殊菩萨住地了。五台山由此驰名中外，显赫于世，成为佛教徒竞相朝礼的圣地。不言而喻，五台山是借助于李唐王朝的强盛而成为圣地、名扬中外的。
在唐代，佛教备受推崇，文殊菩萨尤其为佛教徒所尊崇。当时国家规定，全国所有寺院的斋堂，都必须供奉文殊菩萨圣像。由于朝野都尊奉文殊菩萨，视五台山为佛教圣地，所以五台山空前隆盛，名僧辈出，澄观就是一个突出的代表。
澄观，(738年-839年)，俗姓夏侯，字大休，越州山阴(今浙江绍兴)人。十一岁，在应天宝林寺出家，十四岁得度，三十九岁时，“誓游五台，一一巡礼。”在遍访五台山名刹胜迹之后，留居大华严寺研习《华严经》，在寺中主讲《华严经》五年。后来，澄观觉得“华严旧疏，旨约文繁。”于是，“旦暮策怀，思惟造疏。”唐德宗兴元元年(784年)四月八日，澄观谢绝交游，在大华严寺制疏阁重新注疏《华严经》。至德宗贞元三年(787年)十一月五日，历时三年多，终于著述出《大方广佛华严经疏》六十卷。唐代宗时，澄观被代宗“事以师礼”。唐德宗又尊其为“教授和尚”，“诏受镇国大师号，进天下大僧录。”宪宗即位，“敕有司别铸金印，迁赐僧统清凉国师之号，统冠天下缁僧，主教门事。”“穆宗、敬宗咸仰巨休，悉封大照国师。文宗太和五年，帝受心戒于师。开成元年，帝以师百岁寿诞，赐农财食味，加封大统国师。”“中外台铺重臣，咸以八戒礼而师之”。澄观“生历九朝，为七帝师”，于唐文宗开成四年(839年)卒，寿一百零二。唐文宗“特辍朝三日”，命“重臣缟素”，隆重葬之。被尊为“华严宗第四代祖师”。有唐一代，五台山名僧辈出，这也是五台山佛教圣地形成的一个重要标志。
五台山佛教圣地形成的另一标志，是佛教寺院的大规模兴建和僧侣人数的增加。在唐代，五台山见诸记载的佛寺就有七十余所，其规模都十分宏伟。
随着佛寺的兴建和扩大，五台山的僧侣人数亦日益增多。唐德宗贞元年间，合山僧尼达万人之众。寺院的兴旺发展引起对社会政治、经济的重大负面影响，唐文宗遂于会昌五年(854年)下诏废佛，命令拆毁寺字，勒令僧尼还俗。综计全国拆毁大小寺庙四万四千六百余所，僧尼还俗二十六万余人，收回土地数千万顷。五台山亦不例外，僧侣散尽，寺庙被毁。唐宣宗即位，又再兴佛教。政府规定五台山的僧数仍达“五千僧”。实际上，加上私度和游方僧，要比“五千僧”多得多。纵观历代五台山的僧侣人数，以唐代为最多。寺庙林立，僧侣若云，这也是唐代五台山佛教圣地形成的一个标志。
唐代五台山佛教圣地形成的另一个标志，是外国佛教徒对五台山的无限景仰和竞相朝礼。唐朝经济繁荣，国势强盛，在国际上声望甚高，是亚洲各国经济文化交流的中心。随着国际交往的扩大，五台山还受到印度、日本、朝鲜和斯里兰卡等国佛教徒的景仰。朝礼五台山和到五台山求取佛经、佛法的外国僧侣很多。
