贞观十七年（643年）黎阳县改属卫州。是年在浮丘山巅始凿石窟造像。此后，开耀、永淳、如意等年间又有续雕，窟内雕佛像990余个，后人称之“千佛洞”。

正文

武德元年（618年）六月宇文化及于江都杀杨广后，拥兵十余万至东郡，留辎重于滑台，引兵北攻黎阳。徐世盇（懋功）据黎阳，避其锋，弃黎阳城以固守仓城。七月李密受东都杨侗之封，放弃与王世充之争，悉力以对付化及。化及攻仓城屡败，密伪与和，以痹其众。化及识计后，大怒，与密大战于同山下。密中流矢，屯兵汲郡。化及力竭粮尽，部下多叛逃，乃败走魏郡。密还巩洛，留徐世盇守黎阳。十一月徐世盇收到魏徵劝降信后，派人到长安请降。高祖李渊准魏征奏议，于黎阳设黎州总管府，辖四州（殷、卫、澶、洹）、八县（黎阳、临河、内黄、汤阴、观城、顿丘、繁阳、澶水），委徐世盇为黎州总管，封上柱国，莱国公，赐姓李。

北窟洞口高150厘米，阔3米，进深170米，穹窿顶，饰有藻井。窟内雕有大小佛像120余尊，都已无头，洞内壁上刊有宋代嘉祐年间，明代成化年间题记。这是两个石窟中最晚的题记。

小山头的南、北、西三面凿有很多佛龛，多为唐代造 像。有元、明、清各代题记，均有一定的书法价值。

千佛洞石造像虽大部分残损，但它还保留着盛唐时期的石刻艺术作品，是一批珍贵的文化遗产。1963年被公布为省级重点文物保护单位。

千佛洞与千佛寺：碧霞宫之北有一突起的小山头，平顶削壁，高约4米，南北略长，人称"山上之山"。其西壁并排有两个石窟，南窟即千佛洞。券形洞口高150厘米，上额刻 "佛国"二字，下面刻有六个巴思巴文，洞高250厘米，穹隆顶，饰有藻井，进深3米，窟内四壁造像990余个，最高的约2米，最小的只有4厘米，大部分已无头。

千佛寺与千佛洞紧邻，寺以千佛洞得名，《河朔访古录》载："千佛寺始建失考。寺内有石崖，高丈余，上建阁以祀真武。崖下凿洞二，并大小佛像身躯，而所谓千佛洞也"。