由于北周时期宗教势力的扩大，在政治、经济等方面严重威协到皇家的统治利益，所以周武帝在举行多次佛、道两教辩论之后，于建德三年（574年）下令全国禁止佛、道二教活动。这便是我国宗教史上有名的三武灭法中的第二次灭法活动。时少林寺属北齐，尚未殃及。至承光元年二月（577年），北周灭北齐，少林寺许多佛像被毁，僧众被遣散，寺院一度被废。大象二年六月（580年）周静帝在杨坚的支持下恢复了佛、道二教，两京各立一寺，少林寺更名陟岵寺，到隋开皇元年（581年）才恢复了少林寺原名。