二祖庵位于常住院对面的钵盂峰顶,因庵与其北的初祖庵相对,故当地人称之为“南庵”,它是少林地区地势最高的一座古建筑。据旧志载,相传禅宗二祖慧可立雪断臂后到钵盂峰顶养伤修炼,后寺僧为纪念二祖慧可而建此庵。庵创建的年代大致和初祖庵同时,为北宋后期。二祖庵坐北向南,长34米,宽28.5米,院内有古柏多株及古井四眼。四眼古井传说为二祖慧可卓锡而成,因名“卓锡井”或“卓锡泉”。

    二祖庵有两个传说:二祖养臂、卓锡得井。

    二祖养臂:传说二祖慧可立雪断臂后,实现了他一生最大的心愿——臂断心安。但严重的伤势,使他坐卧不宁,经行不成。为了使慧可尽快恢复健康,达摩就让他在这个山峰上禅养臂伤,并挑选了两个得力寺僧,作为近身扶侍。钵盂峰稍偏西南靠近少室山石壁的地方,有一块巨石,面积有数平方米,石平如桌案,二祖就在这块石头上休养栖息,面壁坐禅。

    卓锡得井:达摩经常从常住院到钵盂峰探望慧可,询问他的伤口愈合情况和生活状况。达摩发现扶侍二祖的寺僧从山下往山上抬水吃,便问道:“你们为什么要从山下向山上抬水?”慧可回答:“水在山下边,约有一里余,要是山上有水泉,该多好啊!”达摩听后就在距离二祖禅栖的大石头西北不远的草坪上,用自己拄的锡杖扎了四个窟窿,霎时四股清泉涌地而出,由于用锡杖扎地成泉,所以叫做“卓锡泉”。后人用砖石镶砌加固并壁,因名“卓锡井”。现在四井尚存。