在南北朝的時候，佛教禪宗第五祖弘忍大師，在湖北的黃梅開壇講學，手下有弟子五百餘人，其中翹楚者當屬大弟子神秀大師。神秀也是眾僧公認的禪宗衣缽的繼承人。弘忍漸漸的老了，於是他要在弟子中尋找一個繼承人，所以他就對徒弟們說，大家都做一首偈子(有禪意的詩)，看誰做得好就傳衣缽給誰。這時神秀很想繼承衣缽，但又怕因為出於繼承衣缽的目的而去做這個偈子，所以他就在半夜起來，在院牆上寫了一首偈子：
身是菩提樹，心為明鏡台。
時時勤拂拭，勿使惹塵埃。
這首偈子的意思是，要時時刻刻去擦拭自己的心靈和心境，通過不斷的修行來抗拒外面的誘惑及種種邪魔，是一種入世的心態。強調修行的作用。而這種理解與禪宗大乘教派的頓悟是不太吻合的。當天早上大家看到這個偈子都說好，而且都猜到是神秀作的，很是佩服。可是五祖弘忍法師看後沒有做任何的評價，因為他知道神秀還沒有頓悟。
正當廟裡的和尚們都在談論這首偈子的時候，被廚房裡的一個火頭僧—惠能禪師聽到了。惠能當時就叫別人帶他去看這個偈子。這裡需要說明的一點是，惠能是個文盲，他不識字。他聽別人說了這個偈子，當時就說這個人還沒有領悟到真諦啊。於是他自己又做了一個偈子，央求別人寫在了神秀的偈子的旁邊：
菩提本無樹，明鏡亦非台。
本來無一物，何處惹塵埃。
從這首偈子可以看出惠能是個有大智慧的人，他這個偈子很契合禪宗的頓悟的理念，是一種出世的心態。主要意思是，世上本來就是空的，看世間萬物無不是一個空字，心本來就是空的話，就無所謂抗拒外面的誘惑，任何事物從心而過，不留痕跡。這是禪宗的一種很高的境界，領略到這層境界的人，就是所謂的開悟了。
弘忍看到這個偈子以後，問身邊的人是誰寫的，邊上的人說是惠能寫的，於是他叫來了惠能，當著他和其他僧人的面說：寫得亂七八糟，胡言亂語，並親自擦掉了這個偈子。然後在惠能的頭上打了三下就走了。這時只有惠能理解五祖的意思，於是他在晚上三更的時候去了弘忍的禪房。在那裡弘忍向他講解了《金剛經》這部佛教最重要的經典之一，並傳了衣缽給他。然後為了防止神秀的人傷害惠能，讓惠能連夜逃走。於是惠能連夜遠走南方，隱居10年之後在莆田少林寺創立了禪宗的南宗。而神秀在第二天知道了這件事以後，曾派人去追惠能，但沒有追到。