据记载，周武王经过精心的准备，要去攻打商纣王。为此，周部落还进行了一次“军事演习”，并且还载了周文王的“木主”，也就是周文王的替身木偶。伯夷、叔齐看到这样的场景，跪在周武王的马车前进谏说：“你的父亲周文王刚刚去世，还没有下葬，而且是在守丧期间大动干戈，可以称为孝吗？以臣子的身份去攻打君主，可以称之为仁吗？”在一旁的士兵见他们口出狂言，侮辱君上，想把他们拉出去杀掉。姜太公立即制止说：“这两个人是讲仁义的人，不要难为他们。”就命令士兵把他们搀扶到一边，但是伯夷和叔齐嘴里仍不停地骂周武王攻打商纣王的行为是“不忠”、“不孝”、“不仁”和“不义”。他们感叹世道混乱、人心不古。

后来周武王真的推翻了商纣王的统治。伯夷、叔齐认为，周武王以下犯上，是不仁不义的可耻行为，因此他们拒绝吃周朝的食物，以表示与周朝决裂。于是他们来到了周原西北的首阳山，山上有一种叫做“薇”的植物可以用来充饥。伯夷和叔齐整天就以薇羹为食。日复一日，他们饿的骨瘦如柴，不能站立行走，仍然唱着歌：登上西山啊，采摘薇菜来充饥。用暴乱来代替暴乱啊，世人不知道它的不义。神农、虞夏互相禅让的时代已经一去不复返了，我们将归向哪里？哎吆，我们要到天国去了，这是世道命运的衰微。他们在首阳山挣扎着，长吁短叹地唱着，直到用尽力气，停止呼吸。

伯夷、叔齐故事的广泛传播，对周边国家的文化也产生了很大影响。

传说商朝灭亡后，商纣王的叔父箕子受周武王分封到朝鲜，当他去上任时路过孤竹国，从孤竹国带走数以万计的孤竹臣民，奔赴朝鲜。同时带走的不但有孤竹国的成熟的社会制度、管理经验、文化，也把伯夷、叔齐的故事带到朝鲜。

还有远在大海之中的日本，在江户时代，水户藩的第二代藩主德川光国爱读《史记》，尤其敬慕伯夷的气节。明朝末年，德川家族的先祖还建了“得仁堂”，将伯夷、叔齐的木雕像安置在堂内，根据的就是孔子评论伯夷、叔齐所说的“求仁得仁”而将其命名为“得仁堂”。

元代，越南状元莫挺之奉君命出使元朝，因为其貌不扬而受到元朝文武官员的藐视，正逢外国有使者进奉扇子，于是就题写了一篇《扇子铭》，文章中自比为伯夷、叔齐。可见他是熟知并崇尚伯夷、叔齐的故事。