《我们走在大路上》酝酿和创作于1962年春天和夏天，发表于1963年春天。某天，李劫夫打开收音机，听到电台正在播放歌曲《小路》。李劫夫对他的夫人张洛表示建设社会主义不能走小路，人民应该走大路。之后1962年，周恩来总理同中央部委领导来沈阳开会。辽宁省委为他一行准备了晚会。晚会结束后，总理邀请时任辽宁省委文化工作部部长、作曲家安波和李劫夫一同到他的住处谈话。总理向他们讲述了当前国家的经济形势，总理表示大家要相信党和国家能够带领人民继续前进。谈话一直持续到后半夜两点多，李劫夫对此触动非常大，于是他按总理讲话的精神进行创作，要把总理说的‘意气风发，斗志昂扬’用到歌里，他还写了一个副歌。歌名《我们走在大路上》也就定了下来。

录制轶事

《我们走在大路上》初稿完成后，李劫夫开始征求别人的意见。当时任中国音协主席吕骥提出“毛泽东领导我们”最好改为“毛主席领导革命的队伍”。修改后发表在《歌曲》杂志上。