到了上世纪60年代，我军装备的56式火箭筒的性能已经远远不能满足我军的需求了，56式火箭筒是苏联RPG-2型的仿制产品。而苏军已经装备了新型的RPG-7型火箭筒，56式火箭筒和RPG-7型火箭筒有着根本性的区别，RPG-7型火箭筒的弹药属于真正的火箭弹，其弹体内有火箭发动机，而RPG-2型靠着火药燃气推动弹头飞行，这也导致了该型装备的射程很短，射速很慢。于是我国决定开始逆向仿制苏联的RPG-7型火箭筒，以提升步兵的反装甲能力。
当时RPG-7型火箭筒这款武器的仿制难度还是比较大的，而转折点就发生在1963年，当时我国远赴苏联炮兵军事工程学院留学的曹钢川刚刚归国，其在留学过程中接触了苏联RPG-7型火箭筒的一部分技术资料，而曹钢川提供的相关技术为我国仿制RPG-7型火箭筒起到了推动性的作用。1964年，我国初步仿制出了RPG-7型火箭筒样品，并且邀请了我国军委高层出席试射汇报。贺龙元帅在看到国产RPG-7型火箭筒样品试射后，说到：这么小的家伙能打300米外的坦克，应该喊万岁。贺龙元帅对该型装备做出了高度评价。1964年的试射汇报结束后，国产RPG-7型火箭筒仍有部分难题尚未攻克，一直到了1969年才完成了设计定型，该型装备被命名为了69式40mm火箭筒。1970年，69式火箭筒正式投产列装部队。
相比于56式火箭筒，69式火箭筒最大的改变就是其采用了有火箭发动机的火箭弹，这种火箭弹也被称为增程火箭弹。这种火箭弹在击发后会先点燃药室的发射药，火药燃气的动能会使火箭弹从发射具中飞出，在飞行到10米左右的距离后，火箭发动机的延迟点火装置触发，随后火箭发动机开始工作，带动弹体飞行。这一革新设计也使69式火箭筒的有效射程达到了300米，其初速也提高到了120米每秒，各项数据指标比原先的56式火箭筒提升了一倍。69式火箭筒由于其发射具的口径也是40mm，这款装备也被我军战士称为40火或者新40火。
69式火箭筒的穿甲能力非常的出色，该型装备可以击穿倾角65度120mm的轧制钢板，而垂直的钢板可以击穿350mm。69式火箭筒可以对当时苏联装备的T-62坦克和美军的M60坦克造成有效的杀伤，在中苏珍宝岛冲突中，69式火箭筒还没有正式列装，而当时我军装备的56式火箭筒无法对T-62坦克进行有效摧毁，如果当时我军手中有69式火箭筒，将会对苏联装甲部队造成更严重的打击。也正是因珍宝岛的反装甲经验，我军开始加速69式火箭筒的列装进度，尽快提升步兵单位的反装甲能力。
69式火箭筒和仅生产了30多万具的56式火箭筒不同，在中苏关系交恶后，苏联在我北方边境陈兵百万，大部分都是装甲部队。当时我国的主力坦克大多都是59式坦克，对地攻击机数量也不多，步兵很大程度上要依靠自身力量对抗装甲部队，这样单兵反坦克装备了重点生产的武器。当时负责生产69式火箭筒的厂家都开足马力，全力生产69式火箭筒，关于69式火箭筒的产量当前并没有准确数字，当时我们的指标是要全军战士人手一具69式火箭筒，由此可见这款装备的产量有多庞大。
1979年对越自卫反击战爆发，我军一个步兵班通常会装备一到两具69式火箭筒，同时也会根据执行任务的不同来调整69式火箭筒的装备数量。在对越自卫反击战中涌现出了一大批优秀69式火箭筒射手，例如，我军某部战士李光辉在对越作战期间在一次夜袭行动中，靠着夜色的掩护摸到了敌人阵地80米处，并且自己修筑好掩体。李光辉一直埋伏到了次日拂晓，随后他拿起56式冲锋枪向越军阵地扫射，诱使敌隐藏火力点开火，越军的隐藏火力点立即开火反击，反而暴露了自己的位置，李光辉拿起69式火箭筒向其连射三发，彻底摧毁了这个隐藏火力点。战后，李光辉凭借自己出色的战场表现荣获了一等功臣荣誉称号。
在对越自卫反击战中，还有一位69式火箭筒射手获得了一等功臣的荣誉，那就是蒋荣伟。在我军进攻同登的战役中，我军163师某部的班长蒋荣伟使用69式火箭筒摧毁了越军9个火力点，而且仅仅用了10发火箭弹。对越自卫反击战期间，我军很多69式火箭筒射手表现都非常出色，并且荣获战功。两山轮战期间，69式火箭筒仍旧是我军进行拔点作战的主力装备之一。越南的地区特点非常适合69式火箭筒发挥，交火距离大多在300米内，在这一范围内，69式火箭筒的精度、威力都非常的出色。到了上世纪90年代，随着新的89式火箭筒入役，69式火箭筒也开始逐步退出现役，不少库存的69式火箭筒都出口到了国外，如今很多热点地区的RPG都是国产69式火箭筒。