几年之后，邓当死了，张昭推荐吕蒙接替邓当，被任命为别部司马。孙权主事时，考虑到各小将领兵少而费用又不足的情形，要合并他们。吕蒙暗地里借了一笔钱，为士兵置备了大红色军服和绑腿，等到检阅那天，阵列威武，士兵操练，孙权见了非常高兴，给他增补了兵员。吕蒙随从孙权征讨丹杨，屡建战功，官拜平北都尉，兼任广德县长。

从征黄祖，祖令都督陈就逆以水军出战。蒙勒前锋，亲枭就首，将士乘胜，进攻其城。祖闻就死，委城走，兵追禽之。权曰：“事之克，由陈就先获也。”以蒙为横野中郎将，赐钱千万。

随同征讨黄祖时，黄祖命令都督陈就以水军迎战。吕蒙指挥先锋部队，亲自将陈就斩首示众，将士们乘胜前进，进攻敌城。黄祖听说陈就死了，弃城逃跑，士兵将他追获。孙权说：“战事能够胜利，取决于陈就先被斩获。”任命吕蒙为横野中郎将，赐钱一千万。

是岁，又与周瑜、程普等西破曹公于乌林，围曹仁于南郡。益州将袭肃举军来附，瑜表以肃兵益蒙，蒙盛称肃有胆用，且慕化远来，于义宜益不宜夺也。权善其言，还肃兵。瑜使甘宁前据夷陵，曹仁分众攻宁，宁困急，使使请救。诸将以兵少不足分，蒙谓瑜、普曰：“留凌公绩，蒙与君行，解围释急，势亦不久，蒙保公绩能十日守也。”又说瑜分遣三百人柴断险道，贼走可得其马。瑜从之。军到夷陵，即日交战，所杀过半。敌夜遁去，行遇柴道，骑皆舍马步走。兵追蹙击，获马三百匹，方船载还。于是将士形势自倍，乃渡江立屯，与相攻击，曹仁退走，遂据南郡，抚定荆州。还，拜偏将军，领寻阳令。

这一年，吕蒙又和周瑜、程普等人在西边乌林地区击败曹操，在南郡围困曹仁。益州将领袭肃率领全军前来归附，周瑜上表奏请，将袭肃的士兵增补给吕蒙，吕蒙盛赞袭肃有胆略才干，况且他仰慕教化，远道来归，从道义上说，应该给他增兵而不应夺他的兵。孙权认为他的意见很好，把士兵归还给袭肃。周瑜派甘宁进军据守夷陵，曹仁分兵攻打甘宁，甘宁被困危急，派使者来求救。各将领因为兵少不够分派，吕蒙对周瑜、程普说：“留下凌公绩，我和您前去解围救急，看形势也不需多久，我保证公绩能够坚守十天。”又说服周瑜分派三百人用木柴阻断险路，敌人逃走时可以得他们的马。周瑜接受了他的意见。部队到达夷陵，当天就开战，杀伤的曹军超过半数。敌人在夜间奔逃，半路碰到了被木柴阻断的路段，骑兵们都丢下马徒步逃走。吴军紧追不舍，缴获军马三百匹，编成船队将马匹运载回来。于是将士增强了信心，形势自然有利，就渡江建立据点，对曹军进行攻击，曹仁退走，吴军占领南郡，平定荆州。收兵回来，吕蒙官拜偏将军，兼任寻阳县令。

鲁肃代周瑜，当之陆口，过蒙屯下。肃意尚轻蒙，或说肃曰：“吕将军功名日显，不可以故意待也，君宜顾之。”遂往诣蒙。酒酣，蒙问肃曰：“君受重任，与关羽为邻，将何计略，以备不虞？”肃造次应曰：“临时施宜。”蒙曰：“今东西虽为一家，而关羽实熊虎也，计安可不豫定？”因为肃画五策。肃于是越席就之，拊其背曰：“吕子明，吾不知卿才略所及乃至于此也。”遂拜蒙母，结友而别。 []

鲁肃接替周瑜，应当到陆口去，经过吕蒙的驻地。鲁肃心中还有点轻视吕蒙，有人劝说鲁肃道：“吕将军功名日渐显赫，不可以用过去的观点看待，您应当去看看他。”鲁肃便去拜访吕蒙。饮酒酣畅的时候，吕蒙问鲁肃道：“您领受重任，和关羽为邻，采取什么计策以备不测？”鲁肃匆忙回答道：“临时看情况办。”吕蒙说：“现在东吴西蜀虽为一家，而关羽实在有如熊虎，怎么可以不预定计谋？”当即为鲁肃筹划了五条策略。于是鲁肃越过坐席走到他身边，拍着他的背说：“吕子明，我不知您的才干谋略竟然到了这种程度啊。”就拜见了吕蒙的母亲，结为好友才告别。

时蒙与成当、宋定、徐顾屯次比近，三将死，子弟幼弱，权悉以兵并蒙。蒙固辞，陈启顾等皆勤劳国事，子弟虽小，不可废也。书三上，权乃听。蒙于是又为择师，使辅导之，其操心率如此。

那时吕蒙与成当、宋定、徐顾的驻地靠近，三位将领死后，子弟弱小，孙权将他们的兵全部合并给吕蒙。吕蒙坚决推辞，上书陈说，认为徐顾等人都勤劳于国事，子弟虽小，不可以废弃。三次上书，孙权才听从。于是吕蒙又为三将的子弟选择教师，辅导他们学习。他为人操心，大抵都像这样。