吕蒙在孙策左右几年，不仅孙策满意，别人也广泛认可，连稳重、严正的张昭都对他赞誉有加。邓当死后，张昭就出来推荐吕蒙取代。他认为吕蒙智勇两全，才堪一方之任。孙策同意并拜他为别部司马。从此，吕蒙成长为领兵作战的将领，当然他的人马并不多。孙策死后，孙权上台，吕蒙并不是亲兵，况且他那因杀人而得宠的经历并不是为人所称道，孙权未必会像孙策一样赏识。同时，他只是个地方将领，时且力量嫌弱，靠什么去引得孙权重视呢？这一次，吕蒙采取的手段显示了很强的军人气质。孙权上台后，为了使部队建置合理化，打算合并一些小的队伍。吕蒙资历不够，力量小，也在被考虑合并之列。为了避免被人吞掉，吕蒙在孙权检阅前，特意筹款为军上置办了一套全新装束，力图使队伍看起来整齐、士气旺盛。孙权检阅时，他又让士兵在炎炎烈日下竖持操练毫不松懈。孙权在此之前见到的队伍还没有这么朝气勃发的，吕蒙的部队让他耳目一新。高兴之下，他大肆增加了吕蒙的兵力。征讨丹杨时，还特意命吕蒙随军作战。骁勇善战的吕蒙岂肯放过表现的机会。
战斗中，他的队伍异常英勇，立下卓卓战劝。以功行赏，孙权封他力平北都尉，领广德（东汉故障治今浙江安吉县，后分置广德县）吕蒙的真正崛起，是在征黄祖一战中。208年，孙权准备夺荆州，先与黄祖交锋。吕蒙为前锋，率军攻打黄祖的湘水，都督陈就。双方接触吕蒙即令前锋退后，他亲自冲出挥刀直取陈就。陈就躲闪不及，当场被砍死。都督被杀，水军大乱，吕蒙乘胜追击。孙权率军进攻黄祖所在夏口（汉水入江处，在今湖北武昌附近），黄祖逃窜时被擒获。这一战，孙权高度评价了吕蒙的作用。他当着众将之面称赞吕蒙：这次战斗顺利，主要因吕蒙先声夺人，杀了陈就。为此他专门赏赐吕蒙钱币数千万，并升他为横野中郎将。这一升职，使他步入江东重要将领之列。
同年，赤壁之战爆发，吕蒙与韩当、孙黄、陆逊等人一起，组成东吴前线主力。这一战，孙刘联军胜得干净利落，吕蒙也在黄盖之后率领自已的人马冲杀。此后甘宁在夷陵（今湖北宜昌市东南）被曹仁大军攻击，困窘之下，向周瑜求救。这时，赤壁一战刚结束，曹操虽退，但长江前线还有变数。众将领都认为兵力少，不宜分散。吕蒙向周瑜建议：留下凌统驻守，我与将军前去救援解夷陵之围根本不需要太长时间。况且以凌统的能力，坚守十天毫无问题。同时劝周瑜专门派300将士负责在夷陵附近各处担柴塞道，堵住敌人退路。敌人撤退时，必然会弃马逃走，这样就可夺来不少战马。
周瑜对他的建议深表赞同，立即带吕蒙等人前往夷陵。果然，交战之下曹仁的军队很快撤退，途中去路被堵不得不弃马步行。这样一来，速度减慢不少。同瑜追击，大获全胜。不仅救出甘宁，还夺下南郡，抚定荆州大部。吕蒙出众的判断力和策略，引起了周瑜、程普等人的注意。在他们的保举下，吕蒙再次升迁，授偏将军。
吕蒙的进一步升迁。以至最后接替鲁肃成为东吴最高军事指挥，要从他与鲁肃的交往说起。鲁肃最初是看不上吕蒙的，原因恐怕在于对习武之人的成见。按鲁肃的想法，吕蒙一介武夫，冲锋陷阵固然不错，将略谋划是肯定强不到哪儿去的。所以，赤壁战前孙权拨鲁肃的军队给吕蒙，吕蒙拒绝接受，且表示对鲁肃的钦佩时鲁肃并没有表示感谢，还是一贯态度。周瑜死后，鲁肃代领部众，屯夏口。很多人劝他多与功名显赫的吕将军交往，时鲁肃就是不为所动。吕蒙的建议他也常常置之不顾。个中原因，明眼人一望就知，鲁肃不说而已。
这种状况下吕蒙的心态如何，也是可想而知，他并不愿意与鲁肃结怨。好在这段时间他受孙权的启发和督责，发奋要读一些书。起初，孙权劝他多读书。他表示军务繁忙，没有时间与书本打交道。孙权于是鼓励他：光武皇帝刘秀戎马倥偬，还手不释卷。曹孟德自称老而好学，要比军务，你显然不如他们。为什么不向他们学呢？吕蒙听这才心动。至此开始苦学，毎有空闲，就拿起书本研读，以兵法为重点。逐渐，吕蒙的理论修养上去了。变化之大，就连鲁肃也开始始注意。一次，鲁肃过吕蒙驻军之地。舍人劝他进去见见吕蒙。鲁肃勉强去了，吕蒙招待，酒酣耳热之际，吕蒙问鲁肃：将军你身受重任，与关羽相持。关羽雄气勃发，但为人很自负，好盛气凌人，不知你如何应付？鲁肃一向瞧不上他。见他发问，只轻描淡写地说，临时施宜，意思是随机应变。大概多少有点敷衍吕蒙的意思吧。吕蒙大不以为然，他反问一句：现在东（孙氏）叫（刘备）虽为一家，但关羽确实是虎熊之辈，势必对江东不利。对付他，怎么能因时向定，没有一个长远的打算呢？鲁肃默不作声。吕蒙为他献上五策，专门对付关羽，其中大部分都可算得奇谋。这些计谋自然与鲁肃的想法有所不同，但从策略上讲，却是很不错的。鲁肃听完，也不得不大感惊奇。从此，他改变了对吕蒙的态度。鲁肃称赞吕蒙学识英博，非复吴下阿蒙了，也正是此后不久的事。