荀彧离开袁绍投奔曹操，曹操可以说是荀彧的伯乐，见他谈吐不凡，才学过人，总足如获至宝禁不住感叹：你真是我一直寻觅的得力助手啊，从此＃荀彧追随在曹操并在历史上开启了崭新的一页。董卓挟持天子，无恶不作，很多人对他都很畏惧。然而荀彧却不这样认为，觉得他外强中干，掀不起多大风浪。他对曹操说：董卓暴虎已极，必然不会办什么好下场。董争果然惨死在自己的干儿子吕布之手。
192年，曹操任了兖州牧，荀彧也迫随他来到兖州。在兖州，荀彧的机敏果断使曹操避免了一场灭顶之灾。194年曹澡东征徐州，将留守免州的重担交给了荀彧。曹操走不久，张邈、陈宫发动叛乱，暗中迎来吕布，妄图和吕布一起控制兖州。张邈还派使者告诉身在那城（今山东省鄄城北旧城）的荀彧说：将军是来帮助曹使君攻打陶谦的，应该及时供从他军粮，众人都被他的鬼把戏所迷惑。时荀彧这却已觉察到张邈的的心思，他先是不动声色派兵加强防备，接着又派人骑马去召东郡太守夏侯惇前来平叛。此时留守的兵很少，一些官史见势不妙，就倒向了张邈、陈宫。幸亏荀彧召来了夏侯惇。连夜诛杀了谋叛的数人，才稳定了局势。一波未平，一波又起。不久，豫州剌史郭贡率领数万人的队伍来到城下。当时有人说他与吕布是同谋，因此众人都很害怕。郭贡提出要见荀彧，夏侯惇等人认为这次相会肯定是一次鸿门宴，因此劝荀彧不要去。然时荀彧却并不这样认为，他说：郭贡与张邈等人，并非原来就有勾结。现在他刚刚来到城下，主意还没有打定，在这时候去说服他，即使不能为我所用，也可以使他保持中立。似适如果先表现出对他的怀疑，很可能就会使他恼羞成怒，彻底反叛，于是他从容去见郭贡。
郭贡见荀彧胸有成竹，以为鄄城小易攻克，在这里占不到什么便宜，于是就引兵灰溜溜的离开。之后，荀彧与程昱等人商议，派人太说服范、东呵两珏的官员，保全了包括鄄城在内的这二座城池，等待曹操回军。在这件事下，荀彧的谋断能力发挥到了淋漓尽致的程度。由于有了他的机智果断所保全的二座城池，曹操才得以之后的战争中夺回失地，力挽狂澜。
不久，徐州牧陶谦病死，曹操想要趁机攻取徐州，然后再去攻打吕布。然而荀彧却认为兖州末定，时机尚不成熟，反对他这样做。他分析道：当初汉高祖保打关中，尤武帝杰据河内，都曾建立了自己的根据地。因力有了根据地，他们进可以胜敌。退可以坚守，因此虽然有失利的情况。最后终究成就了英雄大业。将军您本来以兖州起事，这里的白姓对您心悦诚服。时迁兖州地处河、济，是大下要地，现在虽然残破，然时还足以自保。因此兖州就是将军您的汉中、河内，安定这里是您的第一要事。现在我们已经击败了吕布手下的李封、薛兰，如果再分兵回去。进攻陈宫，陈宫一定会穷于应付，不敢西顾。在此期间派兵收麦，存储军粮，必寸一举电击败布。打败吕布，和他人共同讨伐袁术，淮、泗一带也就唾手可得。