曹操立刻征召扬州名士刘晔，蒋济，胡质等五人面见，一路之上，蒋济等每到一处必与士人大谈天下大事，内容无所不包，声名越来越大，独有刘晔经常睡在车中，一言不发。蒋济感到奇怪，就私下里问刘晔这是为何，刘晔伸着懒腰回答：“面对明主的召见须精神百倍，精神难道可以学得来吗？”等到曹操召见，问及扬州诸事，敌人形势，四个人争相应对，刘晔还是一言不发，蒋济等都因此笑他。曹操数次召见，问的基本都是扬州之事，内容都差不多，到了最后一次召见，曹操已问无可问，这时候刘晔开始说话了。他主动出击，试图以不同的话题，独特的见解打动曹操，很快就引起了曹操的注意。只有不同的见解才能表现出自己的才智，只有深远的话题才能够打起他的精神，刘晔不屑于跟众人一起进行一些老生常谈的辩论。就因为此，曹操不久就授以蒋济等四人为令，而独将刘晔付予心腹之责，从此每遇到疑难之事，就来信询问刘晔，最多时一夜达数十次。

刘晔开始作为曹操的主要谋臣出现。

曹操当年到寿春时，庐江山贼陈策拥兵数万，据险而守，曹操曾派一偏将出马征讨，结果偏将被杀，高山不能攻克。曹操因此征询众谋士的意见，大家都认为此山山高险峻且沟谷深隘，防守容易进攻困难，不攻则有所损害，得之却又益处不大，因此应该暂时放弃。刘晔笑道：“陈策因战乱而据险峻，互相依靠得以强大，前去的偏将资历太轻，不足以威服而已。因怕死而想得到赏赐，这是大家都知道的，前时中原未平，所以陈策敢据险而守，现在天下大致平定，明公东征西讨，威德享誉天下，若派大军压境，悬以重赏，山门必开，山贼必一举溃散。”曹操大笑，说：“你说的马上就能变为现实。”遂派遣猛将在前，大军在后，陈策果然大败。

武帝又出兵征讨张鲁，任刘晔担任主薄，由于汉中山势险峻难以攀登，曹军粮食也非常缺乏，因此曹操不久下令退军，命刘晔监督后面诸军，使之有序撤退。刘晔却认为汉中足以攻取，军队打仗不会保证事事周全，所以令人飞马劝阻曹操。曹操听从了刘晔建议，回军猛攻，汉中随即平定。

刘晔随后献策，说：“明公以步兵五千，还要诛杀董卓，而今北破袁绍，南征刘表，九州百郡，十之七八得以兼并，威震天下，远慑海外，如能趁汉中初定，蜀人望风丧胆之时，大举攻蜀，蜀必可传檄而定。刘备，人中俊杰，但能计划却迟钝，得蜀时间极短，蜀人还没有归附，汉中新破，蜀人震动恐慌，此自动倾覆之时，以您的神明，又因其倾覆而大军压境，当无不攻克。不然，若蜀得到短时间恢复，以诸葛亮为丞相治理严明，以关羽张飞等勇冠三军的大将加以镇抚，蜀中百姓一旦安定，据守险要，就不可侵犯了。”曹操没有听从，引大军返回。

回来七天后，蜀国降人供称：“当时蜀中一日数惊，刘备连杀数人也无法安定。”曹操大悔，命人召来刘晔问道：“现在还可以进攻吗？”刘晔摇头道：“今蜀中已经稍稍安定，不宜再攻了。”曹操叹息不不已。

刘晔数次向曹操父子贡献良策，判断形势，料定人心，无不命中，但曹操父子大多却没有听从。孟达投降之时，魏国众人都认为仪表不凡德才兼备的孟达是乐毅一流的人物，非常赞赏，独刘晔认为，孟达只是苟且偷安之人，而且他自负才高心术不正，不会知道感恩。新城与吴蜀相连，若有变乱，必成国家之害。以后孟达果然又叛。