刘晔，字子扬，淮南成德人，是光武帝刘秀之子阜陵王刘延的后代。这位才是真正的皇叔。比起自称以后，再有献帝承认的刘备，要正统得多。
汝南许劭善于观人，当时杨州避难，称刘晔有佐世之才。
刘晔七岁时，母亲去世。其母临终时说：“你父亲的仆人有诬害人的秉性，我担心自己死后会出乱局，希望你和你哥哥长大后能除去此人。”
刘晔十三岁时就按母亲遗命，斩杀了父亲宠信的侍者，而后又坦然向父亲请罪。刘普原先大怒，但知道刘晔的动机后也对他十分欣赏，不作苛责。
刘晔二十多岁时，天下大乱，扬州地方的豪强们大多不愿抑强扶弱而且狡猾残暴。其中以郑宝最为骁勇果断，想掳略百姓渡过长江到江南地区，看中刘晔是当地的高族名人，想要强逼他倡导这个计谋。
此时曹操派使者到扬州，刘晔去见使者，并请使者在他那里停留数日。刘晔则在中门外设酒菜饭席给郑宝部众，借敬酒的机会杀掉了郑宝。并斩他的头下来，向他的部众恐吓：“曹公有令，敢有动者，与宝同罪。”
并骑郑宝的马匹到郑宝的营门前，向一些首领陈说祸福利弊，最终众人叩头迎纳刘晔。但刘晔见汉室衰微，自己亦是皇室宗族，不想拥兵，与是将那些部曲都委托给庐江太守刘勋。
后刘勋被孙策算计之后，丢了庐江，只好去投奔曹操，刘晔跟随刘勋，一同投奔到了曹操麾下。
后来曹操和袁绍对垒，袁绍谋士审配献策让袁绍在曹操营寨之前筑起土山，令军士凭高下视，向曹军寨中放箭，以此袭扰曹军。此法曾一度让曹军吃尽苦头。
就此情形，刘晔进献发石车以抵御乱箭，曹操急忙依照刘晔所献车式连夜赶造数百乘，正对袁军土山拽动发石车，袁军弓弩手无处躲避，死伤甚多，故而袁军皆号该车为“霹雳车”，不敢再登高射箭。