陳霸先在幼年時，雖然家境貧寒，但卻胸懷大誌。
等到成年之後，其涉獵史籍，尤其喜歡閱讀兵書，還通曉緯候、孤虛、遁甲之術。
同時還練就了一身武藝，為人明達果斷，當時的鄉裡都十分推崇他。
據說他身高七尺五寸，額頭隆起，手長過膝，有帝王之相。
一開始在鄉中為裡司，後來到了建鄴，做了油庫吏。
梁武帝大同初年（535年），宗室蕭暎很看重陳霸先，曾說陳霸先此後必定前程遠大。
大同六年（540年），蕭暎任廣州刺史，陳霸先隨從擔任參軍。
蕭映令陳霸先招集軍士、集結戰馬，人數達到千人，仍命陳霸先駐守宋隆郡。
陳霸先所部安化二縣並不服從南梁的管轄，於是率兵平定，不久就被加官晉爵。
大同七年（541年），交州土豪李賁發起叛亂，趕跑了交州刺史蕭諮。
大同八年（542年）春，梁武帝遣將討伐，林邑國國王也從腹背襲擊李賁。
大同九年（543年）四月，李賁部將範修在九德大破林邑王，梁征討諸軍也不知所終。
自此李賁控製了整個北越，就在大同十年（544年）正月仿梁朝製度，自稱越帝。
梁武帝又命盧子雄、孫冏火速出兵，並受蕭暎和蕭諮節製。
因戰事不利，梁武帝誤以為盧、孫二將與李賁私下裡有往來，敕令在廣州賜死。
盧子雄舊將杜天合、杜僧明等人，因此發動兵變，率兵包圍了廣州城。
陳霸先在高要聞報，率三千精兵，日夜兼程，火速救援，一戰而解重圍，杜天合、杜僧明等叛將被擒。
大同十年（544年）冬，蕭暎在廣州病亡。
次年（545年），陳霸先護喪返回京師建康。
走到大庾嶺之時，梁武帝下詔任命陳霸先為交州司馬，領武平太守，隨新任交州刺史前往交州討伐李賁。
陳霸先返回廣州，召聚將士，備辦軍資，並與征討大軍於十二月抵達交州。
當時，蕭勃為定州刺史，與陳霸先等在西江相會。
因為蕭勃深知軍士們都害怕遠征，所以想辦法用錢財來誘楊蒨。
於是，楊蒨召集諸將詢問對策，陳霸先認為——交趾的叛變完全是宗室的罪過，造成叛亂遍及數個州縣，曆時數年，勞師糜餉，蕭勃又隻顧及眼前的利益，完全不顧國家大計。
陳霸先指出應該奮起平叛，不用顧及宗室的利益，於是領兵擊鼓進擊。
大同十一年（545年）六月，陳霸先平叛大軍到達交州，李賁率軍數萬在蘇曆江口設下城柵抵擋梁軍。
楊蒨推薦陳霸先所部為前鋒，陳霸先率軍大破李賁的戰陣，李賁逃到了典澈湖。
李賁在屈獠界設置營寨，大造船艦，阻擋在典澈湖中。
梁軍十分忌憚，停駐在湖口不敢進兵。
陳霸先對將領們說“我們的軍隊已經耗時良多，將士疲勞，長時間相持，這恐怕不是好辦法。況且孤軍無援，進入了敵軍腹地，如果一次不能取勝，又怎能保全自己。如今不如接著李賁多次遷移逃跑，人心沒有穩固，當地夷民拚湊而成一軍，很容易摧垮，如果此時不去戰勝他們，此後將找不到這麼好的時機了。”
諸將都不知道說些什麼，因此沒有回應他的。