本可以大有作為造福百姓，卻身負才華冷眼看世，同樣為世人不齒。歌女血染花葉的同時，也點燃了謝安匡世報國之心，從此，謝安脫下風流名士的外衣，心懷塵世煙火，在亂世之中，終為天下百姓承托了數十年的太平與安寧。
360年，謝安接受征西大將軍桓溫邀請，擔任其司馬一職。
消息一出，朝野震動，一直淡薄名利的謝安石終於要當官了。在信息閉塞的年代，如此重大新聞若不議論上幾個月，出門都不好意思跟人打招呼。由於謝安隱居東山，後人於是把重新出來做官這樣的事編排成了一個成語東山再起。
據載，謝安動身赴任時，許多朝中大臣特意趕來為他送行。中丞高崧更是在送行時“調戲”謝安“卿屢違朝旨，高臥東山，諸人每相與言，安石不肯出，將如蒼生何！如今出山為官，如今蒼生亦將如卿何！”向來淡定的謝安甚有愧色，深感自己虛度的那些歲月裡對不起天下百姓。
處境不同，身份不同，謝安自然是要好好“羞愧”一番的，不然，如何做個天下百姓人人愛戴的好官呢？
其實，讓謝安“羞愧”的事不止於此，在桓溫府中時，有客人曾送桓溫一味名叫“遠誌”的草藥，當時桓溫見物起意，遂問謝安“這種藥又被稱為小草，為什麼有兩種稱呼呢？”謝安尚未及回答，名士郝隆應聲答曰“在山中曰遠誌，出山後名小草。”借以譏諷謝安高臥東山，素而遠誌，但出山後隻任職司馬。後來，這一事件就流傳了出來，人們便以“小草遠誌”意指隱居與出仕，或以小草謙指自己居官低微。
這是小插曲了，對於謝安的到來，桓溫還是十分高興的。二人相見即暢談平生，歡笑終日。在謝安告辭後，桓溫極為自豪地對手下人說道“你們
以前見過我有這樣的客人嗎？”愉悅之情溢於言表。後來去拜訪謝安時，桓溫更是耐心等待謝安梳洗完畢方才相見，足見對這位名滿天下者的器重。
其實，謝安沒有選擇在朝中任職，而是去了桓溫的軍府之中充當幕僚，就是為了讓桓溫高興的。
個中緣由非常值得玩味不是謝家得罪了桓溫，而是桓溫傷害了謝家（侵占豫州）。這又是什麼道理呢？然而，這就是道理。
以桓溫的實力，整個東晉尚且俯首帖耳，自然不是謝氏家族可以輕易得罪的，桓溫能傷謝家一次，就可以害謝家兩次。對於此，謝安唯一能做的，就是通過自己的到來，修複和桓溫的關係，緩和桓、謝兩家的矛盾，這是謝安出山後的頭等大事，更是他選擇在桓溫處任職的直接原因。
即使桓溫明知緣由如此，也依然會感到高興。
第二年，謝安以為其弟謝萬奔喪為由，離開了桓溫。在處理完喪事後，謝安來到東晉首都建康任職，從此和桓溫分道揚鑣，開始了自己的宰相之路。
由於和桓溫關係好，又在朝廷裡任職，謝安成了緩和桓溫和東晉朝廷矛盾的潤滑劑。在以後的十餘年歲月裡，桓溫和朝廷的關係日益惡化，但正是由於謝安和桓溫在這一時期的密切關係，他們之間的矛盾始終沒有衝擊到謝家。謝安也充分利用自己和雙方的特殊關係，在二者之間巧妙周旋，竭力輔政。
不過，據了解，或許是因為桓溫專政的原因，謝安在這一時期並沒有什麼拿得出手的政績，唯一值得稱道的是，簡文帝司馬昱死後，謝安依然選擇站在朝廷一邊，和東晉各大家族聯手，粉碎了桓溫篡晉自立的企圖。
373年，桓溫入朝祭奠簡文帝司馬昱，當時，先皇駕崩，新皇繼位，朝中政局混亂，各種傳言甚囂塵上，大家都認為，桓溫此行，為篡位而來。
朝廷派去迎接桓溫的主要大臣有兩個，一個是謝安，另一個人叫王坦之，在當時，其名望和謝安齊。
可能是生疏有彆，畢竟謝安和桓溫是故交，兩人曾經有過一段相當值得回憶的過往；不過關於二人在此事件中的表現，大家都認為是膽氣的差彆。
臨行時，京城傳言桓溫要殺掉王坦之和謝安，王坦之非常害怕，而謝安卻神色不變，並勉勵王坦之“晉祚存亡，在此一行。”等到和桓溫相見，王坦之汗流浹背，緊張的連記事用的手版都拿反了；隻有謝安從容就座，在隻言片語之間，讓桓溫儘去壁後伏兵，然後二人談笑良久方才依依惜彆。此後，桓溫斷絕代晉自立的念頭，不久即率領軍隊返回駐地。眾人至此方知王坦之、謝安兩大名士孰優孰劣。
在強權和暴力麵前，驚懼顫栗者眾矣，大義淩然者亦有之。而隻有謝安以其鎮定自若的風度，變殺氣成和氣，化恐嚇成笑話。滔天禍亂，消弭於無形。
後來桓溫病重，暗示朝廷為他加九錫，謝安一拖再拖，一道錫文改了半個多月沒改完，硬是以一個“拖”字訣將桓溫拖死，解決了朝廷天大的難題。
謝安的鎮定，使晉室得以穩定。
桓溫死後，謝安升任尚書仆射，總領吏部事務，加後將軍，與時任尚書令的王彪之共同執掌朝政。
在此後的數年時間裡，謝安憑借其傑出的政治才能，利用朝廷的政治優勢，迫使桓氏家族逐步妥協讓步，平衡了東晉各大家族勢力，瓦解了桓氏一家獨大的局麵。各大家族互相製衡，構成了能夠團結一致對外的政治基礎。
而且，也正是在謝安的主持下，東晉朝廷推行了一係列行之有效的戰時改革。主要有三點
一自上而下推行以樹立中央權威為目的的文化運動，奉行推崇忠君觀念的儒學，有針對性的淡化玄學。
二進行稅務製度改革，改按田征稅為按口征稅，增加國家稅收。
三軍事改革，啟用年輕將領（謝玄等），組建新軍隊——北府軍。
謝安的改革，是東晉為何忠臣義士如此之多的原因；是東晉有實力支撐戰爭的原因；是晉軍為何強大的原因；更是東晉能夠團結一致並最終打敗前秦的原因。