“我們已經有陣子沒見了吧?自從你的阿爾法fold發布之後,差不多有小半年時間沒怎麼聽到你的消息了。”
這一次負責主持對話的,仍舊是老熟人,美聯社的馬修。
孟繁岐剛到穀歌的時候,跟他一起聊霍爾姆斯事情的便是這位,由於其有少部分華國血統,孟繁岐覺得比較親近,因而數次發布消息基本上都會斷斷續續聯絡他。
“也不至於吧,我看網絡上有關我的八卦還是挺多的。”孟繁岐笑著否認,雖然他這段時間都在搞一些準備工作訓練工作,的確沒怎麼露麵。
但他脫離穀歌,搞自己的超算中心,這兩件事都是大事件。
“四月份的時候,你結束了和穀歌的合同,正式地成為了獨立的研究者。在當時,其實也有小部分質疑你的聲音,認為你脫離了穀歌的環境和大量計算設備,難以獨立產出高質量的研究成果。”馬修與孟繁岐相識,還是因為穀歌的關係。
“不過事實勝於雄辯,你雖然一直沒有針對這些聲音做出任何回應,但現在ai小鎮的出現,已經徹底粉碎了各種質疑的聲音和流言蜚語。”
相比13年底和14年孟繁岐的高產,15年孟繁岐的確安靜了太久。
此前的孟繁岐幾乎每兩三個月就有一個大新聞出來,大家已經習慣了這個速度。
可自從神經輻射場之後,孟繁岐在15年上半年再也沒有新技術出來。
搞了個ai是不錯,但裡麵都是現有技術的課程、宣傳、講解。
整理的代碼庫,也都是一些臟活累活。
這些東西放在其他人身上,可能是非常大的成就和成績。
但放在孟繁岐身上,就顯得貢獻小了那麼一點,有吃老本的嫌疑。
“大家有這種看法也是對我的一種督促嘛,不過現在的ai技術想要做出更好的效果,所需要的計算能力越來越多了。有時候也不是我不努力,而是客觀條件不允許,需要時間。”孟繁岐經曆了這兩年,也逐漸有所成長。
最開始看到什麼評論報道,心情都會隨之牽動,恨不得馬上澄明真相。
如今則淡定沉穩了許多,他心中知曉,其實大多數人也不在乎真相,自己又何必澄清呢?
等到新的成果做出來,這些莫名其妙的質疑和批評自然就會煙消雲散。
唯有帶著新成果出來的時候,解釋和回應才有力度,才有人關注。
“所以這才是你組建自己超算中心的原因?”馬修問道“這一次的ai小鎮,所需要的算力到了什麼級彆,可以透露一下嗎?”
“沒錯,我在人工智能這個領域有許多想法,可能短期內並不一定能夠盈利變現。如果待在大公司裡,我的計算資源始終還是受到了很大的限製。這個限製不僅是來自於外部,我自己內心也會覺得,燒了彆人幾個億美金,結果出來的東西無法回本。”
孟繁岐這也是首次在離開穀歌這個問題上有公開的表態“總得來說,穀歌的兩位創始人一直以來都給了我相當大的權限和自由度,非常感謝他們在我生涯早期的幫助。離開穀歌並不是因為和穀歌一方有什麼矛盾,而是我個人的原因,自己組建超算中心才能夠最大限度地發揮我的力量。”
“至於ai小鎮的算力我隻能說超乎大家的想象。這件事情我們最後再揭曉。”孟繁岐還沒有揭露小鎮背後的350億參數chatgpt,直接談算力為時過早了。
“那我們就直奔主題。歡迎大家收看美聯社特彆節目!我是馬修,今天我們有一個令人興奮的話題要和大家分享。就在最近,孟繁岐構建了一個ai小鎮,這個虛擬世界中有三十多個npc,模擬出了一個充滿生活和互動的人工智能社會。”
“孟先生,您是如何成功地構建這樣一個ai小鎮的呢?有關這個小鎮內的神奇種種,在過去的二十天裡,我們已經看到了太多。借此機會,能否和我們分享一下技術方麵的創新和突破?”
一上來,馬修就直接問了最核心的問題。
這種神奇的社會模擬到底是怎麼做到的?與前世基於chatgpt做的小鎮不同,此時的世人完全不知道gpt技術革新之後能夠達到chatgpt這麼恐怖的水平。
因而眾人百思不得其解,完全不清楚孟繁岐到底是怎麼做到的。
“其實主要的核心部分仍舊是之前已經開源的gpt技術,關於模型本身的細節,最近幾周內就會將論文開源出來。”
孟繁岐這句話說得好聽,但實際上藏了半句話沒有講,那就是“不過這部分內容,可能就不會如同此前一樣那麼詳細了。”
從這個350億參數的版本開始,就已經具備盈利的可能性了,它的性能和水平和前世1750億的chatgpt差距並不大。
等到計算設備和性能進一步成熟,孟繁岐就會考慮使用gpt4的一些集成技巧,推出101novel.com00億參數級彆的模型做收費服務。
小主,這個章節後麵還有哦,請點擊下一頁繼續後麵更精彩!
因此從該版本開始,孟繁岐的論文將會對很多關鍵信息進行保密。
比如,對於350億參數的模型,孟繁岐會公布具體的模型大小,結構,采用的算子,甚至於訓練時候使用的一些參數設定。
可對於自己所采用的數據集,這些都是他兩年多來一直斥資收集打造的,當然不可能公開出去。
至於那些核心的【指令微調】、【代碼訓練】和【rlhf】等技巧,他也不會在這個時間點就選擇公布,至少也會延遲一年左右。
馬修也是老江湖了,一聽就知道這裡有貓膩。
從ai小鎮中npc展現出的智能和交互水平來看,孟繁岐已經飛速地將這係列技術提升到了可以商用,可以盈利的水準。
不過他與孟繁岐私交不錯,見孟繁岐似乎不打算細說稀疏部分,就不打算在這方麵繼續多問了。
節目上談技術細節,觀眾本就不愛看,因而馬修直接將話題回到小鎮當中,先進行這個有趣現象本身的討論。
“ai小鎮看起來就像是一個真實的社會一樣。但是,虛擬世界中的npc是否擁有自己的文化和背景差異呢?”
不愧是老美的老牌主持人,一上來就搞了這方麵的話題。
“這當然是會有的,我們做了許多努力讓ai小鎮反映多樣的文化和背景。每個npc都有自己的個性和背景,我們設定了許多不同的種族和國家背景,他們會根據自己的經曆和價值觀來互動。我們認為這可以幫助玩家更好地理解多元化的社會。”
“但是比較可惜的事情是,三十多人這樣的規模,兼顧多樣性就已經有一定的壓力了。我也看到很多人盛讚這個小鎮,說以後文化、經濟乃至zz上的一些事情,都可以模擬一下看看。這種可能性是有的,不過需要特彆龐大的規模,幾萬人,乃至幾十萬。目前的計算能力還是遠遠不夠。”
孟繁岐不想摻和美國特色種族和文化方麵的討論,很快結束了這個話題。
馬修的下一個問題,就非常哲學了。