“因此,我認為更深的網絡沒有取得更好的結果是一個優化問題,而不是一個模型設計問題,又或者是模型能力問題。模型本身是有更大的潛力的,隻是優化的方式需要改變。”
“而這就是深度殘差的意義所在。”
“對於我們需要學習的任意一個映射hx,我期待網絡去學習一個fx+xhx中的fx,而不是直接學習hx本身。”
“這個操作可以簡單的通過增加一個加法實現,而距離hx差值為x本身的fx,我們稱之為關於恒等的殘差映射。”
“如果這個恒等是理想的,那我們很容易將權重設置為很小的值。殘差的形式很好地解決了一直以來都比較麻煩的梯度問題,可以看到,它使得上百層的網絡可以持續地取得更好的性能。”
“在本次競賽的識彆分類上取得的成績,隻是殘差思想最基礎的體現,實際上,它是更好的特征提取器,可以更好地提取圖像的特征以應用到各種圖像任務中去。”
“不僅是本次競賽的檢測賽道,前兩天白度的技術發布會上,想必大家也看到了明顯的性能提升。”
說到這裡,孟繁岐頓了一下,因為台下已經控製不住地開始議論紛紛。
雖然白度宣布了實時檢測辦法主要由孟繁岐這個特約研究員貢獻,但對於具體的算法細節守口如瓶,什麼也沒有提。
隻是承諾要等到612個月後會公布。
雖然眾人大概都已經猜到,但聽孟繁岐親口說出,眾人至少確定了一件事,那就是白度現在領先世界一大截的實時檢測算法,是采用了drea的。
“當然了,視覺類的任務還有非常多,除了我已經做過的生成,檢測,分割,識彆之外,還有姿態估計,深度估計,超分辨率等等等等。種類繁多,不一而足。”
“我的drea論文已經公布,代碼也已經開源,還有很多的方向需要大家一起去探索。”
孟繁岐吃了體量最大的幾個賽道的蛋糕,自然也得留點湯給其他人。
在某個比較具體的方向,有幾個十分得到認可的代表作就夠了。
孟繁岐技術多得發不完,沒必要把細分領域都一個個去自己做。
說白了就是稍微改改去讓機器運行的事情,換一下數據,稍微調整下個彆結構和參數。
把代碼開源出來,讓越來越多的工作基於自己的技術和算法去進行,是性價比更高的做法。
孟繁岐講到這裡,其實總共才用到十分鐘。
按照原本的計劃,他是可以講到大約2530分鐘的。
隻可惜腰包鼓了,硬氣了,心態也變了。孟繁岐現在已經沒有會見李彥弘之前的那種需要學界認可和認同的心理需求。
回想起來,在李彥弘的預支款打到賬上之前,孟繁岐一直還是有一些擔憂的,總覺得心裡有點不安,希望得到認可。
有些懷疑自己到底能撬動多少資源。
如今,這些都是過去式了,沒有了被人認可的需求,孟繁岐的展示變得精要了許多。
十分鐘的時間其實在這種場合不算短了,尤其這次展示有兩部分,孟繁岐結束之後還有韓辭的理論解釋部分。
因此在場所有人都沒有覺得異常,唯有韓辭目瞪口呆,啥情況啊,不是還該有十分鐘嗎?怎麼這就到我了?