當前位置: 華文星空 > 體育

如何評價 DeepMind 公司?

2021-10-03體育

看了之前的回答,感覺已經概括得很好了。有幾個細節可以補充一下。

1) 選擇問題。DeepMind選擇問題的切入點是非常巧妙的, 會有意識的去選擇那些容易評價和量化產出的問題,比如AlphaGo, AlphaStar->勝負率, AlphaCode->程式成功率, AlphaFold->CASP, 這些問題可以非常明確的評估模型的效果,並且能在社會當中產生比較好的宣傳效果。當然這種選擇問題的方式也有它的弊端,在一些不好評估的場景或者問題裏,公司對它的熱情和投入的資源就會降低。DeepMind也有很多選擇問題不夠成功的情況,比如押寶在多模態和embodied AI上面, 錯過了語言模型的先發優勢, 在OpenAI的GPT-2, GPT-3大獲全勝之後,DeepMind才推出了Gopher等模型來補作業。

2) 優秀的工程能力。考慮到DeepMind有一個一千人的團隊,相比一些競爭對手比如FAIR, MSR等,DeepMind的論文產出在數量上並沒有優勢。一部份原因可能是DeepMind有一大批人的日常工作是在造輪子,DeepMind的工程能力非常的優秀,有一個龐大的engineering團隊。註意到好多經典的模型或者演算法比如Transformer, ResNet, GAN等都並不是起源於DeepMind,但是DeepMind的工程團隊做了一系列內部的工具包來實作和維護這些演算法, 這樣有很多潛在的好處。 i) 程式碼的復用性和可維護性非常強, 大部份程式碼都維護在Google3上面 (類似於一個全體員工的Github), 大家可以輕松的呼叫之前實作好的功能。 ii) 研究員們可以在這個基礎上去嘗試一些天馬行空的想法,實作事半功倍。iii) 研究員跟工程師更好的協作,大家可以一起去完成一些更大的專案,而不只是做一些以發論文為目標的小專案。iv) 工程師們搭建了非常好的執行機器學習實驗的平台,大家可以非常容易的launch新的實驗,追蹤模型的執行情況,做hyperparameter search和評估模型效果等等。v) Code review相比科研機構會更加嚴格一點。

3) 工作的連續性。DeepMind的工作非常有連續性,內部有research hub等平台來跟蹤每個專案的進展, 每個專案都盡量有一個承前啟後的作用,有些工作雖然看起來比較incremental,但是環環相扣,長時間的積累之後可能就是一個非常好的工作了。

4) 團隊氛圍。 因為管理一個一千人的團隊多多少少會有辦公室政治等問題,DeepMind的工作氛圍非常強調團結合作,希望透過這種方式來減少內耗,朝著共同的目標AGI邁進。

總而言之,我覺得DeepMind是一個新型的AI科研與工程相結合的模式,集中力量去做一些科研團隊和工程團隊都無法獨立完成的事情,用AI去解決一些獨特的問題,在學術圈,工業界和公眾當中都能產生比較大的影響力, 推動整個AI領域向前發展。