當前位置: 華文星空 > 新聞

香港大學馬毅談智慧本質:現在的大模型只有知識沒有智慧

2024-12-15新聞
「過去十年人工智慧在技術端上迅速發展,但在‘智慧’上並沒有界定清楚,把智慧跟知識完全混淆在一起,一個系統有知識就有智慧了嗎?」
12月13日上午,在上海人工智慧實驗室發起並主辦的首屆「浦江AI學術年會」上,香港大學計算與數據科學院院長、AI講座教授馬毅進行了一場「探討智慧本質」的演講。
馬毅在演講過程中,對現在主流定義的「人工智慧」打上了問號。他認為,過去十年人工智慧在技術端上迅速發展,但在「智慧」上並沒有界定清楚,把智慧跟知識完全混淆在一起。
真正的智慧是什麽?馬毅提到,在1956年的達特茅斯會議(Dartmouth Conference)上提出對人工智慧(Artificial Intelligence)的定義,智慧應該能自我糾正、改進記憶,並能自主獲取新知識。目的就是一定要做人區別於動物特有的智慧,比如具備抽象能力、符號運算、邏輯推理、因果分析等能力。但現在的GPT有知識但並沒有「智慧」。
回看過去十年,馬毅認為,「人工智慧」在做的工作主要集中在影像辨識、影像生成、文本生成、壓縮去噪、強化學習。不過,這並不是主流的大模型,現階段相當於在做非常基礎層面的工作,包括預測下一個Token(電腦術語,一種用於身份驗證和授權的令牌)、下一幀影像。馬毅稱,Sora的核心原理其實非常簡單,本科生都可以了解。
馬毅說,當前,人們都在討論單個模型,認為只要模型足夠大,就能透過購買芯片和砸訓練數據來實作「智慧」。但他認為,這並不能解決所有問題,因為這連自主學習的能力和機制都沒有實作,只是展現出人類記憶中的碎片,無論是辨識還是生成,都只具備記憶的局部功能。
馬毅表示,過去十年我們在智慧這一階段只做到相當於人類聽覺(auditory)這一層,現在必須成系統,把多個閉環組織起來,形成對復雜的外部世界的資訊整理和提取系統,這才真正相當於人類類腦的機制。
馬毅提出的人工智慧發展的三個階段。
他認為,現在的人工智慧可以結合自然智慧的發展重新定義。第一階段,類似於DNA階段,第二階段,讓個體能夠有大腦產生記憶,能夠自主地學習新的知識,包括糾正現有的知識。「現在個體和動物已經有這個能力,但真正的大模型還沒有到這一階段。」第三個階段,是掌握人的邏輯,比如符號、抽象、數學和因果推理。
馬毅會讓學生做一件事,測試大模型明不明白數的概念,「很負責任地說,當前沒有任何大模型有自然數的概念。」馬毅說。
馬毅認為,科學的發展確實到了讓人興奮、激動的時刻,大家都對智慧產生了興趣。但「實際上過去十年可能並沒有進步,反而有些退步。」在馬毅看來,當下的年輕科學家如果想要超越,拿下一個諾貝爾獎,一定不要隨大流,要敢於坐冷板凳。1956年達特茅斯會議上一群人選擇做和主流不一樣的事,後期這些人都獲得了圖靈獎、諾貝爾獎。
馬毅是AI機器視覺知名學者,1995年本科畢業於清華大學自動化專業,1997年獲加州大學柏克萊分校(UCB)電子工程與電腦科學碩士學位,2000年獲UCB數學碩士學位和電子工程與電腦科學博士學位。博士畢業後,馬毅獲美國伊利諾大學香檳分校(UIUC)教職。
2009年,馬毅正式加入微軟亞洲研究院,擔任視覺計算組的研究經理和首席研究員,並接手由沈向洋創辦的視覺計算組(VCG),後來國際上知名的電腦視覺專家何愷明、孫劍等都是馬毅當時的同事。
2014年,馬毅以全職教授身份加入上海科技大學資訊科學與技術學院,成為該學院在電腦視覺研究方向的帶頭人。2017年,他從上海科技大學離職,全職加入加州大學柏克萊分校電子工程與電腦系。2023年1月1日,馬毅加入香港大學,出任數據科學研究院院長。
澎湃新聞記者 喻琰
(本文來自澎湃新聞,更多原創資訊請下載「澎湃新聞」APP)