近年來，人工智慧大模型技術的湧現，掀起新一代人工智慧發展的研究熱潮，也為各行各業套用人工智慧帶來新的發展機遇。
人工智慧的未來充滿哪些可能性？我們如何應對？記者采訪了有關專家。
人工智慧研究正從以往的學術牽引更多轉為需求牽引
作為新一輪科技革命和產業變革的重要驅動力量，人工智慧被普遍認為將對經濟社會發展產生深遠影響。
近年來，人工智慧研究正從以往的學術牽引更多轉為需求牽引，人工智慧的發展目標正發生大的轉變。
在浙江大學人工智慧研究所所長吳飛看來，人工智慧正由原來的「用電腦模擬人的智慧」，向著三個方向拓展：「機器+人」（用機器與人結合成增強的混合智慧系統），「機器+人+網路」（用機器、人、網路結合組織成新的群體智慧系統），「機器+人+網路+物」（用機器、人、網路和物結合而成的智慧城市等更復雜的智慧系統）。在「賦能社會」的套用驅動下，一系列智慧技術正在蓬勃發展。
北京郵電大學人工智慧學院人機互動與認知工程實驗室主任劉偉介紹，從使用數學模型建立機器智慧、借助統計機率實作機器學習，再到試圖借助遷移方法實作上下文感知的行為智慧系統，這三類人工智慧發展趨勢體現了向人機環境系統邁進的發展路徑。「具備對環境的感知、理解和互動能力，才算真正意義上的通用人工智慧。」劉偉說。
2017年國務院印發的【新一代人工智慧發展規劃】，明確了多種人工智慧的技術形態，其中包括跨媒體智慧、群體智慧、混合增強智慧等。
吳飛舉例，手術機器人參與的外科手術無法由醫生獨立完成，也無法由機器人單獨完成，呈現出人機協同混合增強智慧特征。「更多的垂直行業也正在加快相關人機互動探索，要麽將人的作用引入智慧系統，要麽在人工智慧系統中引入受生物啟發的智慧計算模型。人機透過不斷的彼此互動、相互學習，達到持續增進自身智慧水平的目的。」吳飛說。
透過技術和法律等手段規避人工智慧風險
人工智慧造福人類，同時也存在潛在風險。
「人工智慧的風險，主要存在於這樣幾種可能的情況：一是惡意使用人工智慧和錯誤使用人工智慧；二是軟體漏洞與硬體失效造成人工智慧故障；三是環境變化造成人工智慧失控。」劉偉說。
人工智慧使用不當的風險已引發人們關註。例如，人工智慧技術可收集和分析海量數據，有可能導致個人私密泄露、數據泄露和網路攻擊；人工智慧技術可生成虛假照片、視訊等，助長網路欺詐等不法行為。人工智慧主題的科幻電影所描繪的超前場景，也讓人們思考人工智慧技術可能帶來的倫理問題，例如，人類未來如何與有「智慧」的機器相處？
在吳飛看來，人類始終是人工智慧高度、廣度和深度的總開關與決定者，也是人和人造物的協調者。因此，一方面不能簡單地將人工智慧等同於人類大腦，盲目相信「人工智慧替代人類」的觀點，另一方面也要善於利用人工智慧這一人類幫手，在人機協同中創造更加美好的未來。
專家認為，透過技術和法律等手段，人工智慧相關風險可以規避，人類也有能力找到化解風險的有效手段。
中國始終是人工智慧治理的積極倡導者和實踐者。2021年9月，國家新一代人工智慧治理專業委員會釋出了【新一代人工智慧倫理規範】，強調將倫理道德融入人工智慧全生命周期。2023年10月，中國在第三屆「一帶一路」國際合作高峰論壇期間釋出【全球人工智慧治理倡議】，圍繞人工智慧發展、安全、治理三方面系統闡述了人工智慧治理中國方案，充分體現了中國在處理人工智慧治理問題上的大國擔當。
建立良好生態系支撐人工智慧賦能社會
近年來，越來越多的國家將人工智慧發展置於國家戰略層面，在頂層設計中加入防止人工智慧技術壟斷和技術無序擴張等理念。
如何防範人工智慧技術被濫用？
受訪專家表示，應該建立多學科、多領域的合作，鼓勵科學家、工程師以及公眾廣泛參與，共同探討人工智慧的發展方向、套用領域和道德倫理問題。全世界應該攜手，堅持發展和安全並重的原則，確保人工智慧技術的發展符合人類的整體利益。
劉偉表示，從技術手段上看，為了增加人工智慧的公平性、可信任性、可解釋與透明度、安全性等，研發主體從頂層設計、過程控制、工程收尾等整個流程中都要保持人機環境系統的設計思路。
瑞萊智慧執行長田天認為，要紮實做好人工智慧基礎理論攻關，提升人工智慧的內在安全效能；鍛造、儲備對新一代人工智慧的安全評測能力，掌握對其準確性、效率、內容安全、抗攻擊能力等多個維度進行評測的方法和手段。同時，還要著力研發提供必要的安全工具，比如提供深度偽造檢測工具幫助公眾辨識資訊真偽、防範網路欺詐等。
數據與演算法安全是人工智慧安全的核心。專家表示，要重視高品質語料的建設，透過精標數據、反饋數據來進行最佳化訓練，最終實作模型輸出的選優除劣。
吳飛認為，推動人工智慧技術賦能社會需要良好生態系的整體支撐，不僅僅只是技術研發本身。要把握人工智慧技術內容和社會內容高度融合的特征，加強前瞻預防與約束引導。「一個良好的生態系可有機聯結倫理與道德、技術與產業、資本與市場，在這樣一個生態系中，每個來自不同領域的人工智慧參與者都能從中獲益。」吳飛說。（記者 劉詩瑤 喻思南）
來源：人民日報
