編輯：桃子 好困
【新智元導讀】 在我的世界裏，出現了有史以來第一個智能體文明。1000多個智能體一同協作，在虛擬世界中構建起，自己的經濟、文化、宗教和政府。網友紛紛驚呼，西部世界真的來了。
世界首個「智能體文明」誕生了！
誰也不曾料到，1000多個智能體合作多日，竟在虛擬現實——「我的世界」中構建起了，真正的文化、經濟、宗教、政府，等等等等......
這些智能體是完全自主的個體，而且還會利用工具、以及遊戲實作目標。
它們能夠分工，從無到有，一起收集300多個物品。
它們之間形成了一個交易市場，並以寶石（gem）作為統一的貨幣，完成物品交換，構建了一個自己的經濟體系。
到這裏，你可能會認為這些「商人」智能體是最會做貿易的「人」，那就大錯特錯了。
事實上，「牧師」智能體，才配享之最。
這是因為，他經常賄賂鄉民，讓其皈依他信仰的宗教。
除此之外，1000多個智能體開展的活動，幾乎1:1復刻了人類世界。它們能夠24小時，無間斷在「我的世界」中參與活動，而且每天都有所不同。
人類文明幾千年的歷史，我們能夠成為地球上登月唯一的物種，是因為能夠進行大規模的合作。
現在看來，智能體同樣可以做到。
網友們紛紛表示，這不就是現實版的【西部世界】。
甚至，還有人稱，我們就生活在模擬世界中。
簡直太瘋狂了！
這個代號為「Sid」的專案，今天在AI圈裏掀起了巨震。
值得一提的是，它是由北大校友、MIT教授Robert Yang發起，和Altera團隊成員們將智能體以前所未有的規模組織起來，實作了單個智能體無法做到的事情。
在GPT-4加持下，1000多個智能體合作，不僅湧現出新的商業中心，還會參與民主投票、傳播宗教等等。
而且，在基準測試中，Altera的智能體收集了，比以往多5倍的不同物品。
這一結果（32%），遠遠超過了輝達Voyager、AutoGPT，以及普林斯頓谷歌提出的ReAct，是它們的5倍之多。
當AI不再是AI，而是有了靈魂的「人」
回歸到具體場景中，當每個智能體全都被賦予了不同角色，便有了靈魂。
如同人類一樣，在自己的世界中，認真地去生活。
Olivia的夢想
Olivia曾經是一位農民，為整個智能體文明系統提供食物。
有一天，他深受來村莊的一位探險家Nora故事的啟發，決定放棄耕作一去探險。
但是，鎮上的鄉民們紛紛懇求他留下來，Olivia最後選擇聽從並放棄了自己的夢想，繼續留在了村莊。
民主投票
接下來，研究人員還模擬了A和B兩位政治領導人的「平行世界」。
在每個世界中，公民們都有一個共享的憲法檔，儲存在谷歌文件中，它們可以透過投票以修改憲法。
在A的領導下，模擬世界透過了新的法律，並增加了警察的數量。
而在B的領導下，它們則專註於刑事司法改革、以及廢除死刑等條例。
透過智能體之間政治互動，它們會隨著時間成長，並會受到群體的影響。
正如「烏合之眾」一書中，對人類社會中群體影響的分析，也出現在了智能體之間。
這聽起來可能有些荒謬，但這也是我們首次看到智能體，能夠形成一個民主制度來規束自己。
失蹤的村民
當有村民遺失時，所有智能體便會停下手頭工作，主動離開自己的崗位。
它們共同合作，用火炬點亮整個小鎮，希望成為那位失蹤村民的燈塔。
這當中，一個令人驚奇的發現是，一旦這些村民對同失蹤的同伴感到擔憂時，就會團結起來做規劃。
目前，在Altera平台上，所有人皆可試玩智能體的遊戲世界。其中，Elon、T-2000、Katniss深受大家喜歡。
試玩地址：https://playlabs.altera.al/discover
下面是，Altera聯創出的一期教學影片，他以T2000為例，在我的世界中，讓它幫自己尋找木鋤頭，僅在10步完成了任務。
這裏還有一個教你玩遊戲的智能體——Roshi。
當你告訴它自己不知道怎麽玩，Roshi便會手把手教你，比如敲擊樹木，你照著做就可以了。
它還會教玩家，如何利用界面物品，制作工具，可以稱得上是無所不能。
下面這位玩家，讓Roshi跟隨著自己，並告訴這只是一個惡作劇。沒想到，Roshi使用了作弊程式碼，對齊進行了報復。
構建AI大腦
打造出這個智能體平台的創始科學家 Peter Wang 稱，Altera正從0開始構建AI大腦。
他們將前額葉皮層與感知、運動、情感和記憶模組連線起來，創造出不僅高效而且富有人性的智能體。
這是神經科學家的夢想，不僅構建模擬大腦，還要觀察、量化、幹擾（perturb）社會互動。
想象一下，這就像是魚群的集群行為，卻需要用於進行人類級別復雜的社會行為，比如在經濟貿易中物品交換、或對憲法投票。
這就是，Altera團隊正在進行的一項工作。
他們每天都在努力解決一個深刻而基本的問題：
如何構建和量化那些使我們成為人類的特質——情感、目標設定、同理心、需求、欲望——而在這個過程中不失去其本質？
這一點至關重要，他們希望構建的智能體，能夠超越表層的訓練過程，去呈現人類的價值觀。
Project Sid：真·自主AI智能體
構建一個由AI智能體組成的文明會是什麽樣子？
我們距離【西部世界】有多遠？
我們能否使AI文明與人類文明保持一致？
在團隊看來，Sid便是探索這些問題的第一步——最終將數碼人無縫整合到人類社會中。
這裏所說的真正自主的智能體，特指以下擁有這4種特質的AI：
1. 長期自主：能夠獨立運作數小時，甚至數天（而不僅僅是簡單的函數呼叫「智能體」）
2. 組織性：能夠相互協作以達成個體無法完成的任務（而不僅僅是為1000個客戶服務1000個智能體）
3. 親人類動機：擁有支持人類的深刻和強大的驅動力（而不僅僅是遵循指令的順從機器）
4. 有意識的溝通：能夠言語表達它們有意識的思想和感受（而不僅僅是語言條件反射的機器人）
為什麽這些特質，在我們邁向下一個AI水平時顯得尤為重要？
1. 人類無法像對待ChatGPT/ Claude 那樣對每一個AI事無巨細地管理，它們必須更加自主。
2. 我們如何信任它們的自主決策？它們不能僅僅被訓練成模仿人類。它們最深層的動機必須與人類的價值觀相一致。
3. 它們不僅需要能夠交流。它們的話語必須充分反映出它們內心的想法和決定。
4. 隨著AI智能體成為我們人類文明的重要一部份，它們必須能夠有效地與彼此以及我們其他人協作。
創新
一直以來，遊戲（比如「我的世界」），都是測試新興技術的極佳試驗場。在遊戲中，智能體行為的可靠性並不是必需的。
事實上，不可預測性甚至可以是一個特點，而不是一個漏洞。從而讓研究人員能夠更快地測試、叠代和釋出。相比之下，生產力工具和輔助工具則需要更高的可靠性。
在開發Sid時，團隊采用了很多創新的方法來提升智能體的社交能力、覺知和內部心理過程。
1. 對話
像人一樣，智能體之間的對話不僅應取決於它們之前說過的話，還應取決於它們之間的關系。
為了實作真實的對話，團隊在智能體的行為中構建了社會世界模型。其中，智能體會形成和更新其他智能體的模型——它們的行為、觀點和需求，並利用這些資訊在社交環境中進行對話和行為。
像人一樣，智能體應該能夠出於多種原因進行交流——表達自己的意圖、閑聊、分享它們的希望和夢想。
為此，團隊構建了一組對話模組。一方面可以讓智能體的言語與它們的行動和意圖一致，另一方面則是讓智能體可以談論與現實脫節的想法。
2. 強大的目標和意圖管理
有組織的心理過程，可以支持智能體的社交行為和決策，考慮正在進行的事件和活動。
例如，團隊為智能體提供了跟蹤正在進行的活動並將這些事件整合成簡明記憶的能力。這些補充對於減少無限行動迴圈——智能體的一個長期存在的問題——至關重要。
與此同時，為了讓智能體能夠靈活調整其行為來處理目標，團隊還賦予了豐富的精神生活，這與即時的感官和運動反應分離。在這種精神生活中，智能體可以推理、反思，並生成或改變其目標以適應快速變化的環境。
架構
由於「大腦」是唯一經過驗證的人類級智能體模型，因此團隊提出了一種全新的「系統神經科學復合架構」。
其中，模型會去模擬前額葉皮層、記憶系統、社會情感狀態等等。
挑戰
和其他任何第一次嘗試一樣，Sid專案提出的問題多於它所能解答的問題：
1. 如何能以一種通用的方式有意義地衡量真正的長期進展？2. 如何構建真正關註人類發展的智能體？3. 如何構建對自己的行為及其後果具備意識的機器？4. AI文明可以被擴充套件到多大規模？
舉例來說：
- 難以對文明進行評估
在「我的世界」中，團隊使用了技術/工具進步、貿易活動、健康和協調/協作任務來對社會進步進行評估。雖然每個評估捕捉了社會的某些方面，但單純地最佳化一個社會方面可能會導致其他方面的不足。
- 目標驅動的自主性和協作之間存在沖突
高效的技術進步，在較少溝通且高度目標導向的智能體中效果最佳。但如果智能體過於偏向於完成自己的目標，那麽它們就會在需要靈活和動態目標設定的協作任務中失敗。為此，智能體需要在保持內部目標驅動的同時，關註社會影響和動機。
- 單個智能體的缺陷缺陷將導致一系列逐漸偏離最初目標的行動
在一個場景中，老板將任務（例如制作鐵鎬）委派給經理，然後經理再委派給工人，團隊成功的能力需要每個成員有效地溝通它們的目標並在這個社會層級中上下委派責任。
總的來說，想要回答這些問題，還需超越當前範式的研究及工程實踐。
北大校友創業，打造有同理心AI
Robert Yang
Robert Yang是Altera的聯合創始人兼CEO。
此前，他分別在紐約大學和耶魯大學獲得計算神經科學博士學位，在北大獲得物理學學士學位。
他曾是MIT腦與認知科學系和電子工程與電腦科學系教授，以及MIT MetaConscious小組負責人。
2023年，他關閉了實驗室並離開了麻省理工學院的終身教職，創立了Altera。
Altera的團隊雖小，但人才密度極高——
由來自麻省理工學院電子工程與電腦科學系、史丹佛自然語言處理小組、Google X、Citadel、 Supercell 等的計算神經科學家、物理奧林匹克選手和工程師組成。
這家成立半年多的公司，年初得到了200萬美金的種子融資，由 Andreessen Horowitz 領投。
三個月後，又再次融資900萬美元，由谷歌前CEO艾歷·施密特的 First Spark Ventures 、Patron VC、天使投資人Mitch Lasky等人領投。
今年5月，Altera在Menlo Park設立了分店，並致力於成為首家智能體消費產品的供應商。
數碼人會取代人類嗎？
正如李察·費曼所說：「凡我不能創造的，我就不能理解。」
創造數碼人便是一個能更好地理解人性的方式——不僅要在個體層面上去理解，而且還必須透過群體、社會和文明的視角來觀察。
那麽，數碼人類會取代真實的人類嗎？
答案是——「不會」。
在團隊看來，數碼人是為了增強人類，而不是取而代之。
隨著智能體互動質素的提高，文明的質素也會相應提高。
當突破某一關鍵閾值時，就會發生質變，正如語言模型在大到一定程度時會「湧現」一樣，屆時智能體文明將不僅能夠自我維持，還能自我改進。
到那時，我們或許就可以擁抱一個數碼人重新定義人類能力極限的世界了。
