·OpenAI正在組建「集體對齊」團隊，以建立一個新系統，采納公眾關於如何確保其未來人工智能模型「符合人類價值觀」的想法。
·OpenAI行政總裁山姆·柯曼表示，人工智能對世界的改變比我們想象的要小得多，對工作的改變也比我們想象的小得多。
1月16日，瑞士達沃斯世界經濟論壇開幕當天，OpenAI行政總裁山姆·柯曼接受彭博社采訪。
新的一年，ChatGPT的開發機構OpenAI展現出力圖減輕監管壓力的姿態。
當地時間1月16日，這家美國人工智能開發機構宣布，希望采納公眾關於如何確保其未來人工智能模型「符合人類價值觀」的想法，為此正在組建一個由研究人員和工程師組成的集體協調團隊，以建立一個新系統，用於收集公眾對其模型行為的輸入，並將其「編碼」到OpenAI的產品和服務中。
前一天，OpenAI趕在2024年的多場選舉之前宣布，禁止將旗下工具用於政治競選和選民壓制。
OpenAI行政總裁山姆·柯曼16日在世界經濟論壇上表示，人們擔心人工智能有一天會變得如此強大，以至於會極大地重塑和顛覆世界，這種擔心是多余的。
但在當天，OpenAI表示正與五角大廈合作開展軟件專案，其中包括與網絡安全相關的專案，這與該公司之前禁止向軍隊提供人工智能技術的原則背道而馳，引發了一些擔憂。
12個國家的人員參與
OpenAI在網誌文章中寫道，該公司去年5月宣布了「人工智能資助專案民主投入」計劃，旨在資助個人、團隊和組織建立「民主流程」的實驗，以回答有關人工智能護欄和治理的問題。
該公司向來自113個國家的近1000名申請者中的10個團隊提供了10萬美元的獎勵。所選團隊的成員來自12個不同的國家，專業知識橫跨各個領域，包括法律、新聞、和平建設、機器學習和社會科學研究。
這些受資助團隊的工作涵蓋了從影片聊天界面到人工智能模型眾包審計平台等各個方面。工作中使用的所有程式碼以及每項提案的簡短摘要和要點均已公開，釋出在OpenAI的官網上。
OpenAI從這項計劃中獲得了一些經驗，並提出實施計劃。「我們的目標是設計包含公共輸入的系統，以引導強大的人工智能模型，同時解決上述挑戰。為了幫助確保我們在這項研究上繼續取得進展，我們正在組建一個由研究人員和工程師組成的‘集體對齊（Collective Alignment）’團隊。」該公司寫道。
新的團隊將建立一個系統，收集公眾對其模型行為的輸入並將其編碼到OpenAI的系統中。該公司將繼續與外部顧問和資助團隊合作，包括執行試點專案，將資助原型納入指導其模型。
柯曼、OpenAI總裁格雷格·布洛克曼和首席科學家伊利亞·蘇茨維克多次表示，人工智能的創新步伐如此之快，不能指望現有當局充分控制這項技術，因此需要將這項工作眾包。包括Meta在內的一些競爭對手指責OpenAI試圖透過遊說反對開放AI研發，來主導對AI行業的監管。OpenAI否認了這一點，可能將資助計劃和「集體對齊」團隊作為其「開放性」的一個例子。
不得用於政治競選和遊說
OpenAI正受到政策制定者越來越嚴格的審查，並面臨英國對其與微軟關系的調查。最近，該公司似乎希望減輕監管機構的壓力。當地時間1月15日，就在共和黨公布第一州的初選結果之日，OpenAI概述了對其工具套用於政治領域的限制。
OpenAI的ChatGPT和Dall·E是市面上最強大的AI聊天機器人和影像生成應用程式之一。這類工具的發展已引發擔憂，可能被用於透過虛假新聞報道以及由電腦生成的影像和影片來操縱選民。
OpenAI就其政策進行了一系列澄清，其中一條是，其工具不得用於政治競選和遊說，也不得用於建立冒充候選人和其他真人的聊天機器人，以及冒充地方政府的聊天機器人。
該公司表示，旗下工具還不得用於給投票設定障礙，例如聲稱投票毫無意義。
為了幫助選民更好地評估資訊或影像是否由AI生成，OpenAI表示，對於Dall·E生成的影像，將就影像溯源相關細節進行編碼。該公司還將越來越多地提供新聞報道的連結和出處，以幫助選民評估生成文本的可靠性。
其他AI系統開發商也在2024年全球七十多國舉行選舉前宣布了一些措施。谷歌上個月表示，將限制該公司AI聊天機器人Bard進行選舉查詢，擁有Facebook的Meta已在去年禁止競選活動使用AI廣告工具。
OpenAI與美國國防部合作
16日，OpenAI全球事務副總裁安娜·馬坎朱（Anna Makanju）在世界經濟論壇上表示，OpenA正在與美國國防部合作開發開源網絡保安軟件工具，並已與美國政府就幫助防止退伍軍人自殺的方法進行了初步談判。
上周，OpenAI刪除了其使用政策中禁止其人工智能用於「軍事和戰爭」套用的措辭，引發了人工智能安全倡導者的警惕。馬坎朱將這一決定描述為更廣泛的政策更新的一部份，以適應ChatGPT及其他工具的新用途。
「因為我們之前對軍事實行了本質上的全面禁止，許多人認為這會禁止許多用例，人們認為這些用例符合我們希望在世界上看到的。」她在接受彭博社采訪時說。但她表示，OpenAI 仍然禁止使用其技術來開發武器、摧毀財產或傷害人員。
OpenAI最大的投資者微軟公司已與美國武裝部隊和其他政府部門簽署了多個軟件合約。
柯曼也出席了世界經濟論壇這場彭博社組織的活動。他表示，通用人工智能可能會在「相當接近的未來」得到開發。通用人工智能（AGI）是指可以完成與人類相同水平或更高一級任務的人工智能形式。
柯曼表示：「它對世界的改變比我們想象的要小得多，對工作的改變也比我們想象的小得多。」自ChatGPT火爆以來，他已多次試圖緩解人工智能懷疑論者對該技術將在多大程度上接管社會的擔憂。
美國前總統特朗普15日在艾奧瓦州共和黨黨團會議上獲勝後，柯曼被問及隨著總統選舉的升溫，人工智能是否會加劇經濟不平等並導致勞動階級的混亂。
「是的，當然，我認為這是值得考慮的事情。」柯曼說。但他後來說，「這比我想象的更像是一種工具」，人工智能尚未以許多經濟學家擔心的規模取代工作崗位，這項技術已經成為「令人難以置信的生產力工具」。
(本文來自澎湃新聞，更多原創資訊請下載「澎湃新聞」APP)
