在人工智慧領域，輝達再次引領技術革新，於當地時間12月17日推出了Jetson Orin Nano Super，一款手掌大小的生成式AI超級電腦。這款僅售249美元的開發者套件，以其卓越的效能和親民的價格，為商業AI開發者、愛好者和學生提供了一個強大的工具。輝達CEO黃仁勛強調，Jetson Orin Nano Super的效能提升了70%，每秒可執行高達67萬億次的INT8運算。
同時，OpenAI也不甘示弱，推出了最強推理模型o1，其在多個基準測試中超越人類專家，預示著通用人工智慧(AGI)的進一步發展。
圖片來源：視覺中國
OpenAI王炸新一波：向開發者開放滿血o1， 全面超越人類博士專家
在為期12個工作日的線上新品和新技術釋出活動中， OpenAI的王炸又來了一波：將OpenAI的最強推理模型o1向開發者開放，用於開發語音類App的API中納入了收費更低的先進模型GPT-4o版本。
今年9月，OpenAI 釋出了o1的預覽版o1 preview，稱o1是第一個具備真正通用推理能力的大模型，它的核心能力推理在測試化學、物理和生物學專業知識的基準GPQA-diamond上得到了充分體現。
據OpenAI的評估， o1在該測試中全面超過了人類博士專家，準確率達到78.3% ，而人類專家的得分為69.7%。OpenAI稱，「通用人工智慧(AGI)之路，已經沒有任何阻礙」。此外，o1在多個高難度的推理基準測試中表現優異， 例如在美國數學邀請賽（AIME）中，o1的正確率達到了83.3%，遠超其前身GPT-4o的表現。
12月5日，OpenAI在預告的連續12日王炸釋出活動首日就推出了正式版的o1， 所謂滿血o1，它被納入ChatGPT Plus套餐。正式版o1支持多模態輸入，具備視覺推理能力。相比o1 preview版本，正式版o1的平均響應速度快了60%，OpenAI還發現正式版o1在推理時犯重大錯誤的頻率比o1 preview減少34%。
在包括編碼、數學和視覺推理任務在內的一系列基準測試中，正式版o1都相比預覽版取得了明顯進步。例如在SWE-bench Verified基準的編碼測試中，o1的評分從o1 preview的41.3提高到48.9，而以數學為重點的AIME測試中的評分甚至從42躍升至79.2。
O1的新功能為開發者提供更多幫助。比如結構性輸出Structured Outputs功能讓響應可靠地匹配自訂格式，如JSON模式，從而確保與外部系統互動時的一致性；函式呼叫Function calling功能簡化了將o1連線到API和資料庫的過程；對視覺輸入進行推理的能力Vison capabilities發掘了制造、科學和編碼方面用例的前景。
開發人員還可以使用新的reasoning_effort參數微調o1的行為，該參數控制模型在任務上花費的時間，以此平衡效能和響應時間。
同時，o1的延遲更低，對於給定的請求，o1使用的推理token比o1-preview平均少60%。
本周二OpenAI還更新了支持語音助手、即時轉譯工具等低延遲自然對話體驗的Realtime API。OpenAI同時降低Realtime API的收費，將GPT-4o音訊的定價降低了60%，降至每100萬個輸入token收費40美元，每100萬個輸出token收費80美元。GPT-4o mini的文本token費率也大幅下調，輸入token起步價0.60美元，輸出token起步價2.40美元。
輝達推出僅249美元的AI超級電腦 生成式AI效能提高達1.7倍
另外值得註意的是，輝達當地時間12月17日推出了一款名為Jetson Orin Nano Super的生成式AI超級電腦。輝達CEO黃仁勛表示， 這款開發者套件透過軟體升級實作了更高效能和更低價格，僅售249美元，尺寸小巧，可放在手掌中，可將生成式AI效能提高高達1.7倍。
該公司表示，這款產品適合商業AI開發者、愛好者和學生，與其前代產品相比，其生成式AI推理效能提升了1.7倍，效能提高了70%，每秒可以執行高達67萬億次的INT8運算（67 INT8 TOPS），記憶體頻寬也提升了50%，達到了102GB/s。
黃仁勛還特意為這款產品錄制了一段視訊，如同2021年釋出Hopper p00時一樣，展現輝達對這款產品的重視。在視訊中，黃仁勛表示，從Xavier開始，輝達就創造了一種新的處理器，也就是機器人處理器，當時沒人知道他們在做什麽。
黃仁勛表示，Jetson Orin Nano Super非常適合那些希望在生成式AI、機器人技術或電腦視覺領域發展技能的人士。在AI領域從任務專用模型向基礎模型轉變的趨勢下，它也為開發者提供了一個將創意變為現實的易用平台。
Jetson Orin Nano Super效能增強，為所有流行的生成式AI模型，例如Meta的LLaMA、阿裏巴巴的通義千問以及谷歌的Gemma。這款套件基於Transformer的電腦視覺模型帶來了顯著提升，進一步提升效能表現。
輝達強調，隨著AI技術逐漸從雲端走向終端，實體AI將是下一波發展重點，Jetson Orin Nano Super不僅可以用於開發聊天機器人，也適合簡歷視覺AI代理或部署AI機器人等套用。
輝達也宣布將為Jetson Orin NX和Nano系列的系統模組提供軟體更新，讓它們也能享受到Super模式的效能提升，最高可達70%。這些更新將透過Jetpack SDK管理器釋出在輝達網站和GitHub上。
每日經濟新聞綜合公開資料
每日經濟新聞
