9月7日，2024 Inclusion·外灘大會正式閉幕。事實上，這一天下午，距離大會閉幕幾個小時前，仍有觀眾在排隊入場。官方數據顯示，本屆大會共吸引了5.2萬人現場參會，無論是參會規模還是國際嘉賓的數量，均創下了歷史新高。除了年輕人，記者註意到，觀眾隊伍中還有不少老人、小孩。
本屆外灘大會以「科技·創造可持續未來」為主題，包括36場開放見解論壇、10多場創新者舞台、2場AI創新賽事、1場10000平方米的展覽以及1場綠色生活節和1場科技人才招聘會。據統計，三天時間內，有30余項AI新成果在本屆外灘大會釋出，包括螞蟻AI生活管家「支小寶」、AI金融管家「螞小財」，AI健康管家等。
10000平方米的展覽場地匯集了眾多企業參展，記者觀察到，相比往年，準備各類裝備體驗、互動的廠商越來越多了，許多展台前，觀眾為參與體驗排起長隊。重視人文性，成為本屆外灘大會的一大特點。除了開幕式上24歲的獨臂男孩周鍵借智能仿生手演奏鋼琴的動人瞬間，在外灘大會的展區，借助器材觀眾可以體驗將腦電波以花朵的形式視覺化，讓瞬間的情緒形成紀念。還有可實作「擁抱傳遞」的器材，穿戴上內嵌人造肌肉纖維的特制背心，當另一個人擁抱裝有壓力傳感器的模型時，體驗者便能感受到模擬其聲控、觸覺反饋和溫度調節等多種感官元素的「遠端擁抱」。
在這一年的外灘大會上，如何讓「技術向善」的討論和研發更加被業界重視。
AI醫療受關註
為期三天的展覽中，AI醫療的相關產品、企業展台總有著最多的人流量，「爸媽記憶力下降了怎麽辦?」「AI如何輔助癌癥篩查?」這些問題讓不少觀眾不自覺就邁入了相關展區，不斷有老人加入腦健康檢測，有年輕人加入腦電波的「畫圖」。
「和去年相比，今年外灘大會AI人工智能的份額感覺更高了，而且不是像之前傻乎乎的那種，今年的很多套用是真的有用的，明顯能感覺到演算法提升了很多，比如說面部辨識功能或者語音互動功能，都感覺上升了一個檔次，效果變好了，所以大家體驗的熱情也高。」一位參會的展商對記者表示。
來不及喝口水，達摩院AI醫療展台的工作人員就迎來了下一位咨詢的觀眾，今年的外灘大會上，達摩院醫療AI實驗室展出了其AI醫學影像分析產品，借助AI技術，這項產品能夠從平掃CT中進行胰臟癌、食道癌、腸癌、胃癌等八大癌癥及一系列慢性病的篩查，吸引了不少觀眾。
展台的工作人員告訴記者，透過AI辨識，這項產品能夠在肝癌、肺癌等癌癥篩查中達到90%以上的準確率，提升醫生的工作效率，補足一些醫療資源不均衡帶來的問題。
「其實這項技術主要是面向B端的，為醫生服務，客戶更多是醫院、體驗機構、保險公司、公益組織以及軟件廠商之類的，但這兩天很多個人也非常感興趣。」上述工作人員表示。盡管許多AI醫療產品並未直接面向C端使用者，但外灘大會的觀眾們對AI醫療將如何改變疾病的診治感到好奇。
博斯騰科技的展台則吸引到了大量的老年觀眾，許多老人紛紛拿出手機透過支付寶「碰一碰」進行答題，檢測自己得阿爾茲海默病的風險指數。展區的工作人員介紹，透過許多數據、資料的支撐，這款產品能夠透過答題測驗、語音互動、動作辨識等方式檢測阿爾茲海默病，並透過大模型生成使用者專屬的腦健康訓練計劃。
「我們的產品2020年成型，但借助網絡攝影機的動態辨識功能是今年剛推出的，主要是借力於AI功能的發達，包括訓練方案的推薦，也的確在大模型出現後智能了很多。」該展區的工作人員告訴記者。隨著AI的發展，更多AI醫療產品的「前進演化」值得期待。
需要強調的是，目前，許多AI醫療產品的診療效果仍缺乏公開數據或第三方權威機構的驗證，相關展台的工作人員也均表示AI醫療產品無法完全代替醫生診療需求，以輔助作用為主。不過，AI在醫療問題中的套用的確被業界期待。
不少大廠也在押註AI醫療賽道。外灘大會上，支付寶釋出AI套用新產品「AI健康管家」，為使用者提供找醫生、讀報告、陪看診、問醫保、管健康等30多項AI健康服務。百川智能創始人王小川則介紹，百川智能將重點在大醫療AI領域做投入，從兒科醫生、全科醫生兩個切入點發力，希望在明年實作醫療的低成本和可及性，減少醫院的擠兌現象。
全國政協常委周漢民在外灘大會的一場論壇中表示，隨著人工智能等新技術的不斷發展和套用，醫療產業正迎來一場深刻的變革。據他觀察，從最初的影像診斷、輔助診療、基因檢測，到近年來的藥物發現、臨床試驗、健康管理等，人工智能在提高精準度與效率、個人化治療、數據處理等方面具備顯著優勢。他指出，醫療健康與人工智能的融合還延伸到了中醫領域。
談及人工智能在醫療產業的套用情況，周漢民表示，人工智能在醫療健康產業的套用應著力提高精準性、適用性和安全性，此外，還需關註人工智能的引入是否會導致醫護人員技能萎縮、對人工智能的信任的誤判以及資訊超載。
以AI對抗AI
在期待技術帶來美好生活的同時，如何預防技術「作惡」也成為外灘大會討論的熱點話題。
今年的外灘大會上，舉辦了包括「afac2024金融智能創新大賽」和「全球Deepfake攻防挑戰賽」兩場子賽事在內的AI創新大賽，由於近日南韓曝出「Deepfake」（深度偽造技術）事件，被認為是采用新犯罪手段的「N號房」案件重現，以AI對抗AI,Deepfake攻防挑戰賽尤其受到觀眾的挑戰。
事實上，隨著AI技術的發展，Deepfake滋生欺詐等黑色產業鏈，AI換臉欺詐帶來的經濟財產損失、名譽受損等事件正在成為全球挑戰。
在外灘大會展區，許多觀眾現場拍照，然後利用Deepfake換臉模型和演算法，透過影片活化、微笑和眼鏡模版對觀眾的真實照片進行換臉，親身感受了Deepfake的逼真。
而在外灘大會AI創新賽·全球Deepfake攻防挑戰賽的表演賽上，觀眾更是為AI辨識AIGC偽造圖片感到激動。在這場表演賽中，主持人拿出了9張瑪麗蓮夢露等女星的照片，其中2張是AIGC偽造的，選手用自己的參賽模型給出每張圖片的偽造概率值，並對概率值最高的2張照片與正確答案進行比對。最終，兩支參賽隊伍的模型都找到了正確答案。
在後續的互動中，一個有趣的現象是，人類肉眼能夠看出「一眼假」的偽造圖片，AI可能辨識不出，一些肉眼真假難辨的圖片，AI反而能辨識。新加坡科技研究局周天異教授分析，人類在判斷影像是否偽造會依賴直覺和邏輯，一些人類一眼便知的問題AI無法聯系相關背景、情形無法辨識，而一些難以辨識的圖片，AI一絲不茍、勤勤懇懇地完成人類指令的工作模式反而能找出問題。他表示，相比「一眼假」的圖片，恰恰是這些難以辨識的圖片往往給人類帶來更大損失，因此，用AI應對Deepfake有著重要意義。
「從我們現在看到的數據來看，我們叫Deepfake的攻擊也好，AIGC的生成偽造，今年的攻擊量比去年大概增加了10倍，去年攻擊的濃度大概是1%，今年就是10%。整個風險其實是呈指數級上升的情況，這不僅僅是在中國，在南韓，在菲律賓、印尼等國家都有類似的情況發生。」外灘大會AI創新賽·全球Deepfake攻防挑戰賽出題人、ZOLOZ技術總監姚偉斌表示，10%的濃度意味著業界發現線上的流量有10%是Deepfake的流量，隨著AIGC的發展，生成的成本會越來越低，效率越來越高，明年可能不是20%，可能是50%，這是一個必須重視的威脅。
更多引導AI向善的觀點也在外灘大會被討論，姚偉斌坦言，研發檢測演算法，只是遏制Deepfake技術濫用的方式之一。這種方式是相對滯後的。如果要從根源上防範欺詐行為，姚偉斌認為應在標準和立法角度，要求給A IGC 內容建立通用標識，比如每一張AIGC生成的影片或圖片都在檔資訊裏帶一個簽名或浮水印，這樣平台管理更有依據，也能讓AIGC 可以更可信。
「讓人工智能幫助人彈鋼琴，而不是作惡。」是本屆外灘大會反復強調的價值觀。上海市數據科學重點實驗室主任肖仰華表示，AI的大規模濫用是可能損害人之為人的本性的。要有所為有所不為，但凡傷害人之為人之本性的AI套用，我們要謹慎，要加以限制。為此，「我們要重視技術治理，並將治理提前考慮，做到未雨綢繆。」
浙江強腦科技創始人兼CEO韓璧丞則表示，AI倫理委員會的存在非常重要。技術前進的時候，更應該關註「走的慢」的人。「當一個足以改變世界的技術出現時，我們先用它來幫助最需要的人」。
