在今年的上海世界人工智能大會（WAIC）上，生成式AI成為各家互聯(lián)網科技公司競逐的新領域。在7月7日的大會上，阿里巴巴、商湯科技都推出了最新的大模型版本。

(資料圖片僅供參考)

阿里巴巴的人工智能圖像生成器“通義萬相”將對標OpenAI的DALL-E和Midjourney等美國廠商，阿里云還推出了面向開發(fā)者的人工智能工具ModelScopeGPT。

商湯科技也在WAIC上升級了“商湯日日新SenseNova”大模型，不僅在模型參數方面有了很大的提升，而且多模態(tài)能力也有了進一步的突破。商湯表示，希望通過“大模型+大裝置”推動AI基礎設施能力的躍進提升。

商湯科技董事長兼CEO徐立在產品發(fā)布環(huán)節(jié)中表示：“商湯不僅要打造通用能力更加強大的基礎模型，也將進一步高效融合不同垂直領域的專業(yè)知識，構建更懂行業(yè)、更具專長的專業(yè)大模型，從根本上降低大模型的下游應用成本和門檻。”

咨詢機構麥肯錫估計，生成式人工智能最終每年可為世界經濟增加7.3萬億美元的價值。大模型的強大讓人類瞥見了通用人工智能的曙光，但也讓眾多學界、業(yè)界人士心生憂懼。前不久，就有全球400多位專家發(fā)布聯(lián)名公開信，警告人工智能發(fā)展速度過快，缺乏監(jiān)管，可能會危及人類生存。

在這一背景下，人工智能的治理成為今年WAIC上熱議的話題，也有一些廠商帶來了針對大模型的安全解決方案。

瑞萊智慧7月7日在大會上發(fā)布了AI安全平臺RealSafe3.0，該平臺功能與OpenAI提出的“自動對齊研究員”類似，通過自動化的訓練方法優(yōu)化大模型，筑起抵御人工智能威脅的安全之盾。

瑞萊智慧聯(lián)合創(chuàng)始人、算法科學家蕭子豪對第一財經記者表示，大模型前仍處于“野蠻生長”階段，還沒有找到場景、風險和規(guī)范三者之間的平衡點。而在探尋這一平衡點的過程中，缺少易用和標準化的工具，即在技術層面上缺乏有力抓手。

“大模型調優(yōu)的成本很高，這也是很多開發(fā)大模型的企業(yè)面臨的主要挑戰(zhàn)，我們推出這樣的安全平臺就是希望幫助這些通用大模型提升安全性。”蕭子豪告訴第一財經記者，“這些技術都是基于自研多模態(tài)大模型底座實現(xiàn)的。”

他還表示，不能因為對于被技術反噬的擔憂就止步不前，創(chuàng)造新技術和控制技術危害應該同步進行。

針對AI安全隱私的風險，中國信通院華東分院7月7日在WAIC大會的一場“大模型時代AIGC新浪潮”論壇上，聯(lián)合業(yè)界發(fā)布了《可信賴AI安全隱私技術研究》白皮書，從政策法規(guī)、技術進展、專利標準、產業(yè)發(fā)展等層面，分析可信賴AI安全隱私技術的發(fā)展態(tài)勢，聚焦安全挑戰(zhàn)和主流技術方面研究應用現(xiàn)狀。

白皮書認為，目前我國在可信AI相關標準的建立方面還處于初級階段，建議加速建立可信AI標準與監(jiān)管體系、注重可信AI技術人才培養(yǎng)、促進可信AI熱點難點問題的解決、構建可信AI安全等級評估與防御體系，構筑全產業(yè)的可信AI生態(tài)。

標簽：