快科技4月17日消息，第27屆聯(lián)合國科技大會(huì)在瑞士日內(nèi)瓦召開。世界數(shù)字技術(shù)院（WDTA）發(fā)布了一系列突破性成果，包括《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》和《大語言模型安全測試方法》兩項(xiàng)國際標(biāo)準(zhǔn)。

據(jù)悉，這兩項(xiàng)國際標(biāo)準(zhǔn)是由OpenAI、螞蟻集團(tuán)、科大訊飛、谷歌、微軟、英偉達(dá)、百度、騰訊等數(shù)十家單位的多名專家學(xué)者共同編制而成。其中《大語言模型安全測試方法》由螞蟻集團(tuán)牽頭編制。

此次發(fā)布的標(biāo)準(zhǔn)匯集了全球AI安全領(lǐng)域的專家智慧，填補(bǔ)了大語言模型和生成式AI應(yīng)用方面安全測試領(lǐng)域的空白，為業(yè)界提供了統(tǒng)一的測試框架和明確的測試方法，有助于提高AI系統(tǒng)安全性，促進(jìn)AI技術(shù)負(fù)責(zé)任發(fā)展，增強(qiáng)公眾信任。

世界數(shù)字技術(shù)院（WDTA）是在日內(nèi)瓦注冊的國際非政府組織，遵從聯(lián)合國指導(dǎo)框架，致力于在全球范圍內(nèi)推進(jìn)數(shù)字技術(shù)，促進(jìn)國際合作。

AI STR（安全、可信、負(fù)責(zé)任）計(jì)劃是WDTA的核心倡議，旨在確保人工智能系統(tǒng)的安全性、可信性和責(zé)任性。螞蟻集團(tuán)、華為、科大訊飛、國際數(shù)據(jù)空間協(xié)會(huì)(IDSA)、弗勞恩霍夫研究所、中國電子等均為其成員單位。

公開資料顯示，螞蟻集團(tuán)從2015年起就積極投入可信AI技術(shù)研究，目前已建立了大模型綜合安全治理體系。螞蟻集團(tuán)還自研了業(yè)界首個(gè)大模型安全一體化解決方案“蟻天鑒”，用于AIGC安全性和真實(shí)性評測、大模型智能化風(fēng)控、AI魯棒和可解釋性檢測等。

此次發(fā)布的《大語言模型安全測評方法》，便是基于“蟻天鑒”AI安全檢測體系的應(yīng)用實(shí)踐，與全球生態(tài)伙伴交流編制。此外，螞蟻集團(tuán)在公司內(nèi)成立了科技倫理委員會(huì)和專門團(tuán)隊(duì)來評估和管理生成式AI的風(fēng)險(xiǎn)，公司所有AI產(chǎn)品均需通過科技倫理評測機(jī)制，確保AI安全可信。