人民網(wǎng)上海9月2日電 為積極應(yīng)對全球人工智能治理挑戰(zhàn)，系統(tǒng)解決規(guī)則落地難、軟硬研究分離、治理碎片化等問題，上海人工智能實(shí)驗(yàn)室治理研究中心，聯(lián)合清華大學(xué)、復(fù)旦大學(xué)合作團(tuán)隊(duì)共同發(fā)起蒲公英人工智能治理開放平臺——OpenEGLab。

9月1日，該平臺1.0版本于2022世界人工智能大會科學(xué)前沿全體會議上，由科技部高新技術(shù)司司長陳家昌、科技部戰(zhàn)略規(guī)劃司副司長邢懷濱、上海市科技工作黨委書記徐楓和國家新一代人工智能治理專業(yè)委員會主任薛瀾教授共同啟動。

目前，國際上尚少見規(guī)則和技術(shù)雙輪互動的治理體系性平臺。最新亮相的“蒲公英”O(jiān)penEGLab，目標(biāo)是打造系統(tǒng)、實(shí)用的人工智能倫理與治理基礎(chǔ)設(shè)施，探索“規(guī)則-技術(shù)-場景-評測”一體協(xié)同的人工智能治理體系。蒲公英代表著希望、溫暖與友誼，蒲公英人工智能治理開放平臺秉持促進(jìn)跨學(xué)科研究、多元主體共建共享的理念，讓蒲公英的種子飛的更遠(yuǎn)。

此次平臺共發(fā)布了包括規(guī)則集、治理圖譜、風(fēng)險展示、評測框架和行業(yè)方案在內(nèi)的五大亮點(diǎn)。規(guī)則集致力于構(gòu)建全球治理知識庫，目前已收錄約1500條標(biāo)注規(guī)則文件，包括倫理原則、政策戰(zhàn)略、法律法規(guī)和標(biāo)準(zhǔn)等。治理圖譜脫胎于平臺收錄的全球AI治理標(biāo)注規(guī)則集，旨在打造人工智能治理全景圖像，呈現(xiàn)各地治理情況，支撐研判國際治理動向和趨勢。規(guī)則集標(biāo)簽全部開放，用戶可根據(jù)需求自主構(gòu)建、自由探索各種“蒲公英”式的治理圖譜。風(fēng)險展示的目標(biāo)是打開人工智能模型價值影響“黑箱”，通過互動方式，幫助用戶理解AI模型的基本結(jié)構(gòu)、魯棒性、安全性、隱私性等。結(jié)合業(yè)界研究，該平臺提出“人工智能六維評測體系”，用于綜合評估一個人工智能模型的基礎(chǔ)屬性。目前，平臺提供10個常用人工智能模型的初步評測結(jié)果。行業(yè)方案致力于推動人工智能治理在典型應(yīng)用場景的落地。比如，在醫(yī)療領(lǐng)域，平臺聚焦人工智能醫(yī)療影像中的倫理問題，嘗試提出對策建議，推動人工智能醫(yī)療影像從倫理原則到實(shí)質(zhì)性落地。

薛瀾教授在發(fā)言中表示，希望業(yè)界同仁能在平臺上持續(xù)積淀治理創(chuàng)新成果和工具，促進(jìn)人工智能治理理念的落地，服務(wù)提升人工智能治理效率，共促人工智能可信、可持續(xù)發(fā)展。

分享讓更多人看到