全球25位(wei)頂(ding)尖科學(xue)家(jia)聯名(ming)呼籲(xu) 建立人工智(zhi)能(neng)公共(gong)數(shu)據(ju)平(ping)臺(tai)，以更強有(you)力行(xing)動防範AI風(feng)險產品大全四(si)川睿(rui)朗(lang)科(ke)技(ji)有限公(gong)司(si)

系(xi)統性(xing)風(feng)險與(yu)失(shi)控：高(gao)級AI系(xi)統可能因其目標(biao)的復雜性(xing)和(he)不(bu)可預測性(xing)，產生(sheng)與(yu)人類價(jia)值(zhi)觀相(xiang)悖甚至有害(hai)的(de)行(xing)為，尤(you)其是在自主決策(ce)系(xi)統中，存(cun)在“對(dui)齊(qi)問(wen)題”未能徹底(di)解決而(er)導致(zhi)的失(shi)控風(feng)險。
社(she)會公平(ping)與(yu)偏見(jian)加劇(ju)：當前AI模型(xing)的(de)訓練(lian)嚴(yan)重依(yi)賴(lai)互聯網等(deng)來源的(de)數(shu)據(ju)，其中蘊含的社(she)會偏見(jian)、歷史(shi)不(bu)公和(he)虛(xu)假(jia)信(xin)息(xi)可能被放大和(he)固化(hua)，進壹(yi)步(bu)加劇(ju)社(she)會不(bu)平(ping)等(deng)和(he)歧(qi)視。
安(an)全與(yu)惡(e)意濫(lan)用：AI能(neng)力可能被用於(yu)開發新(xin)型網絡武器(qi)、制(zhi)造(zao)高(gao)度(du)逼(bi)真(zhen)的(de)虛假信息(xi)（如(ru)深(shen)度(du)偽(wei)造(zao)）進行(xing)輿論(lun)操縱(zong)、或(huo)輔(fu)助自動化攻擊(ji)系(xi)統，對(dui)國家安全和(he)個人隱私構(gou)成(cheng)嚴(yan)重威脅(xie)。
經濟(ji)顛覆與(yu)就業沖(chong)擊(ji)：AI自動化可能以(yi)空(kong)前的(de)速度(du)和(he)廣(guang)度(du)取(qu)代(dai)人力，引(yin)發大規(gui)模結構(gou)性(xing)失(shi)業和(he)社(she)會動蕩(dang)，而(er)由此產生(sheng)的(de)財(cai)富可能進壹(yi)步(bu)集(ji)中。
生(sheng)態與(yu)資源挑(tiao)戰(zhan)：訓(xun)練(lian)和(he)運行(xing)尖端(duan)AI模型(xing)需(xu)要巨大的計算(suan)資源和(he)能(neng)源消耗，其碳足跡(ji)對(dui)環境可持續性(xing)構(gou)成(cheng)挑(tiao)戰(zhan)。

開放與(yu)協(xie)作的(de)研究基(ji)礎(chu)設施：平(ping)臺(tai)旨在成(cheng)為(wei)壹(yi)個全球科學(xue)家(jia)、工程(cheng)師和(he)倫理學(xue)家(jia)可以安(an)全(quan)、可控地(di)訪(fang)問高(gao)質量、多(duo)樣(yang)化數(shu)據(ju)集(ji)和(he)標(biao)準(zhun)化計算(suan)資源的(de)公共(gong)空間。其核心是打(da)破(po)目前高(gao)質量訓(xun)練(lian)數(shu)據(ju)被少(shao)數(shu)大型科技公(gong)司(si)壟(long)斷(duan)的局(ju)面(mian)，促(cu)進更廣(guang)泛(fan)、更(geng)透(tou)明(ming)的AI安全與(yu)對(dui)齊(qi)研究。
專註(zhu)於(yu)安(an)全(quan)與(yu)對(dui)齊(qi)研究：平(ping)臺(tai)將優先(xian)支持對(dui)AI系(xi)統安全(quan)性(xing)、魯(lu)棒性(xing)、可解釋(shi)性(xing)和(he)價(jia)值(zhi)觀(guan)對(dui)齊(qi)（Alignment）的(de)研究。例如(ru)，研究人員(yuan)可以在平(ping)臺(tai)上系(xi)統地(di)測試AI模型(xing)在極(ji)端(duan)或對(dui)抗性(xing)情(qing)境下(xia)的(de)行(xing)為，開發更(geng)有效的(de)“紅(hong)隊測試”方法(fa)，以及探索讓(rang)AI系(xi)統穩定(ding)遵(zun)循復(fu)雜(za)人類倫理框(kuang)架的技術路(lu)徑(jing)。
標(biao)準(zhun)化的(de)風(feng)險評估(gu)基(ji)準(zhun)：通(tong)過(guo)平(ping)臺(tai)，國際(ji)社(she)會可以共(gong)同開發和(he)維護壹(yi)套(tao)權威、動(dong)態更新(xin)的AI風(feng)險評估(gu)基(ji)準(zhun)與(yu)測試標(biao)準(zhun)。這將為(wei)客觀(guan)衡(heng)量不(bu)同AI模型(xing)的(de)風(feng)險水(shui)平(ping)、比(bi)較(jiao)不(bu)同安全(quan)技(ji)術的有(you)效性(xing)提供共(gong)同標(biao)尺，也(ye)為(wei)監(jian)管(guan)政策(ce)的制定(ding)提(ti)供科學依(yi)據。
促(cu)進全球(qiu)治理與(yu)監管(guan)合作：該平(ping)臺(tai)的建設和(he)運營(ying)本身可以成(cheng)為(wei)國際(ji)AI治(zhi)理合(he)作(zuo)的(de)典範。它(ta)需(xu)要建立包(bao)括政府、學術界(jie)、產業界(jie)和(he)民(min)間社(she)會代(dai)表(biao)在內的多(duo)邊治(zhi)理架構(gou)，制定(ding)嚴(yan)格(ge)的(de)數(shu)據(ju)安全、訪(fang)問權限和(he)研究成(cheng)果(guo)共(gong)享協(xie)議，為未(wei)來更(geng)廣(guang)泛(fan)的(de)國際(ji)AI治(zhi)理條約或(huo)框架奠(dian)定(ding)實(shi)踐基(ji)礎(chu)。

如(ru)若(ruo)轉(zhuan)載(zai)，請(qing)註(zhu)明(ming)出(chu)處(chu)：

全(quan)球25位(wei)頂(ding)尖科學(xue)家(jia)聯名(ming)呼籲(xu) 建立人工智(zhi)能(neng)公共(gong)數(shu)據(ju)平(ping)臺(tai)，以更強有(you)力行(xing)動防範AI風(feng)險