首屆人工智能安全峰會(huì)開(kāi)得怎么樣

新華社英國(guó)布萊奇利園11月3日電  新聞分析：首屆人工智能安全峰會(huì)開(kāi)得怎么樣

新華社記者郭爽 許鳳

首屆人工智能安全峰會(huì)2日在二戰(zhàn)期間英國(guó)的密碼破譯中心——布萊奇利園落下帷幕。在為期兩天的會(huì)議中，近30個(gè)國(guó)家和地區(qū)的代表、多家國(guó)際組織和研究機(jī)構(gòu)代表、人工智能領(lǐng)域知名專(zhuān)家和業(yè)界領(lǐng)袖討論了哪些議題？收獲哪些成果？

2023年11月2日，在英國(guó)布萊奇利園，一名參會(huì)者經(jīng)過(guò)首屆人工智能安全峰會(huì)的宣傳展板。新華社記者李穎攝

兩類(lèi)人工智能 5大目標(biāo)

會(huì)議期間，美國(guó)、英國(guó)、歐盟、中國(guó)、印度等多方代表就人工智能技術(shù)快速發(fā)展帶來(lái)的風(fēng)險(xiǎn)與機(jī)遇展開(kāi)討論。來(lái)自全球的約150名代表重點(diǎn)關(guān)注前沿人工智能的潛在風(fēng)險(xiǎn)，同時(shí)也考慮狹義人工智能的風(fēng)險(xiǎn)。前沿人工智能是指處于當(dāng)前能力前沿的通用人工智能模型，可能帶來(lái)技術(shù)濫用、失去控制等風(fēng)險(xiǎn)；狹義人工智能是指能力限于特定領(lǐng)域的人工智能模型，它們也具有潛在風(fēng)險(xiǎn)，例如生物工程領(lǐng)域人工智能模型可能被用于開(kāi)發(fā)生物武器等。

會(huì)議主要圍繞5個(gè)目標(biāo)展開(kāi)討論：第一，對(duì)前沿人工智能帶來(lái)的風(fēng)險(xiǎn)和采取行動(dòng)的必要性達(dá)成共識(shí)；第二，推進(jìn)前沿人工智能安全國(guó)際合作，包括如何最好地支持國(guó)家框架和國(guó)際框架等；第三，推動(dòng)各相關(guān)組織采取適當(dāng)措施，以加強(qiáng)前沿人工智能安全；第四，尋求人工智能安全研究的潛在合作領(lǐng)域，包括評(píng)估模型能力和制定用于支持治理的新標(biāo)準(zhǔn)；第五，探討如何確保人工智能安全發(fā)展，使人工智能在全球范圍內(nèi)被妥善運(yùn)用。

2023年11月2日在英國(guó)布萊奇利園拍攝的首屆人工智能安全峰會(huì)現(xiàn)場(chǎng)。新華社發(fā)

根據(jù)議程安排，各方代表在峰會(huì)開(kāi)幕當(dāng)天主要就前沿人工智能帶來(lái)的風(fēng)險(xiǎn)類(lèi)型、不同參與方在應(yīng)對(duì)這些風(fēng)險(xiǎn)中的作用、人工智能在不同領(lǐng)域面臨的重大發(fā)展機(jī)遇等展開(kāi)跨學(xué)科對(duì)話和討論。在會(huì)議第二天，各方代表主要討論了人工智能的影響、如何有效合作以及如何進(jìn)一步實(shí)現(xiàn)確保全球人工智能安全的使命。

以國(guó)際合作應(yīng)對(duì)風(fēng)險(xiǎn)

峰會(huì)發(fā)布的《布萊奇利宣言》（下稱《宣言》）強(qiáng)調(diào)了加強(qiáng)國(guó)際合作對(duì)于應(yīng)對(duì)人工智能潛在風(fēng)險(xiǎn)的重要性。《宣言》指出，人工智能的許多風(fēng)險(xiǎn)本質(zhì)上是國(guó)際性的，因此“最好通過(guò)國(guó)際合作來(lái)解決”。與會(huì)國(guó)家和地區(qū)同意協(xié)力打造一個(gè)“具有國(guó)際包容性”的前沿人工智能安全科學(xué)研究網(wǎng)絡(luò)，以對(duì)尚未被完全了解的人工智能風(fēng)險(xiǎn)和能力加深理解。

英國(guó)政府發(fā)表聲明稱，這是世界首個(gè)多個(gè)國(guó)家和地區(qū)達(dá)成的人工智能安全領(lǐng)域宣言，參會(huì)代表就前沿人工智能技術(shù)發(fā)展面臨的機(jī)遇、風(fēng)險(xiǎn)和采取國(guó)際行動(dòng)的必要性取得共識(shí)。

本次峰會(huì)及其成果引發(fā)媒體、學(xué)界、業(yè)界專(zhuān)家的高度關(guān)注和積極評(píng)價(jià)。“《宣言》是在管理風(fēng)險(xiǎn)和實(shí)現(xiàn)前沿人工智能系統(tǒng)的好處方面邁出的重要一步?！庇?guó)劍橋大學(xué)“人工智能：未來(lái)和責(zé)任”項(xiàng)目負(fù)責(zé)人肖恩·奧黑蓋爾塔格表示，《宣言》強(qiáng)調(diào)了開(kāi)發(fā)前沿人工智能的參與者所肩負(fù)的“特別重大的責(zé)任”，包括擁有充足資源的科技公司以及它們所在國(guó)家的政府等。

但也有觀點(diǎn)認(rèn)為，峰會(huì)雖然達(dá)成了指導(dǎo)國(guó)際合作的原則性宣言，但并未商定國(guó)際合作路線圖，也沒(méi)有就各國(guó)如何在應(yīng)對(duì)人工智能風(fēng)險(xiǎn)問(wèn)題上開(kāi)展合作提出具體措施，未來(lái)需要采取更積極主動(dòng)的國(guó)際合作行動(dòng)。

根據(jù)英國(guó)政府發(fā)布的聲明，下屆人工智能安全峰會(huì)將于一年后在法國(guó)舉辦，韓國(guó)將在未來(lái)6個(gè)月內(nèi)聯(lián)合主辦一次小型虛擬峰會(huì)。

全球?qū)υ?中國(guó)不可或缺

本屆峰會(huì)上，中國(guó)代表團(tuán)的出席引人關(guān)注。多位專(zhuān)家強(qiáng)調(diào)，中國(guó)作為在人工智能研發(fā)領(lǐng)域領(lǐng)先的國(guó)家之一，在應(yīng)對(duì)人工智能風(fēng)險(xiǎn)和機(jī)遇的全球討論中不可或缺。

世界知識(shí)產(chǎn)權(quán)組織數(shù)據(jù)顯示，僅2022年一年，中國(guó)機(jī)構(gòu)人工智能專(zhuān)利申請(qǐng)數(shù)量就多達(dá)29853項(xiàng)，占當(dāng)年全球人工智能專(zhuān)利申請(qǐng)總量的40%以上。

美國(guó)外交政策智庫(kù)卡內(nèi)基國(guó)際和平研究院院長(zhǎng)蒂諾·奎利亞爾對(duì)媒體表示，只有中國(guó)參會(huì)，才能證明這是一次真正的全球?qū)υ挕?/p>

美國(guó)硅谷企業(yè)家埃隆·馬斯克在峰會(huì)閉幕后表示，“如果中國(guó)不是（峰會(huì)）參與者，那就毫無(wú)意義?！彼J(rèn)為，美國(guó)、英國(guó)和中國(guó)等各方在人工智能安全方面取得共識(shí)有利于應(yīng)對(duì)相關(guān)問(wèn)題。

中國(guó)科技部副部長(zhǎng)吳朝暉率團(tuán)參加本屆峰會(huì)，并在1日舉行的開(kāi)幕式全體會(huì)議上發(fā)言。與會(huì)期間，中方代表團(tuán)參與人工智能安全等問(wèn)題討論，積極宣介中方提出的《全球人工智能治理倡議》，并與相關(guān)國(guó)家開(kāi)展雙邊會(huì)談。

中方表示，愿與各方一道就人工智能安全治理加強(qiáng)溝通交流，為推動(dòng)形成普遍參與的國(guó)際機(jī)制和具有廣泛共識(shí)的治理框架積極貢獻(xiàn)智慧，切實(shí)落實(shí)全球發(fā)展倡議、全球安全倡議和全球文明倡議，促進(jìn)人工智能技術(shù)更好造福人類(lèi)，共同構(gòu)建人類(lèi)命運(yùn)共同體。