美媒：OpenAI發(fā)布新安全指南 賦予董事會(huì)否決權(quán)

中新網(wǎng)12月19日電 據(jù)彭博社報(bào)道，當(dāng)?shù)貢r(shí)間18日，美國人工智能公司OpenAI在其網(wǎng)站上公布一項(xiàng)安全指南，加強(qiáng)其內(nèi)部安全流程，并賦予董事會(huì)對(duì)高風(fēng)險(xiǎn)人工智能的否決權(quán)。

據(jù)報(bào)道，當(dāng)天，OpenAI發(fā)表一系列安全指南，闡釋公司計(jì)劃如何應(yīng)對(duì)最強(qiáng)大人工智能(AI)系統(tǒng)可能引起的極端風(fēng)險(xiǎn)。

在該指南下，OpenAI只會(huì)在確定最新技術(shù)的安全性之后才會(huì)開始運(yùn)用。公司將成立一個(gè)顧問團(tuán)隊(duì)以審核安全報(bào)告，再轉(zhuǎn)交公司高層和董事局。雖然公司領(lǐng)導(dǎo)負(fù)責(zé)做決策，董事局可推翻決定。

OpenAI在2023年10月宣布成立“備災(zāi)小組”，并會(huì)持續(xù)評(píng)估它的AI系統(tǒng)在網(wǎng)絡(luò)安全、化學(xué)威脅、核威脅和生物威脅等四大范疇的表現(xiàn)，同時(shí)減低科技可能帶來的任何危害。

具體來說，公司檢查的是定義為：能造成上億美元經(jīng)濟(jì)損失，或?qū)е略S多個(gè)人受傷害或死亡的“災(zāi)難性”風(fēng)險(xiǎn)。

“AI本身沒有好壞，我們正在塑造它?！鳖I(lǐng)導(dǎo)“備災(zāi)小組”的亞歷山大·馬德里表示，他的團(tuán)隊(duì)會(huì)每月提交報(bào)告給內(nèi)部新成立的安全顧問團(tuán)隊(duì)，再由阿爾特曼與公司董事會(huì)判斷分析團(tuán)隊(duì)所提交的建議。

馬德里希望，其他公司能利用OpenAI的指引，來評(píng)估旗下AI模型的潛在風(fēng)險(xiǎn)。

2023年3月，包括馬斯克、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克在內(nèi)的1000多名人工智能專家和行業(yè)高管簽署了一份公開信，他們?cè)诠_信中呼吁暫停高級(jí)人工智能開發(fā)，直至此類設(shè)計(jì)的共享安全協(xié)議經(jīng)由獨(dú)立專家開發(fā)、實(shí)施和審核。