近日消息，據(jù)彭博社報(bào)道，OpenAI 成立了一個(gè)董事會(huì)委員會(huì)，用來(lái)評(píng)估其人工智能模型的安全性。這一舉措距離該公司解散內(nèi)部安全團(tuán)隊(duì)以及安全問(wèn)題負(fù)責(zé)人離職僅數(shù)周時(shí)間。
此前，OpenAI 的治理問(wèn)題受到了來(lái)自兩位前董事會(huì)成員海倫?托納 (Helen Toner) 和塔莎?麥考利 (Tasha McCauley) 的嚴(yán)厲批評(píng)。她們?cè)谥苋盏摹督?jīng)濟(jì)學(xué)人》雜志上撰文，對(duì) OpenAI 的治理方式提出質(zhì)疑。
新成立的委員會(huì)將在 90 天內(nèi)評(píng)估 OpenAI 技術(shù)的保障措施，并提交報(bào)告?！岸聲?huì)完成全面審查后，OpenAI 將以符合安全原則的方式公開分享所采納的建議，”該公司周二在其博客中寫道。
OpenAI 還表示，他們最近已經(jīng)開始訓(xùn)練其最新的 AI 模型。
去年秋天，OpenAI 首席執(zhí)行官薩姆?阿爾特曼 (Sam Altman) 與聯(lián)合創(chuàng)始人兼首席科學(xué)家伊利亞?蘇茨凱沃 (Ilya Sutskever) 在人工智能產(chǎn)品開發(fā)速度和限制危害的措施上發(fā)生沖突，阿爾特曼在一次董事會(huì)政變中被短暫罷免。
本月，蘇茨凱沃和他的得力助手 Jan Leike 離開公司，這兩位科學(xué)家領(lǐng)導(dǎo)了 OpenAI 的超智能體對(duì)齊團(tuán)隊(duì) (superalignment team)，該團(tuán)隊(duì)專注于研究超人類人工智能的長(zhǎng)期威脅。Leike 在辭職后寫道，他的部門在 OpenAI 內(nèi)部 “爭(zhēng)奪計(jì)算資源” 方面遇到了困難。其他離職員工也表達(dá)了類似的批評(píng)意見。
蘇茨凱沃離職后，OpenAI 解散了他的團(tuán)隊(duì)。該公司周二表示，這項(xiàng)特殊工作將由其研究部門和新任命的對(duì)齊科學(xué)負(fù)責(zé)人、聯(lián)合創(chuàng)始人約翰?舒爾曼 (John Schulman) 領(lǐng)導(dǎo)下繼續(xù)進(jìn)行。
上周 OpenAI 取消了一項(xiàng)政策，該政策規(guī)定如果前員工批評(píng)公司，將取消其股票期權(quán)。
OpenAI 新成立的安全委員會(huì)將由三位董事會(huì)成員組成，分別是董事長(zhǎng)布雷特?泰勒 (Bret Taylor)、Quora 首席執(zhí)行官亞當(dāng)?德安杰洛 (Adam D’Angelo) 和索尼娛樂(lè)公司前高管妮可?塞利格曼 (Nicole Seligman)，以及包括舒爾曼和阿爾特曼在內(nèi)的六名員工。該公司表示將繼續(xù)咨詢外部專家，并提到了其中兩位：唐納德?特朗普時(shí)期國(guó)土安全部顧問(wèn)羅布?喬伊斯 (Rob Joyce) 和喬?拜登總統(tǒng)任內(nèi)司法部的前官員約翰?卡林 (John Carlin)。
原創(chuàng)文章，作者：科技探索者，如若轉(zhuǎn)載，請(qǐng)注明出處：http://rponds.cn/article/657553.html
