日前，OpenAI公司宣布成立新的“防備”團(tuán)隊(duì)，旨在監(jiān)控旗下技術(shù)可能帶來的潛在威脅，防止其落入壞人之手，甚至被用于制造化學(xué)和生物武器。
該團(tuán)隊(duì)由麻省理工學(xué)院人工智能教授亞歷山大?馬德里領(lǐng)導(dǎo)，將招募人工智能研究人員、計(jì)算機(jī)科學(xué)家、國家安全專家和政策專家等，對(duì)OpenAI開發(fā)的技術(shù)進(jìn)行持續(xù)監(jiān)測(cè)和測(cè)試。一旦發(fā)現(xiàn)任何危險(xiǎn)苗頭，及時(shí)向公司發(fā)出警告。
OpenAI還發(fā)布了名為“防備框架”的指導(dǎo)方針，強(qiáng)調(diào)只推出評(píng)級(jí)為“低”和“中”的模型。防備團(tuán)隊(duì)將反復(fù)評(píng)估OpenAI最先進(jìn)、尚未發(fā)布的AI模型，根據(jù)不同類型的感知風(fēng)險(xiǎn)評(píng)為四個(gè)等級(jí)，從低到高依次是“低”、“中”、“高”和“嚴(yán)重”。
OpenAI的“防備”團(tuán)隊(duì)介于兩個(gè)現(xiàn)有團(tuán)隊(duì)之間：負(fù)責(zé)消除AI系統(tǒng)中種族偏見等現(xiàn)有問題的“安全系統(tǒng)”團(tuán)隊(duì)，以及研究如何確保AI在超越人類智能的未來場(chǎng)景中不會(huì)傷害人類的“超級(jí)對(duì)齊”團(tuán)隊(duì)。
OpenAI首席執(zhí)行官薩姆?阿爾特曼表示，公司將繼續(xù)推進(jìn)技術(shù)發(fā)展，造福社會(huì)并從中獲益。馬德里表示，他既不同意那些擔(dān)心AI已經(jīng)超越人類智能的“末日論者”，也不同意那些希望移除所有AI發(fā)展障礙的“加速主義者”。
此次成立的“防備”團(tuán)隊(duì)將進(jìn)一步保障OpenAI技術(shù)的安全性和穩(wěn)定性，為AI技術(shù)的發(fā)展提供有力支持。
原創(chuàng)文章，作者：秋秋，如若轉(zhuǎn)載，請(qǐng)注明出處：http://rponds.cn/article/608671.html
