據(jù)媒體援引知情人士的話(huà)報(bào)道，在OpenAI的奧特曼被罷免之前，幾名公司研究人員向董事會(huì)發(fā)出了一封信，警告稱(chēng)一項(xiàng)強(qiáng)大的人工智能（AI）發(fā)現(xiàn)可能威脅人類(lèi)。
據(jù)財(cái)聯(lián)社報(bào)道，消息人士表示，這封此前未被報(bào)道的信件和AI算法，是導(dǎo)致OpenAI董事會(huì)罷免奧特曼的催化劑。他們稱(chēng)，董事會(huì)對(duì)奧特曼的諸多不滿(mǎn)導(dǎo)致后者被解雇，而這封信是原因之一。
據(jù)其中一位消息人士透露，長(zhǎng)期擔(dān)任OpenAI高管的米拉·穆拉蒂周三告訴員工，一封關(guān)于名為Q*（發(fā)音為Q-Star）的AI突破的信件促使董事會(huì)采取了行動(dòng)。
另一名消息人士表示，OpenAI在Q*上取得了進(jìn)展，一些內(nèi)部人士認(rèn)為這可能是該初創(chuàng)公司在超級(jí)智能，也被稱(chēng)為通用人工智能（AGI）領(lǐng)域的突破。OpenAI將AGI定義為比人類(lèi)更聰明的AI系統(tǒng)。
該消息人士表示，鑒于龐大的計(jì)算資源，新模型能夠解決某些數(shù)學(xué)問(wèn)題。雖然Q的數(shù)學(xué)成績(jī)僅達(dá)小學(xué)生的水平，但研究人員對(duì)Q未來(lái)的成功非常樂(lè)觀。
據(jù)媒體報(bào)道，研究人員認(rèn)為數(shù)學(xué)是生成式人工智能發(fā)展的前沿領(lǐng)域。目前，生成式人工智能擅長(zhǎng)通過(guò)統(tǒng)計(jì)預(yù)測(cè)下一個(gè)單詞來(lái)進(jìn)行寫(xiě)作和語(yǔ)言翻譯，而同一問(wèn)題的答案可能會(huì)有很大差異。但征服數(shù)學(xué)的能力（只有一個(gè)正確答案）意味著人工智能將擁有類(lèi)似于人類(lèi)智能的更強(qiáng)推理能力。例如，人工智能研究人員認(rèn)為，這可以應(yīng)用于新穎的科學(xué)研究。
消息人士稱(chēng)，研究人員在給董事會(huì)的信中指出了人工智能的能力和潛在危險(xiǎn)，但沒(méi)有具體說(shuō)明信中提到的具體安全問(wèn)題。
值得注意的是，奧特曼被OpenAI董事會(huì)解雇前一天在舊金山出席亞太經(jīng)合組織首席執(zhí)行官峰會(huì)時(shí)，提到了OpenAI最近取得的一項(xiàng)技術(shù)進(jìn)步?！霸贠penAI的歷史上已經(jīng)有四次了，最近一次是在過(guò)去幾周，當(dāng)我們推開(kāi)無(wú)知的面紗并向前推進(jìn)發(fā)現(xiàn)的前沿時(shí)，我已經(jīng)在房間里了，能夠做到這一點(diǎn)是一生的職業(yè)榮譽(yù)。”他說(shuō)。
隨著后來(lái)OpenAI陷入混亂，這一神秘言論基本上沒(méi)有引起注意。但一位知情人士表示，一些OpenAI員工認(rèn)為，奧特曼的言論指的是該公司今年早些時(shí)候的一項(xiàng)創(chuàng)新，該創(chuàng)新將使他們能夠開(kāi)發(fā)出更強(qiáng)大的人工智能模型。這項(xiàng)技術(shù)突破由OpenAI首席科學(xué)家伊利亞·蘇茨克維（Ilya Sutskever）牽頭，一些員工擔(dān)憂(yōu)OpenAI在將這種先進(jìn)的人工智能模型商業(yè)化時(shí)沒(méi)有適當(dāng)?shù)谋Ｕ洗胧?/p>
馬斯克就有關(guān)于OpenAI在AGI領(lǐng)域新突破的報(bào)道置評(píng)稱(chēng)，“極度令人擔(dān)憂(yōu)！”
本文來(lái)自投稿，不代表科技訊立場(chǎng)，如若轉(zhuǎn)載，請(qǐng)注明出處：http://rponds.cn/article/598368.html
