10月25日，據(jù)外媒報道，OpenAI負(fù)責(zé)AGI（又稱通用人工智能）準(zhǔn)備工作的高級顧問布倫戴奇日前離職，并公開發(fā)出警告，沒有公司為AGI到來做好準(zhǔn)備，包括OpenAI。
布倫戴奇稱，無論是OpenAI還是任何其他前沿實驗室，都沒有為（AGI）做好準(zhǔn)備，世界也沒有做好準(zhǔn)備。布倫戴奇此前花了六年時間幫助制定公司的人工智能安全計劃。
AGI通常指的是一種具備廣泛智能的人工智能系統(tǒng)，能夠像人類一樣在多種不同的領(lǐng)域和任務(wù)上進(jìn)行學(xué)習(xí)、推理和解決問題。
OpenAI安全團(tuán)隊此前已有多名員工高調(diào)離職，包括著名研究員萊克，他聲稱 “安全文化和流程已經(jīng)被閃亮的產(chǎn)品所取代 ”之后離開了公司。
這凸顯了OpenAI最初的使命與其商業(yè)野心之間日益加劇的緊張關(guān)系。據(jù)報道，OpenAI面臨著在兩年內(nèi)從非營利性公益公司轉(zhuǎn)型為營利性公益公司的壓力，否則就有可能退還最近一輪66億美元投資的資金。早在2019年OpenAI首次成立營利部門時，布倫戴奇就發(fā)表了保留意見。
在解釋自己離職的原因時，布倫戴奇提到，在OpenAI，他的研究和出版自由受到越來越多的限制。他強(qiáng)調(diào)，在人工智能政策討論中需要有獨立的聲音，不受行業(yè)偏見和利益沖突的影響。在為OpenAI的領(lǐng)導(dǎo)層提供內(nèi)部準(zhǔn)備方面的建議后，他認(rèn)為自己現(xiàn)在可以從組織外部對全球人工智能治理產(chǎn)生更大的影響。
布倫戴奇的離職也可能反映出OpenAI內(nèi)部更深層次的文化分歧。許多研究人員加入OpenAI是為了推進(jìn)人工智能研究，而現(xiàn)在他們卻發(fā)現(xiàn)自己身處一個越來越以產(chǎn)品為導(dǎo)向的環(huán)境中。內(nèi)部資源分配已成為一個熱點，有報道稱，萊克的團(tuán)隊在最終解散前曾被剝奪了用于安全研究的計算能力。
盡管存在這些摩擦，但布倫戴奇提到，OpenAI提出將提供資金、和早期模型訪問權(quán)限，支持他未來的工作，沒有任何附加條件。
原創(chuàng)文章，作者：蘋果派，如若轉(zhuǎn)載，請注明出處：http://rponds.cn/article/688960.html
