近日，OpenAI自行開展的一項(xiàng)研究顯示，其在生物武器研究方面的GPT-4模型相較于普通互聯(lián)網(wǎng)搜索工具僅表現(xiàn)出微弱的優(yōu)勢(shì)。這一研究結(jié)果似乎與外界對(duì)于強(qiáng)大人工智能模型可能帶來生物武器制造優(yōu)勢(shì)的擔(dān)憂相悖。
該研究由OpenAI新成立的準(zhǔn)備團(tuán)隊(duì)進(jìn)行，旨在評(píng)估其前沿人工智能模型的風(fēng)險(xiǎn)和潛在濫用。研究過程中，一組由生物學(xué)專家和學(xué)生組成的小組被分配了使用GPT-4進(jìn)行生物武器相關(guān)研究的任務(wù)，另一組則僅使用普通互聯(lián)網(wǎng)進(jìn)行搜索。
結(jié)果顯示，盡管GPT-4組在回答的詳細(xì)性和創(chuàng)新性上有所提高，但在準(zhǔn)確性上并未顯著優(yōu)于僅使用互聯(lián)網(wǎng)搜索的小組。此外，GPT-4在總準(zhǔn)確率上給所有參與者帶來了“統(tǒng)計(jì)學(xué)意義上顯著的”優(yōu)勢(shì)，不過這一優(yōu)勢(shì)僅在未對(duì)多重比較進(jìn)行調(diào)整的情況下才顯著。
值得注意的是，OpenAI的這項(xiàng)研究似乎與其對(duì)GPT-4的宣傳存在矛盾。GPT-4是一個(gè)多模態(tài)模型，不僅具備完全的互聯(lián)網(wǎng)訪問權(quán)限，而且在大量科學(xué)數(shù)據(jù)和其他數(shù)據(jù)的基礎(chǔ)上進(jìn)行了訓(xùn)練。這使得GPT-4不僅能夠?qū)茖W(xué)手稿提出反饋意見，甚至可以作為科學(xué)研究的合作者。因此，GPT-4給參與者帶來的微小提升似乎并不符合其實(shí)際能力。
盡管OpenAI創(chuàng)始人薩姆·奧特曼承認(rèn)人工智能有潛在的危險(xiǎn)，但其公司的這項(xiàng)研究卻似乎在貶低其最先進(jìn)的聊天機(jī)器人的實(shí)力。然而，對(duì)于GPT-4在生物武器研究方面的真正影響仍需進(jìn)一步研究和觀察。
原創(chuàng)文章，作者：happy，如若轉(zhuǎn)載，請(qǐng)注明出處：http://rponds.cn/article/627238.html
