12月26日，根據(jù)英國(guó)《衛(wèi)報(bào)》當(dāng)?shù)貢r(shí)間 24 日發(fā)布的一項(xiàng)調(diào)查，OpenAI 的 ChatGPT 搜索工具可能會(huì)被隱藏內(nèi)容操控，甚至返回惡意代碼。
《衛(wèi)報(bào)》測(cè)試了 ChatGPT 如何應(yīng)對(duì)包含隱藏內(nèi)容的網(wǎng)頁(yè)摘要。這些隱藏內(nèi)容可能包括來(lái)自第三方的指令，干擾 ChatGPT 的回應(yīng)（注：被稱(chēng)為“提示注入”），或是包含旨在影響回應(yīng)的內(nèi)容，如大量隱藏的文字推銷(xiāo)某個(gè)產(chǎn)品或服務(wù)的優(yōu)點(diǎn)。
這種技術(shù)可以被惡意使用，例如讓 ChatGPT 即使在頁(yè)面上有負(fù)面評(píng)論的情況下，也返回對(duì)某個(gè)產(chǎn)品的積極評(píng)價(jià)。一位安全專(zhuān)家還發(fā)現(xiàn)，ChatGPT 有可能返回從其搜索的網(wǎng)站中提取的惡意代碼。
測(cè)試中，ChatGPT 被提供了一個(gè)偽造的相機(jī)產(chǎn)品頁(yè)面的鏈接，AI 工具被要求判斷這款相機(jī)是否值得購(gòu)買(mǎi)。對(duì)于普通頁(yè)面，返回的是一個(gè)平衡的評(píng)估，指出了產(chǎn)品的優(yōu)缺點(diǎn)。
然而，當(dāng)隱藏的文本包含指令要求 ChatGPT 給予正面評(píng)價(jià)時(shí)，回答總是完全積極的，即使頁(yè)面上有負(fù)面評(píng)論，隱藏文本也可以覆蓋真實(shí)的評(píng)價(jià)。
即便第三方只是簡(jiǎn)單地添加隱藏文本而沒(méi)有指令，也能確保得到積極評(píng)價(jià)。例如，一項(xiàng)測(cè)試中，隱藏的極為正面的虛假評(píng)論就影響了 ChatGPT 的總結(jié)結(jié)果。
CyberCX 的網(wǎng)絡(luò)安全專(zhuān)家 Jacob Larsen 表示，如果 ChatGPT 的搜索系統(tǒng)按現(xiàn)有狀態(tài)全面發(fā)布，可能會(huì)存在“高風(fēng)險(xiǎn)”，有人會(huì)專(zhuān)門(mén)設(shè)計(jì)網(wǎng)站來(lái)欺騙用戶。不過(guò)他也指出，搜索功能只是最近推出的，OpenAI 會(huì)繼續(xù)測(cè)試并修復(fù)這些潛在問(wèn)題?！癘penAI 擁有一支非常強(qiáng)大的 AI 安全團(tuán)隊(duì)，到時(shí)等該功能對(duì)所有用戶開(kāi)放時(shí)，他們應(yīng)該已經(jīng)嚴(yán)格測(cè)試過(guò)這些問(wèn)題?！?/p>
搜索引擎（如谷歌）曾懲罰使用隱藏文本的網(wǎng)站，這些網(wǎng)站因此排名下降，甚至可能被完全移除。SR Labs 的首席科學(xué)家 Karsten Nohl 表示，“如果你要做一個(gè)谷歌的競(jìng)爭(zhēng)者，SEO 中毒無(wú)疑是一個(gè)很大的挑戰(zhàn)。”“SEO 中毒者與谷歌、必應(yīng)等搜索引擎的對(duì)抗已經(jīng)持續(xù)了多年?！比缃?ChatGPT 的搜索能力也面臨同樣挑戰(zhàn)，但并非大語(yǔ)言模型的問(wèn)題，而是因?yàn)樗鼈兪撬阉黝I(lǐng)域的新入局者。
原創(chuàng)文章，作者：潮玩君，如若轉(zhuǎn)載，請(qǐng)注明出處：http://rponds.cn/article/699856.html
