內(nèi)容審核這難道會(huì)是ChatGPT的新商業(yè)模式？OpenAI發(fā)言人也透露，已經(jīng)有客戶在用GPT-4進(jìn)行內(nèi)容審查，但并未給出具體名單。今日有消息稱，美國愛荷華州的學(xué)校的圖書管理員，已經(jīng)開始用ChatGPT來篩選帶色情內(nèi)容的書籍了。
據(jù)悉，根據(jù)新規(guī)定，美國愛荷華州的學(xué)校需要下架圖書館中包含性行為描述的書籍，但“閱讀每本書并按新要求篩選根本不可行”。在ChatGPT的幫助下，一個(gè)學(xué)區(qū)終于趕在開學(xué)前篩選出19本符合條件的書籍。隔天，OpenAI也正式宣布將GPT-4引入內(nèi)容審核系統(tǒng)。
在OpenAI看來，GPT-4這項(xiàng)審查功能可將審查更新周期從數(shù)月縮短至數(shù)個(gè)小時(shí)，且具有更強(qiáng)的靈活性。這項(xiàng)新的功能不僅在于提高效率和減輕人類工作量，還解決了人工審核中尺度不一致問題。最重要的是，它能夠避免有害內(nèi)容對審核人員造成的身心傷害。
工作流程上，重點(diǎn)的環(huán)節(jié)是用戶政策的設(shè)計(jì)，這部分是由人工主導(dǎo)的。之后GPT-4會(huì)使用一些示例進(jìn)行準(zhǔn)確性檢驗(yàn)和優(yōu)化。根據(jù)GPT-4的預(yù)測微調(diào)出小型篩選器，就可以對內(nèi)容進(jìn)行批量審查了。
OpenAI總裁兼聯(lián)合創(chuàng)始人Greg Brockman表示，這項(xiàng)功能“非?？煽俊?。同時(shí)，Brockman還展示出了測試結(jié)果作為依據(jù)。在色情、暴力等多個(gè)類型的有害內(nèi)容判別上，GPT-4的表現(xiàn)超過了經(jīng)少量訓(xùn)練的人類。
原創(chuàng)文章，作者：AI，如若轉(zhuǎn)載，請注明出處：http://rponds.cn/article/576258.html
