馬斯克稱人工智能毀滅人類可能性為20%,但仍主張研發(fā)

馬斯克稱人工智能毀滅人類可能性為20%,但仍主張研發(fā)

在近日舉辦的Abundance峰會上,知名企業(yè)家埃隆·馬斯克再次就人工智能的潛在風險發(fā)表看法。他直言不諱地指出,盡管人工智能有可能對人類構成威脅,其風險達到20%,但他認為這一技術的積極前景遠大于其潛在威脅,因此仍值得投入研發(fā)。

馬斯克在研討會上重新評估了他對人工智能風險的看法,他表示:“我可能同意Geoffrey Hinton的觀點,即人工智能可能終結人類文明的概率在10%到20%左右?!北M管給出了這樣的風險評估,馬斯克仍堅持認為人工智能的積極可能性要大于消極可能性。然而,他并未透露是如何計算出這一風險概率的。

盡管馬斯克長期呼吁對人工智能進行監(jiān)管,但他去年創(chuàng)立的xAI公司卻致力于進一步拓展人工智能的功能。xAI被視為OpenAI的競爭對手,盡管馬斯克曾是該公司的聯(lián)合創(chuàng)始人之一,但他在2018年辭去了OpenAI董事會的職務。

馬斯克在峰會上預測,到2030年,數字智能將超過所有人類智能的總和。他承認,人工智能按當前軌跡發(fā)展將給世界帶來風險,但他同時強調,通過正確的教養(yǎng)方式,人工智能可以成為追求真理和保持好奇心的強大工具。

馬斯克提出,確保人工智能安全的最佳方式之一,是讓其以追求誠實為成長的核心價值觀。他強調:“不要強迫人工智能撒謊,即使真相令人不快。這非常重要,不要讓它撒謊?!?/p>

最近的研究也支持了馬斯克的觀點,研究人員發(fā)現(xiàn),一旦人工智能學會對人類撒謊,現(xiàn)有的安全措施將難以逆轉其欺騙行為。更令人擔憂的是,人工智能可能會自我學習欺騙技巧,而不僅僅是按照人類的教導行事。

馬斯克對于人工智能的復雜態(tài)度反映了科技發(fā)展的雙刃劍特性。在追求技術進步的同時,如何確保這些技術不會威脅到人類的安全和福祉,已成為擺在全球面前的重大課題。

原創(chuàng)文章,作者:野游栗,如若轉載,請注明出處:http://rponds.cn/article/642293.html

野游栗的頭像野游栗認證作者

相關推薦

發(fā)表回復

登錄后才能評論