兩家領(lǐng)先的人工智能公司的負(fù)責(zé)人再次警告說，先進(jìn)的人工智能構(gòu)成了生存威脅。DeepMind和OpenAI首席執(zhí)行官Demis Hassabis和Sam Altman承諾支持AI安全中心發(fā)布的一份簡短聲明，該聲明聲稱監(jiān)管機(jī)構(gòu)和立法者應(yīng)該更加認(rèn)真地對(duì)待“嚴(yán)重風(fēng)險(xiǎn)”。
“減輕人工智能滅絕的風(fēng)險(xiǎn)應(yīng)該與流行病和核戰(zhàn)爭等其他社會(huì)規(guī)模風(fēng)險(xiǎn)一起成為全球優(yōu)先事項(xiàng)，”聲明中寫道。
人工智能安全中心是一家總部位于舊金山的非營利組織，旨在“減少人工智能的社會(huì)規(guī)模風(fēng)險(xiǎn)”，聲稱在戰(zhàn)爭中使用人工智能可能“極其有害”，因?yàn)樗捎糜陂_發(fā)新的化學(xué)武器和加強(qiáng)空戰(zhàn)。
這份簡短聲明的簽署者沒有澄清他們認(rèn)為可能滅絕的內(nèi)容，還包括該領(lǐng)域的商業(yè)和學(xué)術(shù)領(lǐng)袖。
其中包括被稱為“人工智能教父”的Geoffrey Hinton，以及ChatGPT開發(fā)商OpenAI的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Ilya Sutskever。這份名單還包括谷歌等公司的數(shù)十名高級(jí)管理層，Skype的聯(lián)合創(chuàng)始人，以及人工智能公司Anthropic的創(chuàng)始人。
在幾家公司發(fā)布新工具后，人工智能現(xiàn)在已進(jìn)入全球意識(shí)，允許用戶通過詢問他們想要的東西來生成文本、圖像甚至計(jì)算機(jī)代碼。專家表示，這項(xiàng)技術(shù)可能會(huì)取代人類的工作，但這一聲明警告了更深層次的擔(dān)憂。
ChatGPT和Dall-E等工具的出現(xiàn)再次引發(fā)了人們的擔(dān)憂，即如果人工智能通過人類智能，它有一天可能會(huì)消滅人類。
今年早些時(shí)候，技術(shù)領(lǐng)導(dǎo)者呼吁領(lǐng)先的人工智能公司暫停其系統(tǒng)的開發(fā)六個(gè)月，以研究降低風(fēng)險(xiǎn)的方法。
“具有人類競(jìng)爭智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，”生命未來研究所的公開信說?！叭斯ぶ悄苎芯亢烷_發(fā)應(yīng)該重新專注于使當(dāng)今強(qiáng)大、最先進(jìn)的系統(tǒng)更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠。
