據(jù)報(bào)道，劉慈欣最近在一次活動(dòng)中表達(dá)了自己對(duì)以ChatGPT為代表的人工智能可能會(huì)給人們帶來的影響，回答了人工智能是否會(huì)消滅人類的問題。
第一個(gè)層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類或是統(tǒng)治世界。
這一點(diǎn)從目前的這個(gè)技術(shù)發(fā)展趨勢(shì)來看，特別是從目前的技術(shù)水平來看，在可以看到的未來可能性不是太大。
當(dāng)人工智能的發(fā)展，它比人類的智能稍稍高一些的話，它自己也會(huì)像人類一樣去創(chuàng)造新的人工智能，它創(chuàng)造出來的這個(gè)新人工智能可能比它的智能也稍微高一點(diǎn)，那么它又會(huì)接著迭代下一代。
這樣的話，它們就會(huì)很快的把這些人工智能的智能水平提高到很高，可能提高到人類的這個(gè)迭代下去，提高到人類的幾百倍甚至上萬倍，而由于它的這個(gè)計(jì)算機(jī)的計(jì)算時(shí)間比這個(gè)人腦，人的大腦要快成千上萬倍，那么這個(gè)迭代的時(shí)間可能十分的短，這是很可怕的一件事。
但是做出這個(gè)預(yù)測(cè)的人忘了一點(diǎn)，就是我們?nèi)祟惖挠?jì)算能力，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它。
所以這就是一個(gè)有很諷刺意義的一件事情：我們?nèi)祟惖臒o能反而成為我們一個(gè)最后的屏障。
那么第二種消滅則是一種我們想不到的一種方式，就是說第一種消滅人類是完全違背人類意愿的，而第二種對(duì)人類的消滅可能完全符合我們的意義。
比如說人工智能的發(fā)展，我剛才說過它可能會(huì)代替我們的這個(gè)大量的工作，而我們的社會(huì)如果適應(yīng)了與人工智能的這種共存，我們發(fā)展出一種新的這種分配制度，那么我們就可能帶來一個(gè)十分舒適的那種社會(huì)環(huán)境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來進(jìn)行。
在這種情況下，我們會(huì)越來越多地交出自己對(duì)社會(huì)運(yùn)作的操作這種權(quán)利給到人工智能。
而生活會(huì)變得越來越舒適，那么這個(gè)樣子下去的話，我們可能面臨著人類歷史上前所未有的一個(gè)巨大的陷阱。如果這樣一直發(fā)展下去的話，那可能人類最后的命運(yùn)就是被人工智能所消滅，但這個(gè)消滅的過程完全是在我們的意愿之內(nèi)，而人工智能至始至終它沒有任何惡意，它只是照著人類的指示去行駛。
而這樣的如果真的發(fā)生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計(jì)算能力遠(yuǎn)遠(yuǎn)小于我們前面那個(gè)真正的字面意義上的那種消滅。所以這確實(shí)是我們應(yīng)該對(duì)未來有所警覺的一件事情。
