劉慈欣談ChatGPT：人類的無能反而是人類最后的屏障

2015 年，劉慈欣曾在一次采訪中引用了霍金的觀點，霍金曾預言「人工智能比核彈還危險，人類馬上就要被人工智能控制」，當時的他認為這個說法有點危言聳聽。 而現在，他認為我們是時候對未來有所警覺。

他表示，人們常說人工智能沒有人的靈魂、人的感受，這不過是一個自我安慰。人自己的靈魂、感受，也是很多神經元細胞連接成復雜系統后涌現出來的。但也補充道，即使有人工智能的影響，未來科幻作家不會徹底消失，但會淪為非主流。

最近，劉慈欣在直播時透露，自己實在沒時間，所以參加科幻大會時用ChatGPT寫了一兩篇發言稿。

劉慈欣表示，ChatGPT 寫得也還挺不錯的。

此前劉慈欣發表了一篇題為《科幻文學中的可持續未來》的演講，用科幻的視角解讀了一個截然不同的人類未來。

何為科幻視角？從距地球60億公里的太空之上，回望這顆比塵埃還小，卻又承載了和我們有關的一切的星球，即為科幻視角。

在演講結束后，劉慈欣談到了以ChatGPT為代表的人工智能可能會給人們帶來的影響。

2015年，劉慈欣曾在一次采訪中引用了霍金的觀點，霍金曾預言「人工智能比核彈還危險，人類馬上就要被人工智能控制」，當時的他認為這個說法有點危言聳聽。

而現在，他認為我們是時候對未來有所警覺。


劃重點

1.人工智能會首先取代高智能的職業，這與我們的預測相反。

2.人工智能可以自我迭代出更高智能的版本，但我們的算力限制它的發展。

3.人工智能或許會讓人類陷入舒適的陷阱之中。

Q：現在ChatGPT橫空出世，被人們熱烈地討論，您覺得人工智能的發展對人類的命運會產生一個什么樣的影響？那自我迭代的人工智能有沒有可能會取代或者說消滅人類？

劉慈欣：我覺得這（人工智能的影響）應該從這個現實或近未來和比較遠的未來這兩點來看待。

從我們近未來或甚至從我們現實來看，人工智能它對我們社會世界的影響我相信大家已經都看到了，它現在已經產生一個很明顯的趨勢：（人工智能）有可能在代替我們人去從事很多的工作。

這個應該說是一個正面的趨勢，這種趨勢它可以提高我們的生活質量、提升人類的幸福感，讓我們的生活在科技的加持之下可能變得更加舒適。

但是另一方面我們也不能不正視，人工智能的發展給人類社會帶來的沖擊。

首先，最明顯的一點是人工智能可能會代替相當多的「人的工作」，而且這個趨勢與我們以前的預測正好相反。


以前我們預測認為人工智能首先代替的是那些簡單勞動、重復勞動的那樣的工作，但是現在看來正好相反，人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那樣的工作，比如像醫生、教師、股票經紀人等等這些工作可能是被首先代替的。這其中可能也包括我們作家也可能首先被代替的。

所以說人工智能對于人類的整個世界的發展來，它的影響很深遠。我們再往層次再高一些的話，人工智能可能會對我們世界中相當多的比較基礎的東西可能會產生重大的影響。

比如它會對文化藝術、文學，對這個人的創造力，對人的對世界的認識等等可能都會產生重大的影響，甚至可能讓這一些東西都會被重新定義。

當這個人工智能現在已經開始介入到我們的科學研究之中，介入到我們對整個世界規律、對自然規律的認識之中，介入到對人類發展規律的認識之中，它可能產生的影響十分的深遠。

當初人工智能在圍棋領域戰勝很多優秀的圍棋選手的時候，有一位我們國內最出色的圍棋選手說了一句話，讓我印象很深刻。

他說中國的圍棋博大精深，有兩三千年的歷史，積累了深厚的這個理論和經驗，甚至圍棋本身成為一種文化，具有了很深的禪意，但是就在這一夜之間，我們發現它的一切全是錯的。

這一個說法確實很令人震驚，這件事情會不會發生在別的領域我們不知道，如果廣泛發生的話，那么人工智能對人類文化文明最深層的影響我們是不可忽視的。

下面我回答您的第二個問題，就是說人工智能是否會消滅人類，這也應該分兩個層次來回答。

原文轉自：https://www.thepaper.cn/newsDetail_forward_23639458