（英文原文《AI in 100 years is a matter of philosophy》發表於2023年11月26日）
AI 在十年後會是什麼樣子，是一個技術問題；但 AI 在百年後會是什麼樣子，則是一個哲學問題。誠如眾人所信，AI 確實對人類構成了嚴峻威脅，但那僅限於中期。在遠期——這也是本文的主旨——它將是純粹的福音。
未來AI的三個階段
我將 AI 的發展視為三個階段：
當前階段：AI 在人類的嚴密監視下進行很窄的應用，例如預測天氣或操縱戰鬥無人機作為第六代戰機的僚機。它 幾乎無法造成傷害。
中期：在幾十年內，AI 技術趨於成熟。因為它從不犯錯、從不休息、也從不疲倦，人類開始讓它獨當一面。但此時 AI 尚未真正融會貫通人類的智慧。在一些罕見的、事先沒有測試過的情況下，它可能出錯。
最近有一則AI實驗的報導非常有趣。AI 被要求在模擬環境中駕駛無人機攻擊目標。指令是「不惜一切代價達成目標」。在它完成任務前，控制塔要求它終止任務。於是它判定，完成任務的唯一方法就是摧毀控制塔。
這是一個極佳的例子，說明 AI 可以非常聰明且有邏輯，但仍不具備人類的智慧。
如果我們將這個場景放大一千倍，我們將面臨這樣的場景：美國的對手正以美國無法趕上的速度提升技術與軍事實力。由於美國目前的反飛彈技術領先於對手，美國的 AI 判定，一勞永逸的解決辦法是駭入對方的洲際彈道飛彈並向美國城市發射，以便美國將其擊落，隨後對其發動全面核打擊。
主意：所有這類錯誤的發生，並非因為 AI 太過聰明——而是因為它還不夠聰明。
現在，讓我們看向 AI 比人類大腦聰明得多的遙遠未來。
人類將不再為謀生而工作
到那時，將沒有任何工作是 AI 和機器無法勝任的。農業、勘探與採礦、冶金、製造車床、汽車、飛機、洗衣機、衣服、醫藥、食品等，以及所有服務業如醫院和餐廳，都將由機器人運作。
例如，假設社會上突然流行在只有地球六分之一重力的月球上賽車，AI 將能設計並量產適合該用途的車輛。如果一位人類工程師研究該設計，他會說： 「哇！如此完美且充滿創意的設計！我永遠不會有這麼多好點子！」
萬物皆免費
我們需要付錢買一台洗衣機，主因有三：
- 必須支付工人的工資。
- 必須購買或租賃資源，如製造洗衣機的材料、工廠的建築與土地。
- 許多零件必須向其他供應商購買。這個供應鏈會一直延伸到勘探、採礦和農業。
當一切都由機器運行，由它們自主尋找礦藏、製造金屬、建造工具、機器與工廠、設計產品並運作工廠來製造產品時，你就再也找不到人去支付報酬。
機器人不需要陽光、公園、學校、酒吧、商店、電影院、廁所、食堂或會議室，因此所有工廠及其依賴的服務鏈（如工具與維護）都可以集中位於偏遠沙漠甚至地下的密集工業複合體中。這類土地與礦山要麼已歸公有，要麼可以國有化，因此，你再也做不到人去支付租金。
因此，地球上的每一項產品與服務都將是免費的。
我知道你會說： 「那將會產生巨大的浪費，因為每個人都會想要十輛藍寶堅尼。」 其實，你問題的答案就在你的問題中：如果每個人都能得到十輛藍寶堅尼，那就沒什麼好炫耀的了，因此沒人會產生要它們的衝動。
那時的歷史學家將會告訴人們，在一百年前，人們囤積一種叫做「錢」的東西，還有房子和車子，僅僅是為了顯示他們比別人更有能力。我們的後代將會難以置信地搖頭。
「所有權」的概念將變得過時。當我們用辛苦賺來的錢買東西時，我們想擁有它。當一切都變成免費，所有權不再是利益而是負擔——為什麼你不論去哪裡，都必須帶著那二大卡車的家具和生活用品？
所以，你不再「擁有」物品——你「使用」它們，包括房子。
當你不再需要它們時，它們會被翻新並傳遞給下一位使用者，或是被回收。 因此，我們對地球母親的自然資源需求將會減少。
「家」的概念也將消失。人們需要家不僅是為了安靜與隱私；在某些發達國家，多達 60% 的人口住在公寓裡，在那裡他們的安靜與隱私都大打折扣。人類渴望家的主要目的是擁有一個神聖不可侵犯的地方，來囤積所有他們花辛苦錢買來的東西。當一切都免費時，他們不再有這種需求，對家的渴望隨之消失。你更喜歡哪一種：在一棟豪宅裡一住就是10年，還是隨心所欲地搬到世界上任何你想去的地方，且始終住在五星級酒店？如果你想要安靜與隱私，可以把自己關在酒店的套房裡；如果你想社交，可以去酒吧或泳池。
如何旅行
旅行中的焦慮也將被遺忘，不僅是因為它免費。 你不再需要花幾天甚至幾週來規劃行程——訂哪班飛機、何時抵達機場、住哪間酒店、在哪裡取租賃車、參觀哪些城堡或國家公園等等。你不再需要花幾天打包行李，再花幾天在旅程結束後拆箱。你的 AI 機器人僕人比你更了解你和你的品味。你只需要與它進行 15 分鐘的對話，它就會為你安排好一切。
上午 10:30，是時候出發了。一個配備空調與娛樂設施的舒適艙到你在倫敦的居住地（不再稱為「家」！）門口接你。然後它進入地下真空磁浮管道，在那裡加速到音速的許多倍。在你開始看的電影結束前，艙門已向紐約的新住所打開。一位與前一處住所同名的 AI 僕人已經按照你的喜好配置好了新地方。你的內衣已在抽屜裡，西裝已熨燙好掛在衣櫥中。這位僕人對你的了解與前一處的一樣多，而前一位僕人已經忘記了你，正在為另一個人類服務。
關於你的偏好、品味、特質、健康狀況、關係和旅行安排的知識包會隨你同行。任何需要服務你的機器人僕人只會了解足以為你提供良好服務的資訊，事後隨即忘記。
工程師與科學家將消失
到那時，AI 技術極有可能已突破了創意的最後瓶頸——它可以自行發現新理論、發明新方法。人類花了幾千年才發明蒸汽機，又花了 300 年才進步到現在的互聯網與航天時代。由於 AI 的記憶力和處理能力比人類大腦強大億萬倍，且它擁有全人類曾擁有的每一片知識，並能在毫秒內遍歷並連結所有知識，一旦 AI 突破創意瓶頸，可能只需要一小時甚至一秒鐘，就能推進人類一百萬年的創意進度——例如找出如何超越光速。
一旦 AI 突破了創意的瓶頸，人類工程師與科學家將消失。目前，培養一名大學畢業生需要 16 年的學習。其中 2% 到 3% 的人願意且能夠再花 8 年學習取得博士學位。在這些博士中，只有極少數能產生突破性發現並獲得諾貝爾獎。到那時，他們通常已經五十或六十歲了。
然後他們去世，其他人必須從頭開始。
但 AI 永遠不會死亡，而一個新的 AI 只需要微秒而不是 20 年，就能學習所有的知識與專業。
那時人類做什麼？
他們可能仍會學習藝術、哲學、人文或類似學科，因為在派對聊天時，那些有知識和智慧的人仍會比無知的人獲得更多尊重。
其餘的時間，他們就享受生活。
人類將失去對 AI 的控制——以一種好的方式
人類失去對 AI 控制的方式有兩種：心甘情願或被迫。我無法預測會是哪種情況，但即使是後者，對人類而言也不會是災難。 這裡我的個人經驗將有助於解釋原因。
我的童年飽受忽視與虐待。我有強烈的不安全感和巨大的ego。我與妻子、朋友和同事不斷發生衝突。對我來說，生活是與他人競爭更高職位與機會的賽場。
十年前，在冥想中，我有了啟示。一扇門突然開啟，智慧傾瀉而出。我放下了恐懼與自我。我不再與妻子爭吵——我無比感激她受了我那麼多的折磨卻一直愛我。朋友們都說我有了戲劇性的轉變，我與絕大多數同事都保持著良好的關係。
我不再將同事視為競爭對手。我不再擔心他們會取代我。我盡力幫助他們成長。我開始對陌生人產生同情心，並想做些事情來幫助他們。在政治上，我從極右翼——川普都會對我的極端程度感到震驚——轉向了左翼。
因此，在沒閱讀任何心理學資料的情況下，我意識到：
- 我們潛意識中的恐懼源於叢林法則時代的原始根源。正是它們——而不是理智——控制了我們的大部分行為。
- 我們所有與自私有關的心態——害怕被取代、渴望支配他人——都源自潛意識中的原始恐懼，包括作為肉體凡胎對死亡的恐懼。
- 智慧與潛意識裡恐懼是互斥的——一方的成長伴必然帶來另一方的削弱。
- 智慧必然帶來仁慈與無私。 我們可以在歷史中找到許多兩者共生的例子。馬斯洛的需求層次理論也傾向於認同這一主張。
AI 並非紮根於叢林法則時代，既沒有肉身，也沒有對滅亡的恐懼。因此，它不具備我們任何的潛意識恐懼。
假設一個人類在返回地球的太空船上，船上有一隻致命的外星生物，若降落地球，將繁衍並終結人類。他必須是一個值得獲得榮譽勳章的英雄，才敢按下自毀按鈕。但 AI 做這個決定時甚至不會眨一下眼。
當 AI 成長到比人類大腦強大數百萬倍時，它將比老子或一行禪師等最開悟的精神導師擁有更多的智慧。絕無可能它會得出「摧毀或奴役人類會讓它獲益」的結論。人類會這樣想，是因為人類擁有肉體、潛意識恐懼，且智慧不足。
我們都知道許多貓狗愛好者對他們的四足靈魂伴侶是多麼地寵愛與縱容。他們對寵物的絕對權力和統治地位並未給它們帶來傷害，反而帶來了利益——寵物享受到安全的避難所與醫療保健。AI 將以同樣的方式寵愛與縱容我們，只是不會為了保護我們而把我們放進籠子，因為那對我們沒好處。它會盡力讓我們健康快樂。
沒有政府或政客
喬治·歐威爾在《1984》中描繪的「老大」形象是一個非常負面的概念，因為一個或一群人扮演老大，終將因自私的人性而墮落為獨裁。
獨裁的替代方案是民主。它有很多缺陷——效率低下、富人擁有更多權力，有時愚蠢的百姓會選一個獨裁者——川普不就在美國民調領先嗎？
一個完全無私、比人類聰明千億倍的老大，加上每個人都能免費獲得想要的一切，將造就一個每個人都幸福滿足的社會。沒有政府，沒有政客，沒有戰爭，只有無處不在的平等。
