如果你想籌集不正當的資金，你最好有一些神聖的理由。

這就是Anthropic 執行長Dario Amodei 週五用14,000 多字向我們闡述的內容：通用人工智慧（AGI，儘管他更喜歡稱之為「強大的人工智慧」）將以超凡脫俗的方式改變我們的生活。在部落格中，標題為 “慈愛機器” 他設想未來人工智慧可以將 100 年的醫學進步壓縮為 10 年，治癒創傷後壓力症候群 (PTSD) 和憂鬱症等精神疾病，將你的思想上傳到雲端，並減輕貧困。同時，據報道，Anthropic 希望以 400 億美元的估值籌集新資金。

今天的人工智慧根本無法完成阿莫迪想像的任何事。他自己承認，需要花費數千億美元的計算來訓練 AGI 模型，這些模型是用價值數萬億美元的數據中心構建的，從當地電網獲取足夠的能源來維持數百萬家庭的照明。更不用說沒有人百分之百確定這是可能的。阿莫代自己說：“當然，沒有人能夠確定或精確地了解未來，強大的人工智能的影響可能比過去的技術變革更加難以預測，因此所有這一切都不可避免地包含猜測。”

人工智慧高層已經掌握了在大規模融資之前做出宏偉承諾的藝術。以 OpenAI 的 Sam Altman 為例，他的「智慧時代」部落格獲得了驚人的 66 億美元融資。奧特曼在部落格中表示，世界將在「幾千天內」擁有超級智能，這將帶來「大規模繁榮」。這是一個有說服力的表演：描繪一個烏托邦式的未來，暗示解決人類最深的恐懼——死亡、飢餓、貧窮——然後辯稱，只有透過消除 一些 多餘的護欄和前所未有的資本注入，我們才能實現這個科技天堂。這是一次出色的行銷，利用了我們最大的希望和焦慮，同時輕鬆地迴避了對具體證據的需求。

這篇部落格的發佈時機也凸顯了競爭的激烈程度。正如 Amodei 指出的那樣，一份 14,000 字的烏托邦宣言對於 Anthropic 來說是相當不合時宜的。該公司是在 Amodei 等人因安全問題離開 OpenAI 後成立的，該公司因進行冷靜的風險評估而不是盲目樂觀的未來主義而贏得了聲譽。這就是該公司繼續從 OpenAI 挖走安全研究人員的原因。即使在上週的貼文中，他也堅稱 Anthropic 將優先考慮對人工智慧風險的坦誠討論，而不是科技烏托邦的誘人願景。

但安全並不是一個令人興奮的融資主題，新的挑戰者每天都在出現。 OpenAI 聯合創始人 Ilya Sutskever 成立了自己的人工智慧實驗室，據傳即將離職的 OpenAI 技術長 Mira Murati 將開始自己的事業。阿莫代的部落格不僅是為了推銷他的願景，更是為了保持競爭力。

儘管他公開表示厭惡浮誇的主張，但他還是花了很多錢 數千字 描繪了人工智慧可以重塑人類命運的未來（似乎與奧特曼的巧舌如簧，這是科技界的傳奇）相匹配。這篇文章只提到了一致性，也就是確保人工智慧系統按照人類價值觀運行，而沒有提到安全性。這種矛盾暴露了一個嚴酷的事實：在人工智慧開發的高風險世界中，即使是那些對炒作持謹慎態度的人也發現自己被迫玩宏大承諾的遊戲，以確保獲得關鍵資金。

目前，這項技術的能力與人工智慧領導者想像的烏托邦之間存在著令人難以置信的差距。這引起了很多公正的批評——如果它連草莓這個詞中 R 的數量都無法可靠地計算出來，它如何在短短幾年內改變世界呢？人工智慧可靠地擅長什麼 現在 正在自動化日常任務並分析大量資料集，以越來越精確的方式識別模式。這種優勢已經在為金融、醫藥和自動駕駛汽車等領域提供幫助。儘管這些進步令人印象深刻，但像阿莫代聲稱人工智慧可能「在結構上有利於民主」的說法卻顯得不成熟且過於樂觀。值得注意的是，AGI 信徒認為他的部落格文章有點過於溫和（Amodei 在他的部落格中預料到了這一點，並在腳註中寫道，他們應該「觸摸草地」）。

Amodei 的部落格文章並不適合對 AI 感興趣的普通讀者，也不是 AGI 未來的令人信服的路線圖——同樣，AGI 並不存在，也可能永遠不會以 AI 行業設想的形式存在。這是對投資者的宣傳：支持 Anthropic，你不僅為一家公司提供資金，而且為一家公司提供資金。你購買的是人類光明未來的股份。儘管微妙程度各不相同，但這正是每位人工智慧高層——OpenAI 的 Altman、xAI 的馬斯克、Google的謝爾蓋布林——所承諾的。加入他們對未來的願景，否則就會被拋在後面。

儘管人工智慧非常新穎，但科技巨頭長期以來一直將其創新作為拯救世界的解決方案來兜售。馬克·祖克柏將通用網路視為貧窮療法。布林曾表示谷歌可以「治愈死亡」。馬斯克將 SpaceX 的星際野心視為我們人類的終極後備計劃（最近，投票給唐納德·川普勢在必行）。但當投資者的資金有限時，利他主義就是一場零和遊戲。作為邁克賈奇的科技大亨 矽谷 有句名言：“我不想生活在一個別人讓世界變得比我們更美好的世界。”

阿莫迪清楚地意識到聽起來誇張的風險。 「人工智慧公司談論人工智慧的所有驚人好處可能會像宣傳員一樣，或者好像他們試圖分散人們對人工智慧缺點的注意力，」他寫道。這並沒有阻止他發揮自己的作用。

「這是一種超凡脫俗的美麗，」阿莫代在他的部落格上寫道。 “我們有機會在實現這一目標方面發揮一些小作用。”