人工智慧是讓人們對未來感到恐懼的最新科技怪物。對道德培訓、環境影響和人工智慧詐騙等問題的合理擔憂很容易演變成天網和駭客任務的噩夢。人工智慧變得有知覺並推翻人類的前景經常被提出，但是，正如 Meta 的人工智慧負責人 Yann LeCun 所說 華爾街日報這個想法“完全是胡說八道”，LeCun 將人工智慧描述為不如貓聰明，無法策劃，甚至無法渴望任何東西，更不用說我們物種的衰落了。
LeCun 是對的，人工智慧不會策劃謀殺人類，但這並不意味著沒有什麼可擔心的。我更擔心人們依賴人工智慧變得更聰明。人工智慧只是另一種技術，這意味著它沒有好壞之分。但意外後果定律表明，依靠人工智慧做出重要的、改變生活的決定並不是一個好主意。
想想由於信任技術而不是人類決策而導致的災難和近乎災難的情況。使用機器進行股票快速交易的速度遠遠快於人類，導致不只一次部分經濟崩盤。當蘇聯導彈探測系統出現故障並聲稱有核彈頭進入時，一場更真實的崩潰幾乎發生了。在這種情況下，只有勇敢的人類才能阻止全球末日的到來。
現在想像一下，我們今天所知的人工智慧繼續在股票市場上交易，因為人類給予了它更全面的控制。然後想像一下人工智慧接受錯誤的飛彈警報並被允許在沒有人類輸入的情況下啟動飛彈。
AI 避免末日
是的，人們會相信一種以幻覺事實而聞名的技術能夠控制核武器，這聽起來有些牽強，但與已經發生的一些事情相比，這並不是那麼誇張。客戶服務電話中的人工智慧聲音可能會在你有機會解釋為什麼你應該退款之前就決定你是否獲得退款，而且沒有人傾聽，也無法改變他們的想法。
人工智慧只會做我們訓練它做的事情，而且它使用人類提供的資料來做到這一點。這意味著它反映了我們最好和最糟糕的品質。哪個方面會發生取決於具體情況。然而，將太多決策權交給人工智慧在任何層面上都是錯誤的。人工智慧可以提供很大的幫助，但它不應該決定某人是否被雇用或保險單是否支付手術費用。我們應該擔心人類會無意或以其他方式濫用人工智慧，取代人類的判斷。
微軟將人工智慧助理打造成 Copilots 的品牌很棒，因為它讓人想起有人幫助你實現目標，但他不會設定目標，也不會採取超出你允許的主動性。 LeCun 是對的，人工智慧並不比貓聰明，但我們不應該鼓勵一隻有能力將你或全人類推離隱喻櫃檯的貓。
