人工智慧有望為社會帶來巨大利益。但是，正如許多人指出的那樣，它也可能帶來前所未有的新恐怖。作為一種通用技術，推動科學發現的工具也可用於開發網路、化學或生物武器。治理人工智慧需要廣泛分享其好處，同時防止最強大的人工智慧落入壞人之手。好消息是，已經有一個關於如何做到這一點的範本。 20世紀，各國建立了國際機構，允許和平核能的傳播，但透過控制原料（即武器級鈾和鈽）的取得來減緩核武擴散。此風險已透過《核不擴散條約》和國際原子能總署等國際機構進行管理。如今，有 32 個國家經營核電廠，總共提供了世界電力的 10%，而只有 9 個國家擁有核武。 今天，各國可以為人工智慧做類似的事情。他們可以透過控制對訓練世界上最先進的人工智慧模型所需的高度專業化晶片的存取來從頭開始監管人工智慧。商界領袖甚至聯合國秘書長安東尼奧古特雷斯都呼籲為人工智慧建立一個類似核子技術的國際治理框架。 最先進的人工智慧系統是在數以萬計的高度專業化的電腦晶片上進行訓練的。這些晶片坐落在大型資料中心中，它們會在其中攪拌數月的數據，以訓練最強大的人工智慧模型。這些先進晶片生產很困難，供應鏈受到嚴格控制，並且需要大量晶片來訓練人工智慧模型。 政府可以建立一個監管制度，只有授權的運算提供者才能在其資料中心獲得大量先進晶片，只有獲得許可的、值得信賴的人工智慧公司才能獲得訓練最有能力、最危險的人才所需的運算能力。 這似乎是一項艱鉅的任務。但只需要少數國家就可以建立這種治理制度。用於訓練最先進人工智慧模型的專用電腦晶片僅在台灣製造。它們依賴來自三個國家——日本、荷蘭和美國的關鍵技術。荷蘭公司ASML是世界上唯一生產極紫外光刻機的生產商，這些光刻機用於製造最尖端的晶片。 閱讀更多： 2024 年人工智慧領域 100 位最具影響力人物 各國政府已經在採取措施管理這些高科技晶片。美國、日本和荷蘭對其晶片製造設備實施出口管制，限制其向中國銷售。美國政府也禁止向中國出售使用美國技術製造的最先進的晶片。美國政府也要求雲端運算供應商了解其外國客戶是誰，並在外國客戶訓練可用於網路攻擊的大型人工智慧模型時進行報告。美國政府已經開始討論（但尚未實施）對最強大的訓練有素的人工智慧模型的限制以及它們可以在多大範圍內共享。雖然其中一些限制是關於與中國的地緣政治競爭，但相同的工具可用於管理晶片，以防止敵對國家、恐怖分子或犯罪分子使用最強大的人工智慧系統。 美國可以與其他國家合作，在此基礎上建立一個架構，在人工智慧模型的整個生命週期中管理運算硬體：晶片製造設備、晶片、資料中心、訓練人工智慧模型以及訓練後的模型。週期的結果。 日本、荷蘭和美國可以幫助領導創建一個全球治理框架，允許這些高度專業化的晶片只出售給已經建立了管理計算硬體的監管制度的國家。這包括追蹤晶片並對其進行記錄，了解誰在使用它們，並確保人工智慧培訓和部署的安全性。 但計算硬體的全球治理不僅可以讓人工智慧落入壞人之手，還可以透過彌合計算富人和窮人之間的鴻溝，為世界各地的創新者提供支援。由於訓練最先進的人工智慧模型的運算需求非常強烈，該產業正在走向寡占。這種權力的集中對社會或商業都不利。…

H埃曼貝克勒 (eman Bekele) 在 7 歲多一點的時候就調製出了他所謂的「藥劑」中最危險的一種。那時他已經自己進行了大約三年的科學實驗，混合了他在家中能找到的任何東西，並等待著看看由此產生的黏稠物是否會變成任何東西。 「它們只是洗潔精、洗衣粉和常見的家用化學品，」他今天談到他使用的成分時說道。 「我會把它們藏在床底下，看看如果我把它們留下過夜會發生什麼。有很多完全隨機地混合在一起。 但很快，事情就變得不那麼隨機了。在希曼 7 歲生日前的聖誕節，他收到了一套化學套裝，其中附有氫氧化鈉樣品。那時，他一直在網路上尋找化學反應，了解到鋁和氫氧化鈉一起可以產生大量的熱量。這讓他想到也許他可以為世界做些好事。 「我認為這可能是能源、無限供應的解決方案，」他說。 “但我差點就引起了火災。” 此後，父母對他的關注更加密切。事實證明，現在 15 歲的希曼必須習慣讓大人看著他的所作所為。這些天，很多人都在關注他。去年 10 月，3M 公司和 Discovery…