一項旨在保護加州人免受人工智慧驅動的災難的有爭議的法案在科技業引起了軒然大波。本週，該法案通過了一個關鍵委員會，但進行了一些修改，使其更適合矽谷。

來自舊金山州民主黨參議員斯科特·維納 (Scott Wiener) 的 SB 1047 計劃將於本月晚些時候進入州議會。如果該法案在立法機關獲得通過，州長加文·紐瑟姆將必須決定是否簽署或否決這項開創性的立法。

該法案的支持者表示，它將建立護欄，以防止快速發展的人工智慧模型引發災難性事件，例如在沒有警告的情況下關閉電網。他們擔心科技的發展速度超出了人類創造者的控制能力。

立法者的目標是激勵開發商負責任地處理該技術，並授權州檢察長在迫在眉睫的威脅或傷害時實施處罰。該法案還要求開發人員能夠在出現問題時關閉他們直接控制的人工智慧模型。

但一些科技公司，例如 Facebook 所有者 Meta Platforms，以及包括頗具影響力的美國眾議員羅·卡納 (D-Fremont) 在內的政界人士表示，該法案將扼殺創新。一些批評者表示，它關注的是世界末日、遙遠的場景，而不是隱私和錯誤訊息等更直接的問題，儘管還有其他法案解決這些問題。

SB 1047 是州立法機關提出的約 50 項人工智慧相關法案之一，因為人們越來越擔心該技術對就業、虛假資訊和公共安全的影響。隨著政客們努力製定新的法律，為快速發展的行業設置護欄，一些公司和人才正在起訴人工智慧公司，希望法院能夠制定基本規則。

Wiener 代表舊金山——人工智慧新創公司 OpenAI 和 Anthropic 的所在地——一直處於爭論之中。

週四，他對法案做出了重大修改，有些人認為這些修改削弱了立法，同時提高了議會通過的可能性。

該修正案取消了該法案中的偽證處罰，並改變了開發人員有關其先進人工智慧模型安全性的法律標準。

此外，創建一個新的政府實體（稱為前沿模型部門）的計劃已不再進行。根據原文，該法案將要求開發商向新成立的部門提交其安全措施。在新版本中，開發商將向司法部長提交這些安全措施。

南加州大學政治學和公共政策教授克里斯蒂安·格羅斯說：“我確實認為其中一些變化可能會讓法案更有可能獲得通過。”

一些科技公司支持該法案，包括人工智慧安全中心和被認為是「人工智慧教父」的傑弗裡·辛頓(Geoffrey Hinton)。但其他人則擔心這可能會損害加州蓬勃發展的產業。

八名加州眾議員——卡納、佐伊·洛夫格倫（D-聖何塞）、安娜·G·埃舒（D-門洛帕克）、斯科特·彼得斯（D-聖地亞哥）、托尼·卡德納斯（D-帕科伊馬）、阿米·貝拉（D-埃爾克）格羅夫）、納內特·迪亞茲·巴拉根（D-San Pedro）和盧·科雷亞（Lou Correa）（D-聖安娜）週四寫信給紐瑟姆，鼓勵他否決該法案，如果該法案在州議會獲得通過的話。

“[Wiener] 在舊金山，這個領域的專家確實面臨著交叉壓力，他們一直告訴他和加州的其他人，如果我們不對其進行監管，人工智慧可能會很危險，而那些人的薪水、他們的前沿研究都來自於他們。 “這對他的職業生涯來說可能是一個真正的爆發點，無論是贊成還是反對。”

一些科技巨頭表示，他們對監管持開放態度，但不同意維納的做法。

Meta 的 Kevin McKinley 表示：“我們同意（維納）描述該法案和他的目標的方式，但我們仍然擔心該法案對人工智慧創新的影響，特別是在加州，尤其是對開源創新的影響。”州政策經理上週在與《洛杉磯時報》編輯委員會成員的會議上表示。

Meta 是擁有名為 Llama 的開源人工智慧模型的公司之一，該模型允許開發人員在其基礎上建立自己的產品。該科技巨頭表示，Meta 在 4 月發布了 Llama 3，下載量已達 2,000 萬次。

Meta 拒絕討論新的修正案。上週，麥金利表示 SB 1047“實際上是一項非常難以劃定紅線並修復的法案。”

紐瑟姆的發言人表示，他的辦公室通常不會對懸而未決的立法發表評論。

發言人伊茲·加登（Izzy Gardon）在一封電子郵件中寫道：“如果這項法案到達總督的辦公桌，州長將根據其優點進行評估。”

以其人工智慧助手 Claude 而聞名的舊金山人工智慧新創公司 Anthropic 表示，如果該法案得到修改，它將支持該法案。在7 月23 日致奧克蘭民主黨議員巴菲·威克斯(Buffy Wicks) 的一封信中，Anthropic 的州和地方政策負責人漢克·登普西(Hank Dempsey) 提出了一些修改建議，包括將法案的重點轉向對造成災難負責的控股公司，而不是傷害前的執法。

維納表示，修正案考慮到了 Anthropic 的擔憂。

「我們可以同時推進創新和安全，」維納在聲明中表示。 “兩者並不互相排斥。”

目前尚不清楚這些修正案是否會改變 Anthropic 對該法案的立場。週四，Anthropic 在一份聲明中表示，它將審查新的「法案語言」。

旨在推進人工智慧研究和政策的史丹佛以人為中心人工智慧研究所副所長拉塞爾沃爾德表示，他仍然反對該法案。

沃爾德在一份聲明中表示：“最近的修正案似乎更多是關於光學而不是實質內容。” “安撫幾家領先的人工智慧公司看起來爭議不大，但對於解決學術機構和開源社區的真正擔憂卻無濟於事。”

對於立法者來說，這是一個很好的平衡，他們試圖權衡對人工智慧的擔憂，同時也支持該州的科技產業。

威克斯在周四的委員會會議後表示：“我們很多人都在努力尋找一個監管環境，既允許其中一些護欄存在，又不會扼殺人工智能帶來的創新和經濟增長。”

《泰晤士報》特約撰稿人安娜貝爾·索薩為本報告做出了貢獻。