文件—加州州長加文·紐瑟姆 (Gavin Newsom) 否決了 SB1046，這是一項備受爭議的措施，本應成為美國最嚴格的人工智慧安全法。 （美聯社照片/Rich Pedroncelli，檔案）

里奇·佩德羅切利/AP/FR171957 AP

隱藏標題

切換標題

里奇·佩德羅切利/AP/FR171957 AP

加州州長加文·紐瑟姆週日否決了一項法案，該法案本將針對蓬勃發展的人工智慧產業制定美國影響最深遠的法規。

加州立法者以壓倒性多數通過了名為 SB 1047 的法案，該法案被視為國家人工智慧立法的潛在藍圖。

該措施將使科技公司對人工智慧模型造成的損害承擔法律責任。此外，該法案還要求科技公司在人工智慧技術被濫用或失控的情況下啟用「終止開關」。

紐瑟姆在一份聲明中稱該法案“用意良好”，但指出其要求將需要“嚴格”的監管，這對於該州領先的人工智能公司來說將是一項繁重的工作。

該法案還將迫使該行業對「強大的人工智慧模型」進行安全測試， 根據 該法案的共同作者、加州參議員斯科特·維納 (Scott Wiener)。 “每個大型人工智慧實驗室都承諾執行 SB 1047 要求的測試——一些人現在聲稱的相同安全測試會在某種程度上損害創新。”

事實上，矽谷的許多強大參與者，包括創投公司 Andreessen Horowitz、OpenAI 以及代表谷歌和 Meta 的貿易團體，都在遊說反對該法案，認為這將減緩人工智慧的發展並抑制早期公司的成長。

OpenAI 首席策略長 Jason Kwon 表示：“SB 1047 將威脅這種增長，減緩創新步伐，並導致加州的世界級工程師和企業家離開該州到其他地方尋找更大的機會。” 寫了 在上個月寫給維納的一封信中。

然而，其他科技領袖也支持該法案，包括埃隆·馬斯克(Elon Musk)以及杰弗裡·辛頓(Geoffrey Hinton)和約書亞·本吉奧(Yoshua Bengio)等人工智慧先驅科學家，他們簽署了一封信，敦促紐瑟姆簽署該法案。

「我們相信，最強大的人工智慧模型可能很快就會帶來嚴重的風險，例如擴大生物武器的使用範圍和對關鍵基礎設施的網路攻擊。前沿人工智慧企業測試最強大的人工智慧模型是否會造成嚴重危害，並針對此類風險實施合理的防範措施是可行且適當的。 寫了 Hinton 以及領先人工智慧公司的數十名前任和現任員工。

其他州，例如 科羅拉多州 和 猶他州，制定了更狹隘的法律，以解決人工智慧如何在就業和醫療保健決策中長期存在偏見，以及其他與人工智慧相關的消費者保護問題。

紐瑟姆最近簽署了其他人工智慧法案，使其成為法律，其中包括一項旨在打擊選舉期間深度造假行為傳播的法案。另一種保護演員的肖像不會在未經他們同意的情況下被人工智慧複製。

隨著數十億美元投入人工智慧的發展，並滲透到日常生活的更多角落，華盛頓的立法者仍然沒有提出任何一項聯邦立法來保護人們免受其潛在危害，也沒有對其快速發展進行監督。