加州是人工智慧領域的世界領導者——這意味著我們需要幫助找出如何監管它的方法。為此，該州正在考慮多項法案，其中最受關注的法案莫過於參議院第1047 號法案。模型的公司測試和修改這些模型，以便避免助長嚴重傷害。這是讓人工智慧負責的必要步驟，還是過度的行為？一家人工智慧公司的共同創辦人西蒙·拉斯特（Simon Last）和軟體與資訊產業協會公共政策負責人保羅·萊卡斯（Paul Lekas）發表了他們的觀點。

該法案將有助於在不損害創新的情況下確保技術安全

西蒙·拉斯特

身為一家人工智慧公司的共同創辦人，我見證了人工智慧驚人的進步。我每天都在設計使用人工智慧的產品，很明顯這些系統在未來幾年將變得更強大。我們將看到創造力和生產力的重大進步，以及科學和醫學的進步。

然而，隨著人工智慧系統變得越來越複雜，我們必須考慮它們的風險。如果不採取合理的預防措施，人工智慧可能會造成前所未有的嚴重危害——對關鍵基礎設施的網路攻擊、化學、核武或生物武器的開發、自動化犯罪等等。

加州的 SB 1047 在保護公共安全免受此類危害和支援創新之間取得了平衡，重點關注少數開發最強大人工智慧系統的公司的常識性安全要求。它包括對報告人工智慧公司安全問題的員工的舉報人保護，重要的是，該法案旨在支持加州令人難以置信的創業生態系統。

SB 1047 只會影響建構下一代人​​工智慧系統的公司，這些系統的培訓成本超過 1 億美元。基於行業最佳實踐，該法案要求在發布這些系統之前進行安全測試並減輕可預見的風險，以及在緊急情況下關閉它們的能力。如果人工智慧造成大規模傷亡或至少 5 億美元的損失，州總檢察長可以提起訴訟，要求公司承擔責任。

這些安全標準將適用於新創公司建立專門產品的人工智慧「基礎模型」。透過這種方式，我們可以更有效地降低整個產業的風險，而不會給小規模開發者帶來負擔。作為一名新創公司創辦人，我相信該法案不會阻礙我們的建設和發展能力。

一些批評者認為，監管應該只關注人工智慧的有害用途，而不是底層技術。但這種觀點是錯誤的，因為進行網路攻擊或使用生物武器等行為已經是非法的。 SB 1047 提供了所缺少的東西：一種在傷害發生之前預防傷害的方法。產品安全測試是許多行業的標準，包括汽車、飛機和處方藥製造商。最大的人工智慧系統的建構者應該遵守類似的標準。

其他人聲稱該立法將把企業趕出該州。那是無稽之談。加州的人才和資本供應幾乎為零，SB 1047 不會改變吸引公司在這裡營運的因素。此外，該法案也適用於在加州開展業務的基礎模型開發商，無論其總部位於何處。

包括 Meta 的馬克·祖克柏和 OpenAI 的薩姆·奧爾特曼在內的科技領袖已前往國會討論人工智慧監管，警告該技術潛在的災難性影響，甚至 問 用於監管。但對國會採取行動的期望很低。

和 福布斯 50 強人工智慧公司中的 32 家 我們州位於加利福尼亞州，在幫助該行業蓬勃發展方面負有很大責任。 SB 1047 為年輕公司提供了一個框架，使其能夠與大型企業一起繁榮發展，同時優先考慮公共安全。透過現在做出明智的政策選擇，州立法者和州長加文·紐瑟姆可以鞏固加州作為負責任的人工智慧進步的全球領導者的地位。

Simon Last 是位於舊金山的 Notion 共同創辦人。

這些近乎不可能的標準將使加州失去人工智慧領域的優勢

保羅·萊卡斯

加州是美國創新的搖籃。多年來，許多資訊和技術企業，包括我協會所代表的企業，透過為消費者創造新產品、改善公共服務和推動經濟發展，為加州人民做出了貢獻。不幸的是，加州立法機關正在通過的立法可能會削弱最聰明的創新者，並針對前沿或高度先進的人工智慧模型。

該法案遠遠超出了既定的重點，即解決對這些模型安全性的真正擔憂，同時確保加州從這項技術中獲益。 SB 1047 最終將禁止開發人員發布可適應加州消費者需求的人工智慧模型，而不是針對可預見的危害，例如根據有偏見的歷史數據使用人工智慧進行預測性警務，或追究那些將人工智慧用於邪惡目的的人的責任。

SB 1047 將透過實際上迫使那些處於新人工智慧技術最前沿的人來預測和減輕其模型可能被濫用的各種可能方式並防止這種濫用來做到這一點。這是根本不可能的，特別是因為沒有普遍接受的技術標準來衡量和減輕前沿模型風險。

如果 SB 1047 成為法律，加州消費者將無法使用他們認為有用的人工智慧工具。這就像因為有人非法服用或服用過量而停止生產處方藥一樣。他們也將無法使用旨在保護加州人免受其他人工智慧發起的惡意活動影響的人工智慧工具。

需要明確的是，對 SB 1047 的擔憂並不反映人工智慧應該在沒有有意義的監督的情況下擴散的信念。兩黨達成共識，我們需要圍繞人工智慧設置護欄，以降低濫用風險，並解決對公共健康和安全、公民權利和其他領域可預見的損害。各國已帶頭頒布法律，抑制人工智慧的惡意使用。例如，印第安納州、明尼蘇達州、德克薩斯州、華盛頓州和加利福尼亞州已頒布法律，禁止製作描繪可識別個人親密圖像的深度偽造品，並限制人工智慧在選舉廣告中的使用。

國會也考慮設立護欄，以保護選舉、隱私、國家安全和其他議題，同時維持美國的技術優勢。事實上，監管最好在聯邦層級以協調的方式進行，就像透過國家標準與技術研究院成立的人工智慧安全研究所所追求的那樣，而不需要承擔民事和刑事責任。這種方法認識到前沿模型安全需要大量資源，而任何州（甚至加利福尼亞州）都無法籌集這些資源。

因此，儘管民選領導人必須採取措施保護消費者，但 SB 1047 太過分了。它將迫使新興公司和老牌公司權衡幾乎不可能的合規標準與在其他地方開展業務的價值。加州可能會失去在人工智慧創新方面的優勢。美國以外的人工智慧開發商如果不遵守同樣的透明度和問責原則，他們的地位將會得到加強，這不可避免地將美國消費者的隱私和安全置於風險之中。

保羅‧萊卡斯 (Paul Lekas) 是全球公共政策與政府事務主管 軟體與資訊產業協會 在華盛頓。