加州一項新的人工智慧法旨在防止與選舉相關的人工智慧深度造假在網路上傳播，該法在美國總統大選前一個月被封鎖。作為 TechCrunch 和 原因 據報道，約翰門德斯法官已發布初步禁令，阻止該州總檢察長執行AB 2839。一起簽署為法律。之後，他在推特上發布了X 所有者埃隆·馬斯克(Elon Musk) 分享副總統卡瑪拉·哈里斯(Kamala Harris) 的人工智能深度偽造視頻的故事截圖，但沒有將其標記為虛假影片。 「我剛剛簽署了一項法案，規定這種行為在加州為非法，」他寫道。

AB 2839 要求任何散佈 AI 深度假貨的人承擔責任，前提是這些內容以政治候選人為主角，並且在該州選舉後 120 天內發布。任何看到這些深度偽造內容的人都可以對分發這些內容的人提起民事訴訟，如果發布者不想面臨罰款，法官可以命令發布者將受操縱的媒體撤下。在紐瑟姆將其簽署成為法律後，該視頻的原始發布者X 用戶克里斯托弗·科爾斯(Christopher Kohls) 提起訴訟以阻止該視頻，認為該視頻是諷刺性的，因此受到第一修正案的保護。

門德斯法官同意科爾斯的觀點，並在他的決定中指出 [PDF] AB 2839 沒有通過嚴格審查，也不是狹隘定制的。他也表示，該法律的揭露要求過於繁重。他寫道：“幾乎任何經過數位化修改的內容，如果留給互聯網上的任意個人，都可能被認為是有害的。”法官將 YouTube 影片、Facebook 貼文和 X 推文比作報紙廣告和政治漫畫，並聲稱第一修正案“保護個人的言論權，無論這些批評可能採用何種新媒體。”由於這只是一項初步禁令，該法律未來可能會被解除，儘管這可能不會在今年的總統選舉前及時發生。