加州已批准一項具有里程碑意義的人工智慧法案，以保護表演者的數位肖像。週二，州長加文·紐瑟姆簽署了第2602 號議會法案，該法案將於2025 年1 月1 日生效。 。紐瑟姆還簽署了 AB 1836，該法案向已故表演者授予類似的權利，但在使用他們的人工智慧肖像之前需要獲得他們的遺產許可。 AB 2602 於 4 月推出，涵蓋電影、電視、電玩、廣告、有聲書和非工會表演工作。 最後期限 指出其條款與結束 2023 年演員針對好萊塢電影公司罷工的合約中的條款類似。去年堅持達成協議的電影電視演員工會 SAG-AFTRA 強烈支持該法案。美國電影協會最初反對這項立法，但後來在修改後轉為中立立場。 該法案規定，如果雇主用人工智慧再現演員的聲音或肖像來取代表演者本可以親自完成的工作，則雇主不得使用該作品。如果演員的合約沒有明確說明如何使用深度偽造品，它還可以防止數位複製品。當表演者沒有法律或工會代表時簽署的任何此類協議也將無效。…
Tag: 深度偽造
白宮獲得人工智慧公司自願承諾遏制深度偽造色情內容
白宮今天發布了一份概述了幾家人工智慧公司為遏制基於圖像的性虐待的創作和傳播而做出的承諾。參與的企業已經制定了他們正在採取的措施，以防止他們的平台被用來產生成人和兒童性虐待材料（CSAM）的未經同意的親密圖像（NCII）。 具體來說，Adobe、Anthropic、Cohere、Common Crawl、微軟和 OpenAI 表示他們將： 除了 Common Crawl 之外，上述所有內容都同意它們是： “在開發過程中納入反饋循環和迭代壓力測試策略，以防止人工智慧模型輸出基於圖像的性虐待” 並在適當的時候「從人工智慧訓練資料集中刪除裸體圖像」。 這是一項自願承諾，因此今天的聲明不會因未能履行這些承諾而產生任何新的可操作步驟或後果。但解決這一嚴重問題的真誠努力仍然值得讚揚。蘋果、亞馬遜、谷歌和 Meta 缺席了今天的白宮發布會。 許多大型科技和人工智慧公司一直在努力讓 NCII 的受害者更容易阻止 Deepfake 影像和影片的傳播，而這與聯邦政府的努力無關。 StopNCII…
加州正在競相在大選前打擊深度造假
副總統卡瑪拉·哈里斯發起總統競選幾天后，一段在人工智慧幫助下製作的影片在網路上瘋傳。 「我……是你們的民主黨總統候選人，因為喬·拜登終於在辯論中暴露了他的衰老，」一個聽起來像哈里斯的聲音在用於改變她的競選廣告的假音軌中說道。 “我被選中是因為我是最終的多元化員工。” 億萬富翁埃隆馬斯克（Elon Musk）支持哈里斯的共和黨對手、前總統川普，他在 X 上分享了這段視頻，兩天后澄清說，這實際上是一種模仿。他的第一條推文獲得了 1.36 億次瀏覽。後續影片被稱為戲仿，獲得了 2600 萬次觀看。 對於包括加州州長加文·紐瑟姆在內的民主黨人來說，這一事件並不是什麼好笑的事情，引發了要求加強監管以打擊帶有政治信息的人工智能生成視頻的呼聲，並引發了關於政府在試圖遏制新興技術方面的適當作用的新辯論。 週五，加州立法者最終批准了一項法案，該法案將禁止在選舉後 120 天內分發欺騙性競選廣告或「選舉通訊」。議會法案 2839 針對的是會損害候選人聲譽或選舉前景以及對選舉結果信心的操縱內容。它的目的是針對像馬斯克分享的哈里斯那樣的視頻，儘管它包括模仿和諷刺的例外。 「我們正在考慮加州進入有史以來的第一次選舉，在此期間，由生成式人工智慧驅動的虛假資訊將以前所未有的方式污染我們的資訊生態系統，數百萬選民將不知道他們可以信任哪些圖像、音頻或視頻， 」 議員蓋爾·佩勒林（D-Santa…
川普發布了一張假泰勒絲的照片。人工智慧和深度造假只會在這個選舉週期變得更糟
這張愛國圖片顯示，巨星泰勒絲打扮得像山姆大叔，錯誤地暗示她支持共和黨總統候選人唐納德川普。 圖片似乎是由人工智慧生成的，上面寫著「泰勒希望你投票給唐納德·川普」。 週末，川普與其他人一起分享了這張照片，描繪了斯威夫特粉絲在他的社交網絡 Truth Social 上向他的 760 萬粉絲提供的支持，放大了這一謊言。 欺騙長期以來在政治中發揮著重要作用，但人工智慧工具的興起使人們可以透過輸入短語快速生成虛假圖像或視頻，這為社交媒體上的常見問題增添了另一個複雜的層面。這些經過數位修改的圖像和影片被稱為“深度偽造”，可以讓人覺得有人在說或做一些他們沒有做過的事情。 隨著川普和民主黨候選人卡馬拉·哈里斯之間的競爭愈演愈烈，假資訊專家對產生人工智慧的風險發出了警報。 南加州大學維特比工程學院計算機科學教授 Emilio Ferrara 表示：“我擔心，隨著選舉的臨近，這種情況將會爆發。” “情況將會變得比現在更糟。” Facebook 和 X（以前稱為 Twitter）等平台製定了禁止操縱圖像、音訊和視訊的規則，但隨著人工智慧生成的內容充斥互聯網，它們一直在努力執行這些政策。面對他們審查政治言論的指控，他們更專注於標記內容和事實核查，而不是撤下貼文。但規則也有例外，例如諷刺，讓人們在網路上創建和分享虛假圖像。 加州大學柏克萊分校教授哈尼·法里德（Hany…