谷歌正在加強努力,正確標記人工智慧生成的內容,並使用檢測人工智慧編輯圖像來源的全球標準更新其內部「關於此圖像」工具。
新標籤是 Google 與全球內容來源和真實性聯盟 (Coalition for Content Provenance and Authenticity) 合作的一部分 (C2PA)。 C2PA 的成員致力於開發和採用標準化的人工智慧認證和檢測流程,並透過稱為「內容憑證」的驗證技術來實現。然而,並非所有 C2PA 成員(包括 Amazon、Meta 和 OpenAI)都實施了身分驗證標準。
Google 在主要參與者中邁出了第一步,將C2PA 的新2.1 標準整合到Google 搜尋等產品中,並最終整合到Google Ads 中(透過點擊搜尋中未發現的照片上方的三個垂直點可以找到「關於此圖片」提示) )。該標準包括設備和技術的官方“信任列表”,可以幫助透過其元數據審查照片或影片的來源。谷歌信任與安全副總裁勞裡·理查森 (Laurie Richardson) 表示:“例如,如果數據顯示圖像是由特定相機型號拍攝的,則信任列表有助於驗證這條信息是否準確。” 邊緣。 “我們的目標是隨著時間的推移逐步加強這一點,並使用 C2PA 信號來告知我們如何執行關鍵政策。”
可混搭光速
Sam Altman 辭去 OpenAI 安全小組負責人職務
5 月加入 C2PA 後,TikTok 成為第一個實施 C2PA 內容憑證的視訊平台,包括用於讀取視訊元資料並將其標記為 AI 的自動標籤系統。隨著 Google 平台內容憑證的推出,YouTube 也將跟隨其腳步。
谷歌一直對廣泛的人工智慧標籤和監管直言不諱,特別是在遏制錯誤訊息傳播方面。 2023 年,Google推出了 SynthID,這是自己的數位浮水印工具,旨在幫助檢測和追蹤使用 Google DeepMind 的文字到圖像生成器 Imagen 生成的人工智慧內容。今年早些時候,它為 YouTube 影片引入了(有限的)人工智慧標籤要求,並致力於解決Google搜尋中人工智慧生成的深度偽造內容問題。
該公司於 2 月加入了 C2PA 指導委員會,該委員會成員包括其他主要行業參與者,甚至包括 BBC 等新聞機構。