網路上分享的一段影片似乎證實了以總理安東尼·阿爾巴內塞的聲音和臉孔宣布的全面禁止賭博廣告的消息。
但該影片完全是捏造的,是獨立參議員大衛·波科克利用人工智慧製作的「深度偽造」影片。
載入 Instagram 內容
參議員波科克製作了這段視頻,還製作了一段使用反對黨領袖彼得·達頓 (Peter Dutton) 的視頻,警告政客們,偽造自己的肖像是多麼容易。
週六,他在社交媒體上發布了這些視頻,強調議會只剩下五週時間來推動禁止在選舉材料中使用人工智能的法律,否則就有可能成為像他所做的那樣的深度造假的受害者。
波科克參議員說:「現在是政府採取行動捍衛我們的民主並確保選舉作為思想競賽而進行並贏得勝利的時候了,而不是基於誰能夠製造出最好的深度偽造品或說出最令人信服的謊言。
“在澳洲人重返投票站之前,監管這一問題的時間已經不多了。”
載入 Instagram 內容
波科克參議員表示,這些剪輯相當容易製作,它們肯定會出現在下次選舉中。
「這些都是相當低預算的視頻,因此在競選活動中,我相信你會看到更高品質的視頻,」他說。
該影片可能會引發憤怒,針對阿爾巴尼斯先生的一個引起工黨內部動盪的話題。
在後座議員對其淡化全面禁止賭博廣告建議的計畫表示反對後,政府一再推遲出台遏制賭博廣告影響力的立法。
隨著更多生成性人工智慧工具變得免費且易於獲取,選舉中的深度造假問題變得更加突出。
在海外,斯洛伐克上次大選前兩天,一段深度偽造的錄音引發了爭議,錄音中似乎顯示該國進步黨領導人正在討論他如何損害了斯洛伐克選舉的公正性。
特別國務部長 Don Farrell 的發言人表示,政府正在考慮澳洲選舉委員會關於規範選舉中人工智慧使用的建議。
「這不是我們可以阻止的技術——它不會消失,」法雷爾參議員的辦公室表示。
“我們必須找到一種方法,讓澳大利亞人免受故意虛假信息和內容的侵害。”
政府目前正在製定一攬子選舉改革方案,但主要涉及捐款改革和競選融資,而不是人工智慧。
一些專家質疑禁令實施有多容易,特別是在短短幾個月內。
澳洲國立大學管理研究學院的安德魯休斯博士表示,禁令可能很難執行,特別是如果它是對已經發布的內容做出反應的話。
「他們所做的基本上就是對我們眼前已經出現的內容做出反應,而不是從一開始就阻止它進入那裡,」他說。