「領取為身心障礙者保留的社會津貼的人 [the Allocation Adulte Handicapé, or AAH] La Quadrature du Net 的法律專家 Bastien Le Querrec 表示： “接受 AAH 的人和正在工作的人的風險評分增加。”

由於它對單親家庭的評分也高於雙親家庭，因此該組織認為它間接歧視了單親母親，從統計數據來看，單親母親更有可能成為單獨照顧者。 「在 2014 年版本演算法的標準中，離婚時間少於 18 個月的受益人的得分更高，」Le Querrec 說。

Changer de Cap 表示，在接受調查後，單親媽媽和殘疾人士都曾向該機構尋求幫助。

CNAF 機構負責分配住房、殘疾和兒童福利等經濟援助，該機構沒有立即回應置評請求，也沒有回應《連線》雜誌關於當前使用的演算法自 2014 年版本以來是否發生重大變化的問題。

就像法國一樣，其他歐洲國家的人權組織認為，他們對社會最低收入成員進行嚴密監視，這往往會帶來深遠的後果。

當荷蘭數以萬計的人（其中許多來自該國的加納社區）被錯誤地指控詐騙兒童福利制度時，他們不僅被命令償還演算法所說的涉嫌偷竊的錢。他們中的許多人聲稱，他們的債務也不斷上升，信用評級也遭到破壞。

巴黎政治學院人工智慧政策講師 Soizic Pénicaud 表示，問題不在於演算法的設計方式，而是它們在福利系統中的使用。 「在社會政策背景下使用演算法帶來的風險遠大於好處，」她說。 “我在歐洲或世界上還沒有看到任何使用這些系統取得積極成果的例子。”

此案的影響超越了法國。福利演算法預計將成為歐盟人工智慧新規則在 2025 年 2 月生效後如何執行的早期測試。有害的待遇－將在整個歐盟範圍內被禁止。

非營利組織 Algorithm Watch 的聯合創始人馬蒂亞斯·斯皮爾坎普 (Matthias Spielkamp) 表示：“在我看來，許多進行欺詐檢測的福利系統實際上可能是社會評分。”然而，公共部門代表可能不同意這個定義——關於如何定義這些系統的爭論可能最終會鬧上法庭。 「我認為這是一個非常難的問題，」斯皮爾坎普說。