La Jour­née inter­na­tio­nale des Nations Unies pour l’é­li­mi­na­tion de la pau­vre­té, célé­brée chaque année le 17 octobre, vise à pro­mou­voir la com­pré­hen­sion et le dia­logue entre les per­sonnes vivant dans la pau­vre­té et la socié­té dans son ensemble.

A ce titre, 15 orga­ni­sa­tions de la socié­té civile attaquent l’algorithme de nota­tion des allo­ca­taires des Caisses d’Allocations Fami­liales (CAF) en jus­tice, devant le Conseil d’État, au nom du droit de la pro­tec­tion des don­nées per­son­nelles et du prin­cipe de non-discrimination. 

Ce recours en jus­tice contre un algo­rithme de ciblage d’un orga­nisme ayant mis­sion de ser­vice public est une première.

Cet algo­rithme attri­bue à chaque allo­ca­taire un score de sus­pi­cion dont la valeur est uti­li­sée pour sélec­tion­ner celles et ceux fai­sant l’objet d’un contrôle. Plus il est éle­vé, plus la pro­ba­bi­li­té d’être contrôlé·e est grande. Chaque mois, l’algorithme ana­lyse les don­nées per­son­nelles des plus de 32 mil­lions de per­sonnes vivant dans un foyer rece­vant une pres­ta­tion CAF et cal­cule plus de 13 mil­lions de scores. Par­mi les fac­teurs venant aug­men­ter un score de sus­pi­cion on trouve notam­ment le fait d’avoir de faibles reve­nus, d’être au chô­mage, de béné­fi­cier du reve­nu de soli­da­ri­té active (RSA) ou de l’allocation adulte han­di­ca­pé (AAH). En retour, les per­sonnes en dif­fi­cul­té se retrouvent sur-contrô­lées par rap­port au reste de la population.

Ce recours devant le Conseil d’État porte tant sur l’étendue de la sur­veillance à l’œuvre que sur la dis­cri­mi­na­tion opé­rée par cet algo­rithme envers des allo­ca­taires déjà fragilisé·es dans leurs par­cours de vie.

En assi­mi­lant pré­ca­ri­té et soup­çon de fraude, cet algo­rithme par­ti­cipe d’une poli­tique de stig­ma­ti­sa­tion et de mal­trai­tance ins­ti­tu­tion­nelle des plus défavorisé·es. Les contrôles sont des moments par­ti­cu­liè­re­ment dif­fi­ciles à vivre, géné­ra­teurs d’une forte charge admi­nis­tra­tive et d’une grande anxié­té. Ils s’accompagnent régu­liè­re­ment de sus­pen­sions du ver­se­ment des pres­ta­tions, pré­cé­dant des demandes de rem­bour­se­ments d’indus non-motivés. 

Dans les situa­tions les plus graves, des allo­ca­taires se retrouvent tota­le­ment privé·es de res­sources, et ce en toute illé­ga­li­té. Quant aux voies de recours, elles ne sont pas tou­jours com­pré­hen­sibles ni accessibles.

Alors que l’utilisation de tels algo­rithmes de nota­tion se géné­ra­lise au sein des orga­nismes sociaux, la coa­li­tion d’ONG, regrou­pant des orga­ni­sa­tions aux hori­zons divers, vise à construire un front col­lec­tif afin de faire inter­dire ce type de pra­tiques et d’alerter sur la vio­lence dont sont por­teuses les poli­tiques dites de « lutte contre la fraude sociale ».

« Cet algo­rithme est la tra­duc­tion d’une poli­tique d’acharnement contre les plus pauvres. Parce que vous êtes pré­caire, vous serez suspect·e aux yeux de l’algorithme, et donc contrôlé·e. C’est une double peine. » déclare Bas­tien Le Quer­rec, juriste à La Qua­dra­ture du Net.

Asso­cia­tions requérantes: