Appel au Conseil fédéral

Appel au Conseil fédéral

Les algorithmes et l’IA promettent beaucoup, mais de nombreux exemples montrent que leur utilisation peut reproduire, multiplier et consolider des injustices existantes. Au Royaume-Uni, par exemple, un algorithme soupçonnait de manière disproportionnée les personnes handicapées de fraude aux prestations sociales et les soumettait à des contrôles bureaucratiques (1). Aux Pays-Bas, des milliers de familles ont été plongées dans une détresse existentielle lorsqu’un algorithme discriminatoire leur a demandé à tort de rembourser des allocations familiales perçues pendant des années (2).

Ce défi ne peut pas être relevé uniquement au niveau technique. C’est ce que montre l’exemple d’un grand commerçant en ligne. Comme le rapportent les médias, l’entreprise a développé un logiciel pour rendre les processus de recrutement plus efficaces. Il s’est toutefois avéré, alors qu’il était encore en phase de test, que son algorithme de recommandation avait tendance à écarter automatiquement les CV des femmes. Les tentatives pour remédier à ce problème au niveau technique sont restées vaines (3).

Les algorithmes et l’IA peuvent influencer notre vie dans les domaines les plus divers, qu’il s’agisse de mesurer nos performances au travail, de nous montrer du contenu sur les réseaux sociaux, d’estimer notre solvabilité, d’évaluer les élèves, de prédire la délinquance ou d’attribuer des prestations de l’État. En Suisse aussi, c’est de plus en plus le cas (4)… Lorsque des discriminations apparaissent, elles ont des conséquences importantes pour les personnes concernées (5). Le cadre juridique actuel en Suisse n’offre toutefois pas une protection suffisante contre ce phénomène (6).

Mais il y a du mouvement! Le Conseil fédéral examine d’ici fin 2024 les approches possibles pour la régulation de l’IA et prendra des mesures sur cette base. Nous appelons le Conseil fédéral à saisir cette opportunité:

Les réglementations relatives à l’IA devraient viser à garantir une utilisation responsable des algorithmes et de l’IA, dans le respect des droits fondamentaux et au bénéfice de toutes et tous. L’utilisation de l’IA peut être bénéfique pour la science, l’économie et la société. Mais cela ne sera possible que si les défis sont adressés et si les craintes légitimes sont prises au sérieux. Les personnes doivent être protégées efficacement contre la discrimination par les algorithmes et pouvoir s’y opposer, que ceux-ci soient utilisés par des privés ou des autorités publiques. La protection contre la discrimination par les algorithmes doit donc devenir l’une des priorités de la future régulation de l’IA.

1 Article de presse, The Guardian
2 Article de presse, POLITICO
3 Article de presse, Reuters
4 « Atlas de l’automatisation », AlgorithmWatch CH
5 Exemples de cas, AlgorithmWatch CH & humanrights.ch
6 Papier de position, AlgorithmWatch CH