Breaking News

Le Sénat plaide pour la création d’une autorité chargée de vérifier la fiabilité des algorithmes

Les trois sénateurs à l’origine du rapport proposent notamment l’interdiction de la catégorisation d’individus en fonction de l’origine ethnique, du sexe, ou de l’orientation sexuelle, sauf dans le cadre de la recherche scientifique et sous réserve de garanties appropriées. Le Sénat se positionne sur l’utilisation de la reconnaissance faciale. Le 11 mai 2022, les sénateurs Marc-Philippe Daubresse, Arnaud de Belenet et Jérôme Durai, ont présenté un rapport dans lequel ils réclament la création d’un contrôleur européen de la fiabilité des algorithmes de reconnaissance faciale.

Selon les membres du Sénat, il est urgent d’établir « un cadre autour du recours à la reconnaissance faciale dans l’espace public ». Les rapporteurs considèrent qu’il est indispensable de fixer dans la loi quatre interdictions applicables aux acteurs publics comme privés : l’interdiction de la notation sociale. Cette interdiction irait au-delà de celle proposée par la Commission européenne dans le règlement sur l’intelligence artificielle puisque cette dernière ne s’intéresse qu’aux acteurs publics. Selon les sénateurs, il est en effet nécessaire de protéger les consommateurs de méthodes commerciales intrusives et d’empêcher le recours à la notation sociale.

Ils proposent également l’interdiction de la catégorisation d’individus en fonction de l’origine ethnique, du sexe, ou de l’orientation sexuelle, sauf dans le cadre de la recherche scientifique et sous réserve de garanties appropriées. Troisième interdiction préconisée : celle de l’analyse d’émotions, sauf à des fins de santé ou de recherche scientifique et sous réserve de garanties appropriées. Enfin, ils plaident pour l’interdiction de la surveillance biométrique à distance en temps réel dans l’espace public, sauf exceptions très limitées au profit des forces de sécurité.

Selon le rapport du Sénat, il est primordial de poser trois principes généraux. Le principe de subsidiarité, le principe d’un contrôle humain systématique afin qu’il ne s’agisse que d’une aide à la décision et le principe de transparence pour que l’usage des technologies de reconnaissance biométrique ne se fasse pas à l’insu des personnes. Ils précisent qu’il est « indispensable de construire une réponse collective à l’utilisation des technologies de reconnaissance biométrique afin de ne pas être, dans les années à venir, dépassés par les développements industriels ».