L’intelligence artificielle est une menace pour les LGBT, selon une étude récente de Google DeepMind. Selon eux, le manque de données sur la communauté empêche les algorithmes d’apprendre d’elle.
par Fred Lafeuille
Une étude récente de Google DeepMind a analysé l’impact de l’intelligence artificielle (IA) sur les personnes de la communauté LGBT. Les chercheurs ont en effet examiné les effets positifs et négatifs de l’IA sur les lesbiennes, les gays, bisexuels, transgenres et asexuels. Mais aussi l’adaptation de cet IA au problématiques de la communauté.
“Compte tenu de l’oppression historique et des défis contemporains auxquels sont confrontées les communautés LGBT+, il existe un risque substantiel que les systèmes d’intelligence artificielle (IA) soient conçus et déployés injustement pour ces personnes”, lit-on l’article publié il y a quelques jours par les chercheurs.
L’intelligence artificielle menace les LGBT à plusieurs niveaux
“Les pas en avant de l’IA représentent à la fois une aide potentielle pour résister à l’oppression et en même temps un risque d’accentuer les inégalités existantes”, écrivent les chercheurs.
Car, selon eux, les données dont dispose l’IA sur l’identité queer sont largement insuffisantes. Pour la bonne et simple raison qu’on les collecte moins régulièrement que les données concernant les autres personnes. C’est donc en raison de ce manque de données que les coauteurs de l’article estiment que la situation est préoccupante…
À lire aussi : The Vivi écarté de « The Voice » pour homophobie et racisme
“L’orientation sexuelle et l’identité de genre sont des caractéristiques qui ne sont pas assez observées”, notent les chercheurs. Par conséquent, “elles restent fréquemment inconnues ou sont jugées impossibles à mesurer”.
Dans de nombreux cas, les personnes LGBT+ jugent que leur données personnelles doivent rester privées. Or, si on les tait, impossible pour l’IA de les prendre en compte et d’éviter d’engendrer certaines formes de discriminations.
L’étude souligne également que “l’équité algorithmique pour les personnes queers reste gravement sous-explorée” et étudiée. Tout en notant que des progrès importants ont tout de même été accomplis ces derniers temps en matière de réduction des discriminations. Notamment en ce qui concerne les personnes racisées.
L’intelligence artificielle peut aggraver les inégalités
Les chercheurs notent que ce manque d’information a des “conséquences importantes en aval” quant au développement des systèmes d’IA. Comme c’est le cas dans le domaine de la santé. Selon eux, tout cela “limite considérablement les avantages de l’IA” dans ce domine pour la communauté LGBT.
À lire aussi : Une pétition contre un bisou gay dans une pub Cadbury
Pire : l’article souligne un danger encore plus inquiétant. On peut en effet utiliser l’IA pour cibler les personnes queer. A des fins commerciales, mais aussi à des fins malveillantes.
Sur les réseaux sociaux, les systèmes de modération de contenu automatisés peuvent parfois censurer injustement les personnes LGBT+. Notamment celles qui se “réapproprient” le vocabulaire insultant. Ce qui touche donc directement à la liberté d’expression, à la vie privée et débouche sur des abus.
Par ailleurs, “alors que les systèmes d’IA peuvent aider les médecins à identifier des personnes à risque, ces modèles peuvent également exposer les individus qu’ils veulent soutenir”, poursuivent les auteurs de l’étude. “Ces systèmes peuvent empêcher le recrutement des personnes LGBT+ ou augmenter leurs primes d’assurances.”
Tout ça semble en tout cas être un véritable casse-tête pour les ingénieurs qui conçoivent les algorithmes. Mais aussi pour l’IA qui est censé « apprendre » elle-même en analysant les données et les interactions.
Adapter l’intelligence artificielle pour stopper la menace
L’orientation sexuelle appartient à la sphère privée. Il est par conséquent particulièrement complexe et délicat de l’utiliser sans poser des problèmes éthiques…
Pour que les algorithmes soient justes avec les personnes LGBT+, “il est important de développer des méthodes qui renforceront l’équité des minorités sans avoir accès directement à qui appartient à ces groupes”, concluent les scientifiques. Bref, tout un programme (informatique) !
