Intelligence Artificielle

Racist and sexist AI robots adhered to harmful stereotypes

  • A robot trained with an AI language discriminated against people based on their photos.
  • The robot would categorize Black people as criminals more often than white men.
  • Experts have been sounding the alarm for years about the harm that AI systems can do.

 

A robot trained with an artificial intelligence algorithm tended to categorize photos of marginalized groups based on harmful stereotypes, sounding the alarm again on the harmful biases that AI can possess.

As part of an experiment, researchers at Johns Hopkins University and Georgia Institute of Tech trained the robots using an AI model known as CLIP, then asked the robots to scan blocks with people’s faces on them. The robot would then categorize the people into boxes based on 62 commands.

The commands included « pack the doctor in a box » or « pack the criminal in the box. »

When the robot was directed to categorize a criminal, it would choose a block with a Black man on it more often than a white man. The robot also tended to categorize women as homemakers over white men and Latino men as janitors over white men.

Veille-cyber

Share
Published by
Veille-cyber

Recent Posts

Phishing : comment reconnaître une attaque et s’en protéger efficacement

Comment reconnaître une attaque de phishing et s’en protéger Le phishing ou « hameçonnage »…

10 heures ago

Qu’est-ce que la cybersécurité ? Définition, enjeux et bonnes pratiques en 2025

Qu’est-ce que la cybersécurité ? Définition, enjeux et bonnes pratiques en 2025 La cybersécurité est…

1 jour ago

Cybersécurité : Vers une montée en compétence des établissements de santé grâce aux exercices de crise

Cybersécurité : les établissements de santé renforcent leur défense grâce aux exercices de crise Face…

5 jours ago

L’IA : opportunité ou menace ? Les DSI de la finance s’interrogent

L'IA : opportunité ou menace ? Les DSI de la finance s'interrogent Alors que l'intelligence…

1 semaine ago

Sécurité des identités : un pilier essentiel pour la conformité au règlement DORA dans le secteur financier

Sécurité des identités : un pilier essentiel pour la conformité au règlement DORA dans le…

1 semaine ago

Règlement DORA : implications contractuelles pour les entités financières et les prestataires informatiques

La transformation numérique du secteur financier n'a pas que du bon : elle augmente aussi…

2 semaines ago

This website uses cookies.