Je transforme votre idée/besoin métier en application grâce au No Code 🤖 CTO as a Service - Développeur NoCode/LowCode chez @Phydius | Expert sur Bubble, WeWeb et Xano 🛠️
❗ L'actu du jour 🔍
Google a suspendu son outil IA de création d'images Gemini 😮
Le bad buzz est si énorme (amplifié notamment par Elon Musk sur X) que le cours de l'action de la maison mère de Google Alphabet a chuté depuis quelques jours.💲
🔹 Quel est le problème ?
En voulant axer ses résultats sur la diversité, Gemini génère régulièrement des images inexactes voire fausses. ❌
L'outil a par exemple représenté des vikings en tant que personnes noires (photo ci-dessous) ; ou des soldats du régime nazi en tant que personnes asiatiques.
🔹 Comment cela a-t-il pu arriver ?
Parmi de multiples raisons, Google a certainement voulu éviter le précédent tollé qu'a subi Dall-E, l'outil de génération d'image d'OpenAI.
Dall-E était accusé de créer très régulièrement des images de personnes blanches dans des postes à fortes responsabilités ou de représenter des personnes de couleur dans des rôles stéréotypés.
Ici, c'est donc l'effet négatif inverse qui s'est produit, et Gemini a généré des images qui étaient historiquement fausses.
🔹 C'est quoi la suite pour les futures IA génératives ?
Certes, aucune IA n'est parfaite mais avec ces deux exemples on voit que la façon de l'entraîner doit être la plus neutre possible. 🏳
La principale difficulté pour entraîner son IA est le fait que les hommes et les femmes qui l'entraînent ne seront jamais neutres ! 🤷♀️
Qu'est-ce que vous pensez de tout ça ? Vous avez des pistes de réflexion pour apporter des solutions ? 💭