Google veut identifier et riposter contre les images générées par l’IA

Google a annoncé trois nouvelles fonctionnalités visant à aider les utilisateurs à identifier les fausses images générées par l’IA (intelligence artificielle) dans les résultats de recherche. 

Ces fonctionnalités sont les suivantes: «À propos de cette image», qui permet aux utilisateurs d’accéder à davantage d’informations sur l’historique d’une image, «balisage» ou métadonnées indiquant clairement l’origine IA d’une image, et collaboration avec d’autres plateformes et services pour encourager l’étiquetage des images générées par l’IA.

Ces mesures visent à répondre à l’inquiétude croissante suscitée par la prolifération de faux photoréalistes créés par des modèles de synthèse d’images d’IA, tels que Midjourney et Stable Diffusion. La diffusion de fausses informations et de propagande politique, ainsi que l’impact potentiel sur notre compréhension de l’histoire sont autant de conséquences de cette tendance.

Fort impact de la désinformation sur la population

Selon une étude de Poynter datant de 2022, 62% des gens pensent qu’ils sont confrontés quotidiennement ou hebdomadairement à des informations erronées. Les nouvelles fonctionnalités de Google visent à créer des outils et des fonctions faciles à utiliser sur la recherche Google pour aider les utilisateurs à repérer les fausses informations en ligne, à évaluer rapidement le contenu et à mieux comprendre le contexte de ce qu’ils voient. La fonction «À propos de cette image» fournira un contexte supplémentaire sur une image, ce qui permettra de déterminer sa fiabilité ou d’indiquer si elle mérite un examen plus approfondi.

La deuxième fonction permettra d’étiqueter toutes les images générées par les outils d’IA de Google avec un «marquage» spécial ou des métadonnées indiquant clairement leur origine IA, et la troisième fonction permettra de collaborer avec d’autres plateformes et services pour les encourager à ajouter des étiquettes similaires à leurs images générées par l’IA.

Les hypertrucages dans la mire

Bien que ces mesures ne soient pas parfaites, puisque les métadonnées peuvent être supprimées ou modifiées par la suite, elles représentent une tentative très médiatisée de s’attaquer au problème des hypertrucages «deepfakes» en ligne.

Au fur et à mesure que les images sont générées ou augmentées par l’IA, la frontière entre le vrai et le faux risque de s’estomper, sous l’influence de l’évolution des normes culturelles. 

À ce moment-là, notre décision de faire confiance à des informations qui reflètent fidèlement la réalité peut dépendre de notre confiance dans la source. Néanmoins, des solutions technologiques comme celle de Google pourront nous aider à évaluer la crédibilité en attendant.