N’importe qui peut créer des hypertrucages IA de vos photos Instagram : l'option à désactiver tout de suite
Meta a lancé mardi Muse Image, un modèle de génération d’images issu de ses laboratoires de superintelligence. Derrière la nouveauté se cache une fonctionnalité alarmante : la possibilité de générer des images avec l’intelligence artificielle (IA) en se basant sur les photos de n’importe quel profil Instagram public, a découvert Wired. Et vous devriez désactiver l’option dès maintenant si vous ne voulez pas voir des hypertrucages (deepfakes) de vos photos personnelles.
Concrètement, il suffit d’inscrire le nom d’utilisateur d’un compte public dans une requête dans l’application Meta AI pour que l’IA génère une image. J’ai testé avec l’accord de Maxime Johnson, chroniqueur techno, et bien que le résultat ne soit pas bluffant, il n’avait jamais donné son accord à Meta pour que ses photos Instagram soient utilisées pour générer des images IA. C’est particulièrement inquiétant pour les utilisateurs qui ont des photos de leurs enfants sur leurs comptes Instagram ou dans leur photo de profil.
J’ai donc demandé, toujours avec l’accord de Maxime, de générer une image de lui au parc avec ses enfants. Heureusement, le résultat ne ressemblait pas à ses enfants, mais s’il avait plus d’images d’eux sur son profil, je m’inquiète du résultat possible.
Aucun consentement n’est demandé, et Maxime n’a jamais reçu de notification comme quoi j’avais généré une image basée sur ses photos Instagram. La fonctionnalité s’applique aux utilisateurs 18 ans et plus dont le compte est public, et toute personne disposant d’un compte Meta AI peut s’en servir.
Wired a découvert que la fonctionnalité était activée par défaut sur des profils Instagram. L’option était désactivée par défaut sur mon profil, mais j’avais déjà désactivé plein de trucs de Meta AI auparavant, alors peut-être que Meta a retenu ça. En faisant des tests, on a constaté qu’une fois sur deux, les comptes Instagram étaient automatiquement inscrits.
Désactivez l’accès à vos images Instagram :
La seule façon d’en avoir le cœur net est de vérifier vous-même. Voici comment désactiver la fonctionnalité :
- Sur mobile, consultez votre profil Instagram (public) et appuyez sur les trois lignes (ou trois points) en haut, à droite ;
- Sous la section « Comment les autres interagissent avec vous », appuyez sur « Partages et réutilisations » ;
- Faites défiler jusqu’à l’option « Allow people to reuse your content on Instagram and with AI features at Meta » (elle n’a pas encore été traduite) et désactivez « Publications » et « Reels » ;
- Je vous suggère également de désactiver l’option suivante, juste en dessous : « Autoriser les gens à créer avec votre contenu audio d’origine et à le réutiliser sur Meta AI ».
Lorsque vous désactivez la fonctionnalité, Meta AI empêche les utilisateurs de créer des images en allant fouiller sur votre profil Instagram. Voici le message qui apparaît une fois l’accès bloqué :
Mon compte bloque l’option, mais sur Meta AI, je suis capable de générer des images qui se basent sur mon profil Instagram quand même. C’est probablement parce que Meta AI et Instagram sont connectés à mon profil, puisque mes contacts sont incapables de générer de telles images basées sur mon profil.
Le déploiement de l’outil semble inégal pour l’instant, alors il est possible que vous n’ayez pas encore l’option dans vos paramètres. Revenez vérifier plus tard et désactivez-la, à moins qu’elle ne vous dérange pas.
Soyons clairs : plusieurs comptes ont l’option activée par défaut. Que le visage de millions de personnes puisse servir à des hypertrucages sans permission est une dérape, peu importe les garde-fous promis. Meta affirme à CNET que son modèle bloque les contenus illégaux, abusifs ou diffamatoires, mais le média rappelle que des utilisateurs malveillants avaient réussi à contourner les protections de feu Sora.
Muse Image est déjà offert dans Meta AI, sur Instagram et sur WhatsApp, et Meta prévoit l’étendre à Facebook, Messenger et aux annonceurs, selon CNET.
