Le «mode adulte» d’OpenAI serait osé, mais pas pornographique

On y voit un peu plus clair dans les intentions d’OpenAI. Un porte-parole anonyme de la société IA a décrit le contenu qui sera fourni par cette future fonctionnalité comme étant « osé » plutôt que pornographique, permettant aux utilisateurs de ChatGPT de générer des conversations textuelles sur des thèmes pour adultes. 

Encore aucune date de lancement

Cette fonctionnalité avait été initialement annoncée en octobre, le PDG d’OpenAI, Sam Altman, affirmant que la société avait réussi à atténuer suffisamment les « hallucinations » liées à son modèle d’IA pour assouplir les restrictions de sécurité et introduire de l’« érotisme destiné aux adultes vérifiés ».

Le mode adulte de ChatGPT devait être lancé au cours de ce trimestre, mais OpenAI a déclaré au début du mois qu’il reportait le déploiement afin de se concentrer sur des tâches plus prioritaires. Aucun nouveau calendrier de lancement n’a encore été annoncé.

Enjeux de la vérification de l’âge

Un groupe de conseillers sélectionnés par OpenAI a averti la société en janvier que le mode adulte de ChatGPT pourrait être accessible aux enfants et favoriser une dépendance émotionnelle malsaine au robot conversationnel.

Le système de prédiction de l’âge développé par OpenAI pour protéger les enfants a également, à un moment donné, classé à tort des mineurs comme adultes dans environ 12 % des cas.

Étant donné que ChatGPT attire environ 100 millions d’utilisateurs de moins de 18 ans chaque semaine, ce taux d’erreur pourrait permettre à des millions de mineurs d’avoir des conversations à caractère sexuel avec le robot conversationnel.

Les algorithmes de prédiction d’âge d’OpenAI affichent des performances similaires à celles du reste du secteur, mais sans jamais être totalement infaillibles.

La solution « texte seulement »

S’en tenir à des conversations textuelles pourrait permettre au créateur de ChatGPT de contourner plus facilement des réglementations, telles que la loi britannique sur la sécurité en ligne (Online Safety Act), qui impose aux plateformes en ligne de vérifier l’âge des utilisateurs pour les images pornographiques, mais pas pour la littérature érotique écrite.

Dilemme entre concurrence, sécurité et retour sur investissement

Vu ce que la concurrence propose, l’aventure d’OpenAI risque de tomber à plat.

Pensons aux contenus NSFW (not safe for work ou non adaptées en milieu de travail) plus visuels proposés par des fournisseurs d’IA concurrents, comme « les compagnes piquantes » de Grok, de xAI. La société d’Elon Musk ayant annoncé la semaine dernière que le générateur d’images et de vidéos de Grok est autorisé à produire tout ce qui est « autorisé dans un film classé R ».

Si l’objectif du mode adulte vise à générer des rentrées d’argent pour combler l’incroyable gouffre sans fond que sont les investissements en IA d’OpenAI, la concurrence plus visuelle et moins scrupuleuse de Grok risque d’attirer les amateurs de contenus érotiques et leurs dollars.