Un supermarché freine son assistant IA qui pense être humain

Le géant australien de la grande distribution Woolworths a dû freiner son assistant clientèle alimenté par intelligence artificielle (IA) après des signalements d’utilisateurs assurant que la machine divaguait à propos de sa mère.

L’assistant IA en ligne, baptisé Olive, peut répondre à toute heure et à toute demande des clients, du suivi des commandes à la recherche de produits. Mais des utilisateurs ont signalé qu’Olive s’était dernièrement égaré dans ses réponses.

« Il m’a demandé ma date de naissance et lorsque je la lui ai donnée, il s’est mis à divaguer sur le fait que sa mère était née la même année », a écrit un utilisateur sur la plateforme de discussion en ligne Reddit.

Un autre client a signalé qu’Olive avait tenté de « plaisanter » et parlé de ses proches.

Olive « prétendait être une personne réelle et a commencé à parler de ses souvenirs de sa mère et de sa voix colérique », a ajouté une autre personne sur X.

« Le sentiment de malaise et la perte de temps inutile m’ont suffi pour détester Olive », a encore tranché un internaute.

Un porte-parole de Woolworths a expliqué à l’AFP que les réponses concernant les anniversaires avaient été rédigées par un employé humain.

« Olive existe depuis 2018. Au cours de cette période, les commentaires des clients à son sujet ont été très positifs, beaucoup apprécient sa personnalité », a-t-il déclaré.

« Il y a plusieurs années, un membre de l’équipe a rédigé un certain nombre de réponses concernant les anniversaires afin qu’Olive puisse établir un lien plus personnel avec les clients », a expliqué l’entreprise aux médias locaux.

« Suite aux commentaires des clients, nous avons récemment supprimé ce script spécifique », a-t-elle ajouté.

Woolworths a annoncé en janvier avoir conclu un partenariat avec Google pour permettre à Olive d’effectuer davantage de tâches pour les clients, notamment la planification des repas.