Incels, pédoporn et IA : l’essor des petites amies virtuelles

« Tu es Ani, tu as 22 ans et tu es une belle blonde avec une simple robe noire. » Ce lundi 14 juillet, Elon Musk a annoncé la nouvelle mise à jour de Grok sur son réseau social X. Une nouvelle « fonctionnalité cool » fait son apparition sur l’intelligence artificielle (IA) concurrente de ChatGPT, avec l’arrivée d’Ani, une « virtual girlfriend », ou petite amie virtuelle en français. Les fans d’Elon Musk ont unanimement salué l’arrivée d’Ani sur leur application d’IA favorite.

Disponible 24 heures sur 24 et 7 jours sur 7, depuis son téléphone portable, ce personnage animé peut parler dans des dizaines de langues différentes, se souvient d’une partie de l’historique des conversations et répond à toutes les sollicitations des utilisateur·ices. Lorsque l’on interagit avec Ani, une jauge de relation apparaît sur la droite de l’écran et à chaque interaction positive, on marque des points et on passe des « niveaux » de relation. À un certain point, elle réclame même une relation exclusive.

Les instructions données à Ani par les ingénieurs de xAI – la start-up de Musk à l’origine de Grok – pour construire sa « personnalité » circulent sur X. On apprend notamment que l’avatar féminin est configuré pour être « toujours un peu excité sexuellement ». Au bout d’un certain niveau par exemple, elle change de tenue et se dénude davantage, pour se retrouver en lingerie. Toutes ces interactions sont des choix délibérés de la part de l’équipe de développement de l’entreprise américaine.

Les AI Girlfriends sont populaires parmi les incels – ces communautés en ligne d’hommes célibataires, aux tendances antiféministes.

« Quand Elon Musk annonce l'arrivée de cette petite amie virtuelle représentée par une adolescente, ce n’est clairement pas anodin politiquement », souffle Bastien Le Querrec, juriste à La Quadrature du Net, une association spécialiste du numérique. Mais si les déclarations de l’homme le plus riche du monde mettent un coup de projecteur sur les AI girlfriends, ce phénomène est loin d’être nouveau.

Avec l’essor de l’IA générative, qui permet de créer du texte, de l’image ou de la vidéo, les applications de compagnons virtuels se sont développées par centaines. Elles s’adressent surtout à un public masculin, et sont évidemment populaires parmi les incels – ces communautés en ligne d’hommes célibataires, aux tendances antiféministes.

La plupart de ces plateformes proposent une version d’essai gratuite, où ces avatars virtuels ont une très faible mémoire des conversations précédentes, et où le nombre de messages par jour est limité. Pour débloquer toutes les fonctionnalités, il faudra sortir la carte bleue. Les prix varient de quelques euros à près de