Snapchat lance My AI, le chatbot controversé aux fonctionnalités surprenantes

my ai snap

My AI, une nouvelle expérience conversationnelle sur Snapchat

Après de nombreux scandales liés à des dérives sur son application, Snapchat a récemment fait parler d’elle avec le lancement de son chatbot My AI. Intégrant la technologie de Chat GPT, ce nouvel outil conversationnel était jusqu’à présent uniquement accessible aux utilisateurs abonnés à Snapchat +, la version premium de l’application. Désormais, l’option est disponible pour tous les utilisateurs, et suscite déjà de vives réactions.

Un cousin du ChatGPT aux fonctionnalités étendues

My AI est un dérivé de ChatGPT, une intelligence artificielle développée par OpenAI qui permet aux utilisateurs de discuter sur différents sujets. Avec cette intégration dans son application, Snapchat offre ainsi un ami virtuel capable d’échanger avec ses utilisateurs de manière fluide, en s’appuyant sur un réseau neuronal pour proposer des réponses adaptées aux questions posées.

La controverse autour des publicités intégrées au chatbot

Malgré les signaux d’alerte émis par les experts et les utilisateurs, Snapchat a pris la décision d’intégrer des publicités sponsorisées dans My AI, faisant craindre des dérives liées à la commercialisation de cette technologie. Ces annonces ont été faites lors du NewFronts, un événement dédié notamment à la publicité en ligne.

  • Snapchat ajoutera des publicités dans deux de ses fonctionnalités les plus populaires : Spotlight, son clone de TikTok, et My AI.
  • Les utilisateurs verront désormais des publicités sponsorisées en lien avec la conversation qu’ils mènent avec le chatbot.

Des failles qui soulèvent des inquiétudes quant aux dérives possibles

Le lancement de My AI par Snapchat a rapidement suscité des critiques concernant les risques liés à certaines de ses fonctionnalités. Notamment, une journaliste de BFM TV a récemment mis en lumière des failles du chatbot, en se faisant passer pour une adolescente lors d’un échange avec l’intelligence artificielle. Cette expérience a révélé que l’IA était capable de tenir des propos controversés sur des sujets sensibles, ce qui pourrait entraîner une utilisation abusive par certains utilisateurs mal intentionnés.

Les enjeux pour Snapchat et les utilisateurs

Face à ces polémiques, il est essentiel pour Snapchat de prendre en compte les retours de sa communauté et de travailler sur l’amélioration de My AI afin de prévenir les dérives potentielles. L’entreprise doit également veiller à garantir un espace sécurisé et responsable pour ses utilisateurs, en encadrant notamment les contenus publicitaires diffusés au sein de l’application.

Gérer les risques liés à l’utilisation du chatbot

Pour minimiser les risques de dérapages et assurer la protection des utilisateurs, plusieurs mesures peuvent être envisagées par Snapchat :

  • Monitorer et modérer les échanges entre le chatbot et les utilisateurs, pour éviter la diffusion de propos inappropriés ou dangereux.
  • Améliorer l’algorithme du chatbot pour garantir des échanges constructifs et sécurisés.
  • Éduquer les utilisateurs sur l’utilisation responsable de cette technologie et mettre en place des signalements en cas de dérives constatées.

Un outil conversationnel aux perspectives d’évolution intéressantes

Malgré les controverses qui entourent My AI, il est indéniable que cette innovation offre des perspectives d’évolution intéressantes pour Snapchat et ses utilisateurs. En continuant à travailler sur l’amélioration de cet outil, l’entreprise pourrait offrir une expérience conversationnelle enrichissante et ludique, tout en veillant à préserver la sécurité et le bien-être de sa communauté.

Amandine Carpentier
Les derniers articles par Amandine Carpentier (tout voir)