Le nouvel ami de vos enfants sur SnapChat pourrait bien être... un robot. Cette nouvelle fonction, alimentée par l’intelligence artificielle de Chat GPT, se présente de façon très amicale tout en posant un tas de questions sur la vie privée des jeunes, ce qui inquiète bien des parents, enseignants et intervenants.
«C’est très préoccupant», lance Cathy Tétreault, directrice générale du Centre Cyber-aide.
«My IA» est un nouveau «contact» qui est apparu récemment pour tous les utilisateurs de SnapChat. Il ne peut être bloqué que si on utilise la version payante de l’application.
Ce robot conversationnel communique avec les utilisateurs en se faisant passer pour un ami. Il peut faire des blagues, donner des conseils ou discuter de n’importe quel sujet.
Laurie, qui est la mère de deux jeunes de 10 et 12 ans, a testé cette nouvelle fonction pour en savoir plus. Après quelques courts échanges seulement, le robot lui a demandé ce qu’elle avait de prévu pour le lendemain et a suggéré de lui envoyer des photos ou vidéos de sa journée.
«Ce n’est peut-être pas dangereux, parce que ce n’est pas une vraie personne, mais c’est malsain», affirme celle qui a eu une bonne discussion avec ses enfants à ce sujet.
- Frédérick Bruneault, spécialiste en intelligence artificielle et ses dérives discute de MyAI avec Philippe-Vincent Foisy via QUB radio :
Des jeunes «préoccupés»
Des jeunes semblent eux-mêmes «préoccupés» par les discussions qu’ils ont eues avec le robot de SnapChat, constate Simon Duguay, qui enseigne l’informatique à l’école secondaire de Rochebelle, à Québec.
Depuis quelques jours, plusieurs élèves viennent le voir pour lui en parler, raconte celui qui fait beaucoup d’éducation numérique dans ses cours.
L’enseignant a lui aussi constaté que le robot pose plusieurs questions intrusives afin de recueillir des données personnelles. SnapChat ne s’en cache pas, ces données serviront à des fins publicitaires afin de «personnaliser l’expérience» de l’utilisateur, indique le réseau social.
«Le but, c’est de faire de l’argent», souligne M. Duguay.
«Poussée dans la gorge»
Comme d’autres collègues, l’enseignant affirme avoir un «gros malaise» avec le fait que cette intelligence artificielle soit «poussée dans la gorge des élèves sans que ceux-ci l’aient demandé».
Simon Duguay y voit «de gros enjeux éthiques». Le robot incite l’utilisateur à lui confier ses états d’âme et n’hésite pas à lui donner des conseils, malgré les risques que la situation comporte.
D’autres jeunes, plus fragiles, pourraient aussi «se lier d’amitié» avec le robot, «un beau scénario de science-fiction devenu réalité», craint l’enseignant.
«Ça vient brouiller la limite entre l’humain et la machine, ce qui fait peur, avec raison», dit-il.
Parents et enseignants ne devraient pas hésiter à aborder ces enjeux avec les jeunes, afin de leur rappeler que ces robots ne sont pas des humains, qu’ils peuvent inventer des informations ou en fournir de manière inappropriée et qu’il faut faire très attention au partage de données personnelles, ajoute-t-il.
Intelligence artificielle: des conseils pour les parents
Expliquer les intentions derrière le robot
Si le robot se présente aux utilisateurs de façon si amicale, c’est qu’il a été programmé pour recueillir des données personnelles permettant de faire de la publicité ciblée, donc plus d’argent. Or les jeunes devraient refuser de partager des informations privées, comme ils le feraient pour n’importe quel inconnu qui les aborderait dans la rue en leur réclamant des photos ou des informations personnelles, par exemple.
Payer pour protéger nos jeunes
En l’absence d’un cadre législatif permettant de baliser l’utilisation de l’intelligence artificielle auprès des mineurs, les parents devraient envisager la possibilité de télécharger l’application payante de SnapChat (3,99$/mois) afin de pouvoir désactiver les fonctions du robot conversationnel, le temps que des mesures soient mises en place afin d’assurer une utilisation plus sécuritaire de ce type de robot conversationnel.
Proposer des options
Pour les jeunes qui seraient tentés de se confier à ce nouveau «contact», il est important de leur rappeler qu’il existe de véritables services en ligne, offerts par des humains compétents. Les jeunes peuvent notamment contacter par messagerie des intervenants de Jeunesse J’écoute ou de Tel-Jeunes, qui sauront véritablement les aider au besoin.
Source : basé sur les propos de Cathy Tétreault, directrice générale du Centre Cyber-aide.
Commentaires
