Le directeur scientifique de l’Institut québécois d’intelligence artificielle, Yoshua Bengio a cosigné, en compagnie de centaines d’experts dans ce domaine, une lettre ouverte qui plaide pour l’arrêt du développement des intelligences artificielles pendant six mois, le temps de se pencher sur son encadrement.

• À lire aussi: Encadrement de ChatGPT: un casse-tête pour les politiciens

• À lire aussi: Des experts demandent une pause de six mois pour l'intelligence artificielle

En entrevue à l’émission «Le Bilan», il explique que c’est le développement rapide du logiciel ChatGPT qui a forcé la communauté de l’IA à mettre en garde le public, les médias et les gouvernements.

Cet outil est arrivé beaucoup plus rapidement que prévu à un stade qui passe le «test de Turing», c’est-à-dire que le logiciel peut imiter une conversation humaine.

«On n’est pas au niveau de l’intelligence humaine, mais on est au niveau que la machine peut passer pour un humain, explique-t-il. Et ça ce que ça veut dire c’est que ces systèmes-là pourraient être utilisés dans des buts qui ne sont pas nécessairement positifs, la désinformation étant l’une des choses qui me fait le plus peur par exemple.»

M. Bengio soulève également la question de la vitesse à laquelle les sociétés seront capables de s’adapter à l’évolution rapide des intelligences artificielles.

«Ce n’est que le début, affirme l’expert. Ce n’est pas très difficile de se projeter dans cinq ou dix ans et de s’imaginer à quel niveau ils vont être. L’enjeu ici c’est la vitesse à laquelle ça va se faire. Est-ce qu’on a le filet social pour s’adapter à la vitesse à laquelle ça va arriver?»

L’impact de l’IA sur les démocraties inquiète également le directeur de l’Institut québécois d’intelligence artificielle.

«Ce qui fait le plus peur c’est que ces outils très puissants qui sont capables de vraiment avoir beaucoup d’impact puissent se concentrer dans les mains de quelques personnes pas nécessairement bienveillantes», soutient-il.

Transparence et règlementation

C’est pourquoi il réclame une règlementation à l’international, à la manière notamment du nucléaire et des traités internationaux.

«Il n’y a rien qui va contrôler parfaitement, mais il y a moyen de faire des choses, partage-t-il. Par exemple, c’est techniquement faisable que ces systèmes-là incluent dans la génération de textes, de sons ou de vidéos qu’ils produisent, des marques cachées qui feraient que ce serait très facile de manière informatique de savoir que ce sont des données qui ont été produites par la machine.»

«On pourrait imaginer des législations qui obligeraient que ce que produisent les IA serait marqué de cette manière, mais aussi montrer à l’usager que si l’on voit un texte sur un réseau social, que c’est créé par une machine.»

Selon M. Bengio, il y a urgence d’agir, notamment en raison d’une compétition de plus en plus féroce entre les différentes entreprises.

«On a vu des compagnies accélérer et peut-être laisser au vestiaire les enjeux de protection du public et d’éthique, parce qu’avec l’arrivée de ces capacités-là il y a des peurs de perdre des parts de marchés. Il y a vraiment une accélération avec laquelle on risque de tous perdre parce que la prudence risque d’être laissée de côté.»

Il entrevoit éventuellement une course entre différents pays.

«C’est pour ça qu’il faut que se donnent des règles ensemble à travers les pays pour éviter qu’on soit tous perdants.»

La transparence est aussi au cœur des demandes du collectif d’experts.

«Aujourd’hui les items sont développés un peu derrière des portes-clauses, avance-t-il. Il faudrait que des représentants du public et des chercheurs puissent les étudier pour pouvoir faire un genre d’audit et se prémunir un peu contre des choses qu’on n’avait pas bien anticipées.» 

Malgré tous ces enjeux, de nouvelles règlementations, notamment au Canada, l’encouragent.

«Notre gouvernement fédéral semble à l’écoute, soutient l’expert. Probablement que le gouvernement canadien sera le premier pays à légiférer sur l’intelligence artificielle. L’Europe aussi travaille sur un projet de loi, mais il faudrait que ce soit élargi à d’autres pays et en particulier les États-Unis qui sont les plus grands producteurs de ces systèmes-là.»

La lettre cosignée par M. Bengio peut être consultée ici.

Voyez l’entrevue complète de Yoshua Bengio dans la vidéo ci-dessus