/news/techno

Un générateur de textes si parfait que ses auteurs le jugent potentiellement très dangereux

André Boily | Journal de Montréal

Blockchain technology artificial intelligence and cyber space concept.

VIGE.co - stock.adobe.com

OpenAI, c’est le centre de recherche en intelligence artificielle (IA) supporté par Elon Musk, Amazon et Microsoft et qui a pour mandat de distribuer à la manière du monde du logiciel libre son expertise pour faire contrepoids aux sociétés privées engagées en IA.

À LIRE ÉGALEMENT

Ce site génère des faux visages, et c’est inquiétant

Un de leurs nouveaux programmes (GPT-2), un générateur intelligent capable de produire un large éventail de textes, de nouvelles ou d’essais est si réaliste qu’un non-initié ne suspectera pas sa provenance.

De plus, ce générateur de textes peut également traduire et résumer des documents.

Ses auteurs chez OpenAI sont allés jusqu’à déclarer que leur nouveau logiciel «réalise des performances de pointe sur de nombreux critères de modélisation du langage».

Et en dépit du mandat originel d’OpenAI, ceux-ci ont décidé de ne pas publier ni distribuer le programme au public à cause d’éventuelles applications malicieuses si cette technologie était utilisée par des pirates ou des États voyous.

Le deepfake des textes

Ils craignent une prolifération de fausses nouvelles, d’usurpation d’identité en ligne et une automatisation de faux échanges sur les réseaux.

Comme exemple, le programme a pu générer à partir d’un paragraphe sur un soi-disant troupeau de licornes vivant dans une vallée lointaine et inexplorée des Andes une histoire de 300 mots.

Les auteurs craignent que leur programme GPT-2 «ait le même potentiel que le phénomène des appels, images ou vidéos deepfakes qui foisonnent sur les réseaux».

Dans la même catégorie