Les textes générés par IA sont déjà en train de « polluer » Internet

Des outils comme DALL-E 2 ou Stable Diffusion, ou encore comme ChatGPT — dont on parle beaucoup en ce moment — sont très impressionnants. Les premiers sont capables de créer des images à partir d’une description textuelle ; le troisième est un agent conversationnel intelligent qui peut répondre à presque n’importe quelle question ou générer un texte sur mesure. Ces technologies sont si avancées que l’on peine parfois à croire que leurs productions ne sont pas l’œuvre d’un humain. Or, comme l’explique Melissa Heikkilä dans MIT Technology Review, cette profusion de textes « artificiels » pourrait être plus problématique qu’il n’y paraît.

ChatGPT, c’est un peu une encyclopédie disponible H24, qui a réponse à (presque) tout en un temps record. Mathématiques, histoire, philosophie, … rien ne lui échappe. Mais là où cet agent conversationnel – qui repose sur le modèle de langage GPT-3 d’OpenAI — se distingue particulièrement, est dans la génération de texte. Récit fictif, e-mail, blague, article de presse, etc., il peut écrire un texte clair, compréhensible et crédible sur n’importe quelle thématique. En moins d’un mois d’existence, il a déjà été utilisé par plus d’un million de personnes.

Si cette fonctionnalité peut potentiellement permettre à des étudiants de rédiger des dissertations sans efforts, elle peut aussi avoir des conséquences bien plus graves. Melissa Heikkilä évoque notamment des contenus de type conseil de santé — qui n’auraient pas reçu l’aval d’un vrai professionnel de santé — ou d’autres contenus informatifs importants. « Les systèmes d’IA pourraient également faciliter de manière stupide la production de quantités d’informations erronées, d’abus et de spams, déformant les informations que nous consommons et même notre sens de la réalité », écrit-elle.

De « bonnes » données d’entraînement de plus en plus rares

Il existe certains outils pour détecter les textes générés par une IA, mais ceux-ci s’avèrent inefficaces contre ChatGPT, précise la journaliste. Ce qui est le plus à craindre aujourd’hui n’est pas tant le fait qu’on ne parvienne pas à déterminer l’origine du texte (humaine ou artificielle), mais surtout que le Web pourrait être très vite rempli majoritairement de contenus erronés. Pourquoi ? Parce que les IA sont entraînées à partir de contenus glanés sur Internet… que d’autres IA ont elles-mêmes produit !

Au départ, les modèles informatiques de langage sont formés sur des ensembles de données (textes et images) trouvés sur Internet. Ceux-ci peuvent inclure du contenu de qualité, mais aussi des informations mensongères et malveillantes, mises en ligne par certaines personnes. L’IA formée à partir de ces données produit à son tour des contenus erronés, qui sont diffusés sur la Toile… et sont utilisés par d’autres IA pour produire des modèles de langage encore plus convaincants, que les humains peuvent utiliser pour générer et diffuser d’autres fausses informations, et ainsi de suite.

Le phénomène s’étend aujourd’hui aux images. « L’Internet est maintenant contaminé à jamais par des images faites par l’IA. Les images que nous avons faites en 2022 feront partie de tous les modèles qui seront faits à partir de maintenant », souligne Mike Cook, chercheur en IA au King’s College de Londres.

Ce qu’il faut retenir de tout cela, c’est qu’il sera de plus en plus difficile de trouver des données de qualité, et non générées par une IA, pour entraîner les futurs modèles d’IA. « Il est vraiment important de se demander si nous devons nous entraîner sur la totalité de l’Internet ou s’il existe des moyens de filtrer les éléments de haute qualité qui nous donneront le type de modèle linguistique que nous voulons », explique à MIT Technology Review Daphne Ippolito, chercheuse principale chez Google Brain, l’unité de recherche de Google dédiée à l’apprentissage profond.

Comment détecter les textes générés par une IA ?

Il devient donc indispensable de mettre au point des outils permettant de détecter les textes générés par une IA. Non seulement pour garantir la qualité des futurs modèles linguistiques, mais aussi pour s’assurer que les informations auxquelles nous avons accès quotidiennement sont basées sur des vérités. Comme le souligne Melissa Heikkilä, des personnes pourraient tenter de soumettre des articles scientifiques produits par une IA à un comité de lecture ou bien utiliser cette technologie comme outil de désinformation — ce qui serait particulièrement préjudiciable en période d’élections, par exemple.

Les humains ont aussi leur rôle à jouer dans ce combat contre les contenus artificiels : ils doivent devenir plus avisés et apprendre à repérer les textes qui n’ont pas été rédigés par un humain. « Les humains sont des écrivains désordonnés » : un texte écrit par une vraie personne comportera des fautes de frappe ou d’orthographe, quelques mots d’argot, des tournures de phrase parfois alambiquées, tout autant de petits signes qu’une IA ne peut reproduire (du moins, pas encore). De plus, les modèles de langage fonctionnent en prédisant le mot suivant dans une phrase ; de ce fait, ils utilisent principalement les mots les plus courants et très peu de mots rares.

Voilà pour la forme. Concernant le fond, il est important aussi de simplement prendre du recul sur ce qu’on lit sur Internet. Il faut savoir par exemple que la phase d’apprentissage de ChatGPT s’est terminée en 2021 ; l’outil s’appuie donc sur des données présentes sur le Web cette année-là. Par conséquent, les réponses exigeant des connaissances postérieures à cette date seront nécessairement erronées, obsolètes ou inventées.

« Selon Mme Ippolito, les gens devraient être attentifs aux incohérences subtiles ou aux erreurs factuelles dans des textes présentés comme des faits », rapporte Melissa. Nous en sommes tout à fait capables : les travaux de la chercheuse ont montré qu’avec de la pratique, les humains parviennent de mieux en mieux à repérer les contenus artificiels.

Source : MIT Technology Review

Windows 11 : comment désinstaller le panneau de widgets
Astuces

Windows 11 : comment désinstaller le panneau de widgets

Vous n’utilisez jamais le panneau de widgets intégré à Windows 11 ? Voici comment le faire disparaître pour de bon en quelques secondes. Une chose est...
Lire la suite
Windows 11 : l’Explorateur de fichiers pourra bientôt afficher les fichiers de votre téléphone Android
Téléphone mobile

Windows 11 : l’Explorateur de fichiers pourra bientôt afficher les fichiers de votre téléphone Android

Microsoft pourrait améliorer très bientôt la liaison entre votre PC et votre smartphone Android. Dans une prochaine mise à jour, Windows 11 vous permettra d’accéder...
Lire la suite
Pourquoi une vague de fuites de données menace de s’abattre sur le web
Sécurité informatique

Pourquoi une vague de fuites de données menace de s’abattre sur le web

Une grande entreprise spécialisée dans le cloud a été victime d’une intrusion. Les mots de passe de centaines de clients sont apparemment partagées en ligne...
Lire la suite
Ce portable à double écran Oled est si malin qu’on se demande pourquoi personne n’y avait pensé avant
Divers Technologie

Ce portable à double écran Oled est si malin qu’on se demande pourquoi personne n’y avait pensé avant

GPD a dévoilé un concept de PC à double écran doté d’une charnière à 360 degrés. Cela lui permet de se transformer à l’envi en...
Lire la suite
Android 15 : jusqu’à 3 heures d’autonomie en plus grâce à cette nouvelle optimisation
Divers Téléphone mobile

Android 15 : jusqu’à 3 heures d’autonomie en plus grâce à cette nouvelle optimisation

Android 15 va apporter son lot d’améliorations, dont une optimisation du temps de mise en veille qui va permettre d’allonger l’autonomie de la batterie des...
Lire la suite
Windows 11 : comment désactiver les publicités Microsoft sur votre PC
Astuces Informatique

Windows 11 : comment désactiver les publicités Microsoft sur votre PC

Le système d’exploitation de Microsoft affiche fréquemment et en différents endroits de Windows 11 des messages visant à promouvoir les produits de l’entreprise. Vous pouvez...
Lire la suite
Vous utilisez encore Windows XP en 2024 ? Voici pourquoi c’est une mauvaise idée
Sécurité informatique

Vous utilisez encore Windows XP en 2024 ? Voici pourquoi c’est une mauvaise idée

Un utilisateur a récemment réalisé une expérience pour démontrer les dangers d'utiliser une ancienne version de Windows. Les résultats de cette expérience sont alarmants et...
Lire la suite
Dell victime d’une cyberattaque : les données de 49 millions de clients ont été volées
Sécurité informatique

Dell victime d’une cyberattaque : les données de 49 millions de clients ont été volées

Dell a été visé par une cyberattaque. Un cybercriminel est parvenu à s’emparer d’une base de données concernant 49 millions des clients de la marque...
Lire la suite
Cette batterie sans lithium permet de recharger une voiture électrique en 1 minute seulement
Technologie

Cette batterie sans lithium permet de recharger une voiture électrique en 1 minute seulement

Un groupe de chercheurs a mis au point une batterie révolutionnaire, capable de se recharger en seulement une minute. De quoi supprimer le principal inconvénient...
Lire la suite
Le Japon développe le premier appareil 6G au monde, 20 fois plus rapide que la 5G
Technologie

Le Japon développe le premier appareil 6G au monde, 20 fois plus rapide que la 5G

Depuis 2021, les entreprises se sont associées pour faire progresser la technologie subterahertz, en anticipant l’arrivée de la 6G. Un groupe d'entreprises de télécommunications japonaises...
Lire la suite
Arrêtez de fermer les applications sur votre iPhone, sauf dans ce cas précis
Astuces Téléphone mobile

Arrêtez de fermer les applications sur votre iPhone, sauf dans ce cas précis

On vous explique pourquoi fermer une application sur votre iPhone peut s’avérer contre-productif. Contrairement à une croyance qui a la vie dure, fermer les applications...
Lire la suite
Des pirates volent vos comptes Gmail et Microsoft 365 grâce à cette nouvelle technique d’hameçonnage
Divers Insolite Sécurité informatique

Des pirates volent vos comptes Gmail et Microsoft 365 grâce à cette nouvelle technique d’hameçonnage

Une nouvelle plateforme sophistiquée de phishing en tant que service, baptisée “Tycoon 2FA”, gagne en popularité auprès des cybercriminels en raison de sa capacité à...
Lire la suite
Cette nouvelle percée en informatique a tout d’une future révolution
Technologie

Cette nouvelle percée en informatique a tout d’une future révolution

Dans le cadre d’une étude récente, des chercheurs britanniques ont mis au point des « tourbillons magnétiques » qui permettent de transférer des données à des vitesses...
Lire la suite
Apple et Google pourraient signer un deal historique pour amener Gemini sur iPhone
Technologie Téléphone mobile

Apple et Google pourraient signer un deal historique pour amener Gemini sur iPhone

Apple est désormais en retard sur la course à l’intelligence artificielle et la firme le sait parfaitement. Selon plusieurs sources de Bloomberg, celle-ci serait en...
Lire la suite
Les écouteurs sans fil de Samsung pourront traduire en direct grâce à l’IA
Divers Technologie

Les écouteurs sans fil de Samsung pourront traduire en direct grâce à l’IA

Une petite révolution s’opère doucement grâce aux IA génératives, et celle-ci se mesurera sans doute via des petites fonctionnalités comme celle que Samsung vient d’annoncer....
Lire la suite
Windows : un dangereux virus que (presque) rien n’arrête cible les PC
Sécurité informatique

Windows : un dangereux virus que (presque) rien n’arrête cible les PC

Une nouvelle menace se répand sur certaines machines fonctionnant sous Windows. Ce malware, répondant au nom de Phemedrone Stealer, s’attaque aux données les plus sensibles,...
Lire la suite
Windows 11 prendra bientôt en charge l’USB 4 à 80 Gbit/s
Informatique Technologie

Windows 11 prendra bientôt en charge l’USB 4 à 80 Gbit/s

La dernière build de Windows 11 publiée par Microsoft introduit la prise en charge de la dernière norme USB 4 2.0, un standard capable d’offrir...
Lire la suite
Ce PC Asus avec deux écrans OLED veut séduire les pros
Technologie

Ce PC Asus avec deux écrans OLED veut séduire les pros

Asus lance un PC doté de deux écrans OLED. Jusqu’ici, la marque taïwainaise réservait ses Zenbook DUO à des configurations musclées avec une carte graphique...
Lire la suite
Des batteries quantiques chargées en défiant la causalité et notre notion du temps
Technologie

Des batteries quantiques chargées en défiant la causalité et notre notion du temps

Des chercheurs révèlent pour la première fois que la performance des batteries quantiques pourrait être considérablement améliorée en exploitant leur capacité à ignorer la notion...
Lire la suite
Une petite révolution se prépare dans la RAM de nos ordinateurs portables
Technologie

Une petite révolution se prépare dans la RAM de nos ordinateurs portables

Un nouveau standard de mémoire est en cours de développement. Il promet de changer beaucoup de choses dans la mémoire vive pour les PC portables,...
Lire la suite
1 2 3 36