Les textes générés par IA sont déjà en train de « polluer » Internet

Des outils comme DALL-E 2 ou Stable Diffusion, ou encore comme ChatGPT — dont on parle beaucoup en ce moment — sont très impressionnants. Les premiers sont capables de créer des images à partir d’une description textuelle ; le troisième est un agent conversationnel intelligent qui peut répondre à presque n’importe quelle question ou générer un texte sur mesure. Ces technologies sont si avancées que l’on peine parfois à croire que leurs productions ne sont pas l’œuvre d’un humain. Or, comme l’explique Melissa Heikkilä dans MIT Technology Review, cette profusion de textes « artificiels » pourrait être plus problématique qu’il n’y paraît.

ChatGPT, c’est un peu une encyclopédie disponible H24, qui a réponse à (presque) tout en un temps record. Mathématiques, histoire, philosophie, … rien ne lui échappe. Mais là où cet agent conversationnel – qui repose sur le modèle de langage GPT-3 d’OpenAI — se distingue particulièrement, est dans la génération de texte. Récit fictif, e-mail, blague, article de presse, etc., il peut écrire un texte clair, compréhensible et crédible sur n’importe quelle thématique. En moins d’un mois d’existence, il a déjà été utilisé par plus d’un million de personnes.

Si cette fonctionnalité peut potentiellement permettre à des étudiants de rédiger des dissertations sans efforts, elle peut aussi avoir des conséquences bien plus graves. Melissa Heikkilä évoque notamment des contenus de type conseil de santé — qui n’auraient pas reçu l’aval d’un vrai professionnel de santé — ou d’autres contenus informatifs importants. « Les systèmes d’IA pourraient également faciliter de manière stupide la production de quantités d’informations erronées, d’abus et de spams, déformant les informations que nous consommons et même notre sens de la réalité », écrit-elle.

De « bonnes » données d’entraînement de plus en plus rares

Il existe certains outils pour détecter les textes générés par une IA, mais ceux-ci s’avèrent inefficaces contre ChatGPT, précise la journaliste. Ce qui est le plus à craindre aujourd’hui n’est pas tant le fait qu’on ne parvienne pas à déterminer l’origine du texte (humaine ou artificielle), mais surtout que le Web pourrait être très vite rempli majoritairement de contenus erronés. Pourquoi ? Parce que les IA sont entraînées à partir de contenus glanés sur Internet… que d’autres IA ont elles-mêmes produit !

Au départ, les modèles informatiques de langage sont formés sur des ensembles de données (textes et images) trouvés sur Internet. Ceux-ci peuvent inclure du contenu de qualité, mais aussi des informations mensongères et malveillantes, mises en ligne par certaines personnes. L’IA formée à partir de ces données produit à son tour des contenus erronés, qui sont diffusés sur la Toile… et sont utilisés par d’autres IA pour produire des modèles de langage encore plus convaincants, que les humains peuvent utiliser pour générer et diffuser d’autres fausses informations, et ainsi de suite.

Le phénomène s’étend aujourd’hui aux images. « L’Internet est maintenant contaminé à jamais par des images faites par l’IA. Les images que nous avons faites en 2022 feront partie de tous les modèles qui seront faits à partir de maintenant », souligne Mike Cook, chercheur en IA au King’s College de Londres.

Ce qu’il faut retenir de tout cela, c’est qu’il sera de plus en plus difficile de trouver des données de qualité, et non générées par une IA, pour entraîner les futurs modèles d’IA. « Il est vraiment important de se demander si nous devons nous entraîner sur la totalité de l’Internet ou s’il existe des moyens de filtrer les éléments de haute qualité qui nous donneront le type de modèle linguistique que nous voulons », explique à MIT Technology Review Daphne Ippolito, chercheuse principale chez Google Brain, l’unité de recherche de Google dédiée à l’apprentissage profond.

Comment détecter les textes générés par une IA ?

Il devient donc indispensable de mettre au point des outils permettant de détecter les textes générés par une IA. Non seulement pour garantir la qualité des futurs modèles linguistiques, mais aussi pour s’assurer que les informations auxquelles nous avons accès quotidiennement sont basées sur des vérités. Comme le souligne Melissa Heikkilä, des personnes pourraient tenter de soumettre des articles scientifiques produits par une IA à un comité de lecture ou bien utiliser cette technologie comme outil de désinformation — ce qui serait particulièrement préjudiciable en période d’élections, par exemple.

Les humains ont aussi leur rôle à jouer dans ce combat contre les contenus artificiels : ils doivent devenir plus avisés et apprendre à repérer les textes qui n’ont pas été rédigés par un humain. « Les humains sont des écrivains désordonnés » : un texte écrit par une vraie personne comportera des fautes de frappe ou d’orthographe, quelques mots d’argot, des tournures de phrase parfois alambiquées, tout autant de petits signes qu’une IA ne peut reproduire (du moins, pas encore). De plus, les modèles de langage fonctionnent en prédisant le mot suivant dans une phrase ; de ce fait, ils utilisent principalement les mots les plus courants et très peu de mots rares.

Voilà pour la forme. Concernant le fond, il est important aussi de simplement prendre du recul sur ce qu’on lit sur Internet. Il faut savoir par exemple que la phase d’apprentissage de ChatGPT s’est terminée en 2021 ; l’outil s’appuie donc sur des données présentes sur le Web cette année-là. Par conséquent, les réponses exigeant des connaissances postérieures à cette date seront nécessairement erronées, obsolètes ou inventées.

« Selon Mme Ippolito, les gens devraient être attentifs aux incohérences subtiles ou aux erreurs factuelles dans des textes présentés comme des faits », rapporte Melissa. Nous en sommes tout à fait capables : les travaux de la chercheuse ont montré qu’avec de la pratique, les humains parviennent de mieux en mieux à repérer les contenus artificiels.

Source : MIT Technology Review

Windows 11 intègre l’iPhone dans le menu Démarrer
Divers Informatique

Windows 11 intègre l’iPhone dans le menu Démarrer

Windows 11 approfondit la prise en charge des smartphones et plus particulièrement des iPhone. Le menu Démarrer va intégrer un panneau supplémentaire affichant des informations...
Lire la suite
11 astuces pour accélérer votre PC sous Windows 11
Astuces Informatique

11 astuces pour accélérer votre PC sous Windows 11

Votre ordinateur commence à donner des signes de faiblesse ? Voici tout ce que vous pouvez faire pour tenter d’améliorer sa vitesse. Que votre machine soit...
Lire la suite
La fin du support de Windows 10 entraînera celui des applis Microsoft 365
Informatique

La fin du support de Windows 10 entraînera celui des applis Microsoft 365

Alors que le support de Windows 10 prendra fin en octobre prochain, Microsoft a averti ses utilisateurs que les applications Microsoft 365 ne seront plus,...
Lire la suite
HDMI 2.2 : une bande passante monstrueuse pour afficher de la 4K à 480 images par seconde
Technologie

HDMI 2.2 : une bande passante monstrueuse pour afficher de la 4K à 480 images par seconde

Comme prévu, le HDMI Forum a profité du CES pour officialiser la nouvelle version de la norme HDMI. Un an et demi après la publication...
Lire la suite
Microsoft mettra fin au support de Windows 10, quelles sont les implications?
Informatique

Microsoft mettra fin au support de Windows 10, quelles sont les implications?

À partir du mois d'octobre 2025, Microsoft cessera le support de son système d'exploitation Windows 10 Famille et Pro pour ordinateurs de bureau et portable....
Lire la suite
iOS 18 et ses 250 nouveautés sont maintenant disponibles pour tous
Divers Téléphone mobile

iOS 18 et ses 250 nouveautés sont maintenant disponibles pour tous

Avec ses plus de 250 nouveautés, iOS 18 est un gros morceau ! La version finale du système d’exploitation des iPhone est désormais disponible pour tous...
Lire la suite
Android 15 : même avec votre code secret, les voleurs n’auront plus accès à vos données
Sécurité informatique Téléphone mobile

Android 15 : même avec votre code secret, les voleurs n’auront plus accès à vos données

Google s’apprête à déployer une fonctionnalité de sécurité pour Android 15 qui va permettre de protéger vos données personnelles en cas de vol de votre...
Lire la suite
Comment bien utiliser l’outil de correction de Microsoft Word ?
Astuces

Comment bien utiliser l’outil de correction de Microsoft Word ?

Relisez et corrigez un document sur Microsoft Word en affichant le suivi des modifications apportées et en y intégrant des commentaires. Le logiciel de traitement...
Lire la suite
Ransomware : les cybercriminels sont de plus en plus gourmands
Sécurité informatique

Ransomware : les cybercriminels sont de plus en plus gourmands

Les rançons demandées par les cybercriminels explosent à la hausse. Les attaques de ransomware ciblent de plus en plus de grandes entreprises et des secteurs...
Lire la suite
Pour pirater votre smartphone, les hackers ont deux nouvelles stratégies ultra redoutables
Sécurité informatique

Pour pirater votre smartphone, les hackers ont deux nouvelles stratégies ultra redoutables

Les cybercriminels innovent constamment pour tromper les utilisateurs de smartphones. En ce moment, les hackers s’appuient sur deux nouvelles tactiques pour pirater les smartphones Android...
Lire la suite
Le Wi-Fi 7 va-t-il nous rendre tous accros au sans-fil ?
Informatique Technologie

Le Wi-Fi 7 va-t-il nous rendre tous accros au sans-fil ?

Débit monstre, latence imperceptible, et stabilité à toute épreuve. Sur le papier, la promesse du Wi-Fi 7 est alléchante. Mais comme est-elle possible, et aussi,...
Lire la suite
Processeurs Intel instables : le correctif ne résoudra pas tous les problèmes
Informatique

Processeurs Intel instables : le correctif ne résoudra pas tous les problèmes

Les problèmes de stabilité des processeurs Core de 13e et 14e génération n’ont pas fini de hanter Intel et ses clients. Le correctif annoncé en...
Lire la suite
ChatGPT coûte très cher, OpenAI risque de manquer d’argent
Divers Informatique

ChatGPT coûte très cher, OpenAI risque de manquer d’argent

OpenAI peut-il réellement faire faillite ? Cela parait difficile à croire pour l’entreprise leader du marché de l’intelligence artificielle générative, avec ChatGPT. Mais l’entraînement des modèles...
Lire la suite
Windows 11 : comment désinstaller le panneau de widgets
Astuces

Windows 11 : comment désinstaller le panneau de widgets

Vous n’utilisez jamais le panneau de widgets intégré à Windows 11 ? Voici comment le faire disparaître pour de bon en quelques secondes. Une chose est...
Lire la suite
Windows 11 : l’Explorateur de fichiers pourra bientôt afficher les fichiers de votre téléphone Android
Téléphone mobile

Windows 11 : l’Explorateur de fichiers pourra bientôt afficher les fichiers de votre téléphone Android

Microsoft pourrait améliorer très bientôt la liaison entre votre PC et votre smartphone Android. Dans une prochaine mise à jour, Windows 11 vous permettra d’accéder...
Lire la suite
Pourquoi une vague de fuites de données menace de s’abattre sur le web
Sécurité informatique

Pourquoi une vague de fuites de données menace de s’abattre sur le web

Une grande entreprise spécialisée dans le cloud a été victime d’une intrusion. Les mots de passe de centaines de clients sont apparemment partagées en ligne...
Lire la suite
Ce portable à double écran Oled est si malin qu’on se demande pourquoi personne n’y avait pensé avant
Divers Technologie

Ce portable à double écran Oled est si malin qu’on se demande pourquoi personne n’y avait pensé avant

GPD a dévoilé un concept de PC à double écran doté d’une charnière à 360 degrés. Cela lui permet de se transformer à l’envi en...
Lire la suite
Android 15 : jusqu’à 3 heures d’autonomie en plus grâce à cette nouvelle optimisation
Divers Téléphone mobile

Android 15 : jusqu’à 3 heures d’autonomie en plus grâce à cette nouvelle optimisation

Android 15 va apporter son lot d’améliorations, dont une optimisation du temps de mise en veille qui va permettre d’allonger l’autonomie de la batterie des...
Lire la suite
Windows 11 : comment désactiver les publicités Microsoft sur votre PC
Astuces Informatique

Windows 11 : comment désactiver les publicités Microsoft sur votre PC

Le système d’exploitation de Microsoft affiche fréquemment et en différents endroits de Windows 11 des messages visant à promouvoir les produits de l’entreprise. Vous pouvez...
Lire la suite
Vous utilisez encore Windows XP en 2024 ? Voici pourquoi c’est une mauvaise idée
Sécurité informatique

Vous utilisez encore Windows XP en 2024 ? Voici pourquoi c’est une mauvaise idée

Un utilisateur a récemment réalisé une expérience pour démontrer les dangers d'utiliser une ancienne version de Windows. Les résultats de cette expérience sont alarmants et...
Lire la suite
1 2 3 36