SOURCE: 01net.com Enquêtez sur votre futur lieu de villégiature en vous aidant des réseaux sociaux et autres outils en ligne avant de réserver vos vacances....
Lire la suite
Des outils comme DALL-E 2 ou Stable Diffusion, ou encore comme ChatGPT — dont on parle beaucoup en ce moment — sont très impressionnants. Les premiers sont capables de créer des images à partir d’une description textuelle ; le troisième est un agent conversationnel intelligent qui peut répondre à presque n’importe quelle question ou générer un texte sur mesure. Ces technologies sont si avancées que l’on peine parfois à croire que leurs productions ne sont pas l’œuvre d’un humain. Or, comme l’explique Melissa Heikkilä dans MIT Technology Review, cette profusion de textes « artificiels » pourrait être plus problématique qu’il n’y paraît.
ChatGPT, c’est un peu une encyclopédie disponible H24, qui a réponse à (presque) tout en un temps record. Mathématiques, histoire, philosophie, … rien ne lui échappe. Mais là où cet agent conversationnel – qui repose sur le modèle de langage GPT-3 d’OpenAI — se distingue particulièrement, est dans la génération de texte. Récit fictif, e-mail, blague, article de presse, etc., il peut écrire un texte clair, compréhensible et crédible sur n’importe quelle thématique. En moins d’un mois d’existence, il a déjà été utilisé par plus d’un million de personnes.
Si cette fonctionnalité peut potentiellement permettre à des étudiants de rédiger des dissertations sans efforts, elle peut aussi avoir des conséquences bien plus graves. Melissa Heikkilä évoque notamment des contenus de type conseil de santé — qui n’auraient pas reçu l’aval d’un vrai professionnel de santé — ou d’autres contenus informatifs importants. « Les systèmes d’IA pourraient également faciliter de manière stupide la production de quantités d’informations erronées, d’abus et de spams, déformant les informations que nous consommons et même notre sens de la réalité », écrit-elle.
De « bonnes » données d’entraînement de plus en plus rares
Il existe certains outils pour détecter les textes générés par une IA, mais ceux-ci s’avèrent inefficaces contre ChatGPT, précise la journaliste. Ce qui est le plus à craindre aujourd’hui n’est pas tant le fait qu’on ne parvienne pas à déterminer l’origine du texte (humaine ou artificielle), mais surtout que le Web pourrait être très vite rempli majoritairement de contenus erronés. Pourquoi ? Parce que les IA sont entraînées à partir de contenus glanés sur Internet… que d’autres IA ont elles-mêmes produit !
Au départ, les modèles informatiques de langage sont formés sur des ensembles de données (textes et images) trouvés sur Internet. Ceux-ci peuvent inclure du contenu de qualité, mais aussi des informations mensongères et malveillantes, mises en ligne par certaines personnes. L’IA formée à partir de ces données produit à son tour des contenus erronés, qui sont diffusés sur la Toile… et sont utilisés par d’autres IA pour produire des modèles de langage encore plus convaincants, que les humains peuvent utiliser pour générer et diffuser d’autres fausses informations, et ainsi de suite.
Le phénomène s’étend aujourd’hui aux images. « L’Internet est maintenant contaminé à jamais par des images faites par l’IA. Les images que nous avons faites en 2022 feront partie de tous les modèles qui seront faits à partir de maintenant », souligne Mike Cook, chercheur en IA au King’s College de Londres.
Ce qu’il faut retenir de tout cela, c’est qu’il sera de plus en plus difficile de trouver des données de qualité, et non générées par une IA, pour entraîner les futurs modèles d’IA. « Il est vraiment important de se demander si nous devons nous entraîner sur la totalité de l’Internet ou s’il existe des moyens de filtrer les éléments de haute qualité qui nous donneront le type de modèle linguistique que nous voulons », explique à MIT Technology Review Daphne Ippolito, chercheuse principale chez Google Brain, l’unité de recherche de Google dédiée à l’apprentissage profond.
Comment détecter les textes générés par une IA ?
Il devient donc indispensable de mettre au point des outils permettant de détecter les textes générés par une IA. Non seulement pour garantir la qualité des futurs modèles linguistiques, mais aussi pour s’assurer que les informations auxquelles nous avons accès quotidiennement sont basées sur des vérités. Comme le souligne Melissa Heikkilä, des personnes pourraient tenter de soumettre des articles scientifiques produits par une IA à un comité de lecture ou bien utiliser cette technologie comme outil de désinformation — ce qui serait particulièrement préjudiciable en période d’élections, par exemple.
Les humains ont aussi leur rôle à jouer dans ce combat contre les contenus artificiels : ils doivent devenir plus avisés et apprendre à repérer les textes qui n’ont pas été rédigés par un humain. « Les humains sont des écrivains désordonnés » : un texte écrit par une vraie personne comportera des fautes de frappe ou d’orthographe, quelques mots d’argot, des tournures de phrase parfois alambiquées, tout autant de petits signes qu’une IA ne peut reproduire (du moins, pas encore). De plus, les modèles de langage fonctionnent en prédisant le mot suivant dans une phrase ; de ce fait, ils utilisent principalement les mots les plus courants et très peu de mots rares.
Voilà pour la forme. Concernant le fond, il est important aussi de simplement prendre du recul sur ce qu’on lit sur Internet. Il faut savoir par exemple que la phase d’apprentissage de ChatGPT s’est terminée en 2021 ; l’outil s’appuie donc sur des données présentes sur le Web cette année-là. Par conséquent, les réponses exigeant des connaissances postérieures à cette date seront nécessairement erronées, obsolètes ou inventées.
« Selon Mme Ippolito, les gens devraient être attentifs aux incohérences subtiles ou aux erreurs factuelles dans des textes présentés comme des faits », rapporte Melissa. Nous en sommes tout à fait capables : les travaux de la chercheuse ont montré qu’avec de la pratique, les humains parviennent de mieux en mieux à repérer les contenus artificiels.
Source : MIT Technology Review
Comment utiliser le nouveau Dropbox ?
SOURCE: 01net.com Comment utiliser le nouveau Dropbox ? Le service de sauvegarde en ligne de fichiers revoit son interface et se transforme son espace de travail...
Lire la suite
Comment libérer de l’espace sur votre iPhone ?
SOURCE: 01net.com Faites le grand ménage sur votre iPhone et récupérez de l’espace en supprimant plusieurs gigaoctets de données inutiles. Les années passent et, malgré...
Lire la suite
Spotify exploite enfin le partage d’écran sur l’iPad
SOURCE: 01net.com Spotify a (enfin) mis à jour son application iPad. Le service de streaming audio peut désormais être utilisé en multitâche depuis la tablette...
Lire la suite
FaceApp, créée en Russie, inquiète les hauts responsables démocrates américains
SOURCE: ici.radio-canada.ca L’application développée en Russie FaceApp, actuellement au cœur d'une frénésie sur les réseaux sociaux, inquiète de nombreux politiciens démocrates à Washington, qui redoutent...
Lire la suite
Comment protéger les mots de passe stockés dans Chrome et Firefox
SOURCE: 01net.com Sécurisez les mots de passe stockés dans votre navigateur Web en configurant un mot de passe maître. Par facilité, un grand nombre d’internautes...
Lire la suite
La révolution Amazon fête ses 25 ans
SOURCE: ici.radio-canada.ca Le 5 juillet 1994, Amazon voyait le jour dans un garage de Seattle. Depuis, l’entreprise de vente en ligne de livres s’est transformée...
Lire la suite
L’inventeur du mot de passe informatique est mort
SOURCE: ici.radio-canada.ca Fernando Corbató, un pionnier de l’informatique, est mort à 93 ans, vendredi, des suites de complications liées au diabète. M. Corbató serait le premier...
Lire la suite
Windows 10 : Alexa pourra bientôt être activé depuis l’écran de verrouillage
SOURCE: 01net.com La prochaine mise à jour de Windows 10 offrira la possibilité aux assistants vocaux de tierce partie d'être appelés même si votre PC...
Lire la suite
Pourquoi il ne faut jamais faire confiance aux hotspots Wi-Fi
SOURCE: 01net.com Se connecter sur un point d’accès Wi-Fi inconnu présente des risques, même si l’on surfe sur des sites sécurisés en HTTPS. La situation...
Lire la suite
Les réseaux sociaux et la télévision amplifient la dépression des adolescents (mais pas les jeux vidéo)
SOURCE: 01net.com Une étude canadienne démontre que ce sont les réseaux sociaux et la télévision qui sont responsables de l'amplification de la dépression chez les...
Lire la suite
Neuralink : Elon Musk prêt à brancher un cerveau sur un ordinateur
SOURCE: 01net.com Neuralink veut tester son dispositif sur des humains dès 2020. - Neuralink La start-up Neuralink a déjà testé son dispositif sur des animaux...
Lire la suite
