Elon Musk et des experts en IA signent une lettre ouverte pour une pause immédiate de l’IA plus puissante que GPT-4

La lettre ouverte compte actuellement plus d’un millier de signataires, dont le PDG de Stability AI Emad Mostaque, Steve Wozniak, le professeur Marcus à l’Université de New York et Elon Musk.

Une lettre conjointe signée par plus d’un millier de personnes influentes appelant au blocage de toute intelligence artificielle (IA) plus puissante que GPT-4 a été rendue publique mercredi.

Plus de 1 000 personnes influentes ont affirmé avoir exigé une suspension immédiate du développement de systèmes d’IA plus puissants que le GPT-4, avec un “moratoire” minimum de 6 mois, une interdiction temporaire, selon la lettre.

“Nous appelons tous les laboratoires d’IA à suspendre immédiatement pendant au moins six mois la formation des systèmes d’IA plus puissants que GPT-4. Cette pause doit être publique et vérifiable et inclure tous les acteurs clés”, lit-on dans la lettre. 

“Si une telle pause ne peut pas être décrétée rapidement, les gouvernements devraient intervenir et instituer un moratoire.” 

Selon la lettre ouverte, de nombreuses recherches ont démontré que les systèmes d’IA dotés d’une intelligence humaine compétitive approuvés par les principaux instituts d’IA peuvent représenter de graves dangers pour la société et les personnes.

La lettre a reçu 1125 signatures depuis sa publication sur Future of Life (FLI), une organisation à but non lucratif qui s’efforce de réduire les risques catastrophiques et existentiels mondiaux auxquels l’humanité est confrontée, en particulier le risque existentiel de l’IA avancée.

“Un gros problème :  @elonmusk , Y. Bengio, S. Russell, @tegmark , V. Kraknova, P. Maes, @Grady_Booch , @AndrewYang , @tristanharris et plus de 1 000 autres, dont moi , ont appelé à une pause temporaire sur les systèmes de formation dépassant GPT-4″, a tweeté mercredi Gary Marcus, scientifique et voix de premier plan dans le domaine de l’IA. 

S’inquiète de l’expansion des capacités de l’IA 

Les capacités des systèmes d’IA se développent rapidement car il y a plus de données et de puissance de calcul. Les grands modèles sont de plus en plus capables de surpasser les humains dans de nombreux domaines. Ce que cela implique pour nos sociétés ne peut être prédit par une seule entreprise, raisonne la lettre. 

« Prenons un exemple : vous pouvez utiliser un modèle d’IA destiné à découvrir de nouveaux médicaments pour créer des agents pathogènes à la place », a écrit FIL sur Twitter, annonçant  la lettre . 

“Ce modèle générera rapidement plus de 40 000 agents pathogènes – dont le VX, l’agent neurotoxique le plus meurtrier de tous les temps – en environ six heures.”

L’institut faisait référence à une conférence internationale sur la sécurité qui a examiné l’exploitation potentielle des technologies d’IA pour la découverte de médicaments afin de créer des armes biologiques à partir de zéro. “Une expérience de pensée s’est transformée en une preuve informatique”, l’article de la revue Nature cité par FIL dans le fil de  tweets  pour affirmer la gravité du problème. 

Avec l’IA, l’humanité peut espérer un avenir prospère. Nous pouvons maintenant vivre un «été d’IA» dans lequel nous récoltons les bénéfices, concevons ces systèmes pour l’avantage évident de tous et laissons à la société le temps de s’adapter après avoir développé avec succès des systèmes d’IA robustes, note la lettre. 

“La société a fait une pause sur d’autres technologies avec des effets potentiellement catastrophiques sur la société”, conclut la lettre. “Nous pouvons le faire ici. Profitons d’un long été d’IA, ne nous précipitons pas sans préparation dans une chute.”

Les écouteurs sans fil de Samsung pourront traduire en direct grâce à l’IA
Divers Technologie

Les écouteurs sans fil de Samsung pourront traduire en direct grâce à l’IA

Une petite révolution s’opère doucement grâce aux IA génératives, et celle-ci se mesurera sans doute via des petites fonctionnalités comme celle que Samsung vient d’annoncer....
Lire la suite
Windows : un dangereux virus que (presque) rien n’arrête cible les PC
Sécurité informatique

Windows : un dangereux virus que (presque) rien n’arrête cible les PC

Une nouvelle menace se répand sur certaines machines fonctionnant sous Windows. Ce malware, répondant au nom de Phemedrone Stealer, s’attaque aux données les plus sensibles,...
Lire la suite
Windows 11 prendra bientôt en charge l’USB 4 à 80 Gbit/s
Informatique Technologie

Windows 11 prendra bientôt en charge l’USB 4 à 80 Gbit/s

La dernière build de Windows 11 publiée par Microsoft introduit la prise en charge de la dernière norme USB 4 2.0, un standard capable d’offrir...
Lire la suite
Ce PC Asus avec deux écrans OLED veut séduire les pros
Technologie

Ce PC Asus avec deux écrans OLED veut séduire les pros

Asus lance un PC doté de deux écrans OLED. Jusqu’ici, la marque taïwainaise réservait ses Zenbook DUO à des configurations musclées avec une carte graphique...
Lire la suite
Des batteries quantiques chargées en défiant la causalité et notre notion du temps
Technologie

Des batteries quantiques chargées en défiant la causalité et notre notion du temps

Des chercheurs révèlent pour la première fois que la performance des batteries quantiques pourrait être considérablement améliorée en exploitant leur capacité à ignorer la notion...
Lire la suite
Une petite révolution se prépare dans la RAM de nos ordinateurs portables
Technologie

Une petite révolution se prépare dans la RAM de nos ordinateurs portables

Un nouveau standard de mémoire est en cours de développement. Il promet de changer beaucoup de choses dans la mémoire vive pour les PC portables,...
Lire la suite
Vous pouvez désormais dicter vos e-mails dans Outlook
Informatique

Vous pouvez désormais dicter vos e-mails dans Outlook

Microsoft vient d’introduire une fonction très pratique dans son client de messagerie. Vous pouvez à présent utiliser votre voix pour écrire vos e-mails dans la...
Lire la suite
Windows 11 : Microsoft teste un nouveau mode d’économie d’énergie pour les PC portables et fixes
Divers Informatique

Windows 11 : Microsoft teste un nouveau mode d’économie d’énergie pour les PC portables et fixes

La dernière build insider de Windows 11 introduit un nouveau mode d’économie d’énergie. Plus avancé que le système déjà existant, celui-ci propose de réduire la...
Lire la suite
Samsung lance son navigateur Web sur les PC Windows
Informatique

Samsung lance son navigateur Web sur les PC Windows

Samsung Internet, le navigateur Web natif des smartphones Samsung, est maintenant disponible dans une déclinaison pour Windows. Après avoir proposé nativement son navigateur Web sur...
Lire la suite
Ce malware redoutable peut accéder à votre compte Gmail, et Google n’a pas de solution
Sécurité informatique

Ce malware redoutable peut accéder à votre compte Gmail, et Google n’a pas de solution

Un chercheur de la firme de cybersécurité Hudon Rock a repéré l'apparition d'une mise à jour de Lumma Stealer, qui rend ce malware voleur d'informations...
Lire la suite
Windows 11 : la dernière mise à jour contient pas mal de bugs gênants
Sécurité informatique

Windows 11 : la dernière mise à jour contient pas mal de bugs gênants

Le dernier “patch tuesday” de Windows 11 a engendré des bugs chez plusieurs utilisateurs, dont certains particulièrement pénibles. Si possible, attendez avant de lancer l'installation...
Lire la suite
Google révolutionne les prévisions météo grâce à l’IA
Technologie

Google révolutionne les prévisions météo grâce à l’IA

Google Deepmind a trouvé le moyen de révolutionner le monde des prévisions météorologiques. Pour améliorer les prédictions, la filiale s’appuie sur GraphCast, un modèle d’IA...
Lire la suite
Nvidia pourrait présenter la RTX 4080 Super début janvier
Jeux Vidéo Technologie

Nvidia pourrait présenter la RTX 4080 Super début janvier

Les joueurs sont sur le qui-vive. Nvidia devrait en effet dévoiler début janvier de nouvelles cartes graphiques à l’occasion d’une keynote qui se tiendra au...
Lire la suite
Microsoft va faire le plein de nouvelles fonctionnalités dans Outlook
Divers Informatique

Microsoft va faire le plein de nouvelles fonctionnalités dans Outlook

La firme de Redmond a dévoilé une liste des nombreuses nouveautés à venir dans la nouvelle version d’Outlook. La plupart de ces nouvelles fonctions arriveront...
Lire la suite
6 astuces pour maîtriser OneDrive comme un pro
Astuces

6 astuces pour maîtriser OneDrive comme un pro

Le service de stockage en ligne de Microsoft est plein de petites fonctionnalités qui, lorsqu’elles sont parfaitement maîtrisées, vous permettront d’en tirer pleinement profit. Petit...
Lire la suite
Microsoft vient-il de tuer WinRAR avec Windows 11 ?
Informatique

Microsoft vient-il de tuer WinRAR avec Windows 11 ?

Ça y est : Windows 11 22H2 prend en charge de nouveaux formats d'archives, dont RAR et 7-Zip. Cela sonne-t-il le glas pour WinRAR, le logiciel...
Lire la suite
Une GeForce RTX 4060 Ti chez Asus… avec un connecteur pour SSD
Jeux Vidéo Technologie

Une GeForce RTX 4060 Ti chez Asus… avec un connecteur pour SSD

Asus vient de lancer un modèle assez original de carte graphique. Il s’agit d’une GeForce RTX 4060 Ti relativement classique, mais avec une surprise : la...
Lire la suite
12 applications Android à désinstaller d’urgence de votre téléphone
Sécurité informatique Téléphone mobile

12 applications Android à désinstaller d’urgence de votre téléphone

Plusieurs applications malveillantes qui se trouvaient sur le Google Play ont été installées plus de 2 millions de fois sur des smartphones et des tablettes...
Lire la suite
Nvidia préparerait une 4080 Super, une future version « Ti » ?
Jeux Vidéo

Nvidia préparerait une 4080 Super, une future version « Ti » ?

Selon plusieurs sources proches de Nvidia, le constructeur travaillerait actuellement sur un rafraîchissement de sa gamme de GPU sur la génération Ada Lovelace, comprenant entre...
Lire la suite
Apple dépenserait actuellement « dans le silence » des milliards pour le développement de son IA
Technologie

Apple dépenserait actuellement « dans le silence » des milliards pour le développement de son IA

Apple prévoit de transformer nombre de ses produits et de ses applications par l’ajout d’une nouvelle IA, visant à améliorer l’expérience utilisateur. Si la sortie...
Lire la suite
1 2 3 35