Elon Musk et des experts en IA signent une lettre ouverte pour une pause immédiate de l’IA plus puissante que GPT-4

La lettre ouverte compte actuellement plus d’un millier de signataires, dont le PDG de Stability AI Emad Mostaque, Steve Wozniak, le professeur Marcus à l’Université de New York et Elon Musk.

Une lettre conjointe signée par plus d’un millier de personnes influentes appelant au blocage de toute intelligence artificielle (IA) plus puissante que GPT-4 a été rendue publique mercredi.

Plus de 1 000 personnes influentes ont affirmé avoir exigé une suspension immédiate du développement de systèmes d’IA plus puissants que le GPT-4, avec un “moratoire” minimum de 6 mois, une interdiction temporaire, selon la lettre.

“Nous appelons tous les laboratoires d’IA à suspendre immédiatement pendant au moins six mois la formation des systèmes d’IA plus puissants que GPT-4. Cette pause doit être publique et vérifiable et inclure tous les acteurs clés”, lit-on dans la lettre. 

“Si une telle pause ne peut pas être décrétée rapidement, les gouvernements devraient intervenir et instituer un moratoire.” 

Selon la lettre ouverte, de nombreuses recherches ont démontré que les systèmes d’IA dotés d’une intelligence humaine compétitive approuvés par les principaux instituts d’IA peuvent représenter de graves dangers pour la société et les personnes.

La lettre a reçu 1125 signatures depuis sa publication sur Future of Life (FLI), une organisation à but non lucratif qui s’efforce de réduire les risques catastrophiques et existentiels mondiaux auxquels l’humanité est confrontée, en particulier le risque existentiel de l’IA avancée.

“Un gros problème :  @elonmusk , Y. Bengio, S. Russell, @tegmark , V. Kraknova, P. Maes, @Grady_Booch , @AndrewYang , @tristanharris et plus de 1 000 autres, dont moi , ont appelé à une pause temporaire sur les systèmes de formation dépassant GPT-4″, a tweeté mercredi Gary Marcus, scientifique et voix de premier plan dans le domaine de l’IA. 

S’inquiète de l’expansion des capacités de l’IA 

Les capacités des systèmes d’IA se développent rapidement car il y a plus de données et de puissance de calcul. Les grands modèles sont de plus en plus capables de surpasser les humains dans de nombreux domaines. Ce que cela implique pour nos sociétés ne peut être prédit par une seule entreprise, raisonne la lettre. 

« Prenons un exemple : vous pouvez utiliser un modèle d’IA destiné à découvrir de nouveaux médicaments pour créer des agents pathogènes à la place », a écrit FIL sur Twitter, annonçant  la lettre . 

“Ce modèle générera rapidement plus de 40 000 agents pathogènes – dont le VX, l’agent neurotoxique le plus meurtrier de tous les temps – en environ six heures.”

L’institut faisait référence à une conférence internationale sur la sécurité qui a examiné l’exploitation potentielle des technologies d’IA pour la découverte de médicaments afin de créer des armes biologiques à partir de zéro. “Une expérience de pensée s’est transformée en une preuve informatique”, l’article de la revue Nature cité par FIL dans le fil de  tweets  pour affirmer la gravité du problème. 

Avec l’IA, l’humanité peut espérer un avenir prospère. Nous pouvons maintenant vivre un «été d’IA» dans lequel nous récoltons les bénéfices, concevons ces systèmes pour l’avantage évident de tous et laissons à la société le temps de s’adapter après avoir développé avec succès des systèmes d’IA robustes, note la lettre. 

“La société a fait une pause sur d’autres technologies avec des effets potentiellement catastrophiques sur la société”, conclut la lettre. “Nous pouvons le faire ici. Profitons d’un long été d’IA, ne nous précipitons pas sans préparation dans une chute.”

MediaTek réalise le premier test réel en Wi-Fi 7, qui promet des débits potentiels de plus de 40 Gbits/s
Informatique Technologie

MediaTek réalise le premier test réel en Wi-Fi 7, qui promet des débits potentiels de plus de 40 Gbits/s

Le 802.11be, également connu sous son nom commercial de Wi-Fi 7, ne devrait pas arriver dans sa version finale avant 2024. Pourtant, MediaTek réalise déjà...
Lire la suite
Meta se dote du plus puissant « supercalculateur IA au monde » pour créer son métavers
Informatique Technologie

Meta se dote du plus puissant « supercalculateur IA au monde » pour créer son métavers

Doté d’une puissance de calcul de cinq exaflops et d’une capacité de stockage de 231 pétaoctets, ce monstre informatique permettra d’entraîner des algorithmes d’apprentissage avec des...
Lire la suite
Les hackers contournent l’authentification à deux facteurs avec outils de phishing
Sécurité informatique

Les hackers contournent l’authentification à deux facteurs avec outils de phishing

L’authentification à deux facteurs est-elle en passe de devenir obsolète face aux hackers qui améliorent continuellement leurs techniques d’attaque ? Cette défense semble ne plus...
Lire la suite
Microsoft déploie (enfin) sa fonction talkie-walkie dans Teams
Informatique Téléphone mobile

Microsoft déploie (enfin) sa fonction talkie-walkie dans Teams

L’application de visioconférence et de travail collaboratif de Microsoft inaugure une fonction talkie-walkie. Vous pouvez désormais discuter dans Teams avec vos collègues comme vous le...
Lire la suite
Ce « clavier » permet d’écrire à une vitesse surhumaine
Informatique

Ce « clavier » permet d’écrire à une vitesse surhumaine

En remplaçant les touches par 18 petits joysticks, le CharaChorder promet de considérablement accélérer la vitesse de frappe des utilisateurs. Ce qui peut être utile pour...
Lire la suite
Windows 11 : comment installer le nouveau Windows Media Player dès aujourd’hui
Informatique

Windows 11 : comment installer le nouveau Windows Media Player dès aujourd’hui

La nouvelle version de Windows Media Player, testée depuis novembre chez les Insiders, peut être installée dès aujourd’hui dans la version stable de Windows 11....
Lire la suite
CES 2022 : Razer dévoile ses nouveaux PC portables gaming
Informatique

CES 2022 : Razer dévoile ses nouveaux PC portables gaming

Le constructeur met à jour ses ordinateurs portables Blade 14, 15 et 17 pouces avec les nouveaux processeurs Intel et AMD Pour le CES 2022,...
Lire la suite
CES 2022 : Alienware présente son concept Nyx pour streamer vos jeux sur n’importe quel écran
Jeux Vidéo Technologie

CES 2022 : Alienware présente son concept Nyx pour streamer vos jeux sur n’importe quel écran

La filiale de Dell a montré un gros serveur domestique qui permet de diffuser les jeux PC et de passer facilement d'un écran à un...
Lire la suite
Windows 11 : ce logiciel gratuit ressuscite le glisser-déposer sur la barre des tâches
Informatique

Windows 11 : ce logiciel gratuit ressuscite le glisser-déposer sur la barre des tâches

Microsoft a supprimé dans Windows 11 la possibilité d’ouvrir rapidement un document à l’aide d’un glisser-déposer sur une application épinglée à la barre des tâches....
Lire la suite
Les meilleurs logiciels gratuits et indispensables pour Windows
Divers Informatique

Les meilleurs logiciels gratuits et indispensables pour Windows

Vous venez de faire l’acquisition d’un nouveau PC, ou vous avez tout juste formaté votre machine ? Retrouvez une sélection des logiciels gratuits et indispensables...
Lire la suite
Ces hackers pourraient pirater le module Wi-Fi de votre smartphone… en passant par le Bluetooth
Sécurité informatique Téléphone mobile

Ces hackers pourraient pirater le module Wi-Fi de votre smartphone… en passant par le Bluetooth

Un manque d’étanchéité entre les composants radio crée un nouveau vecteur d’attaque dans des milliards de terminaux. Pour l’instant, aucune parade n’est à l’horizon. Optimiser...
Lire la suite
La reconnaissance faciale et l’IA pour tracer les malades de la Covid-19 ? La Corée du Sud prend son risque
Divers Technologie

La reconnaissance faciale et l’IA pour tracer les malades de la Covid-19 ? La Corée du Sud prend son risque

Entre les atteintes à la vie privée et la poursuite de la flambée épidémique, la Corée du Sud a choisi. Le pays du Matin calme...
Lire la suite
Comment éviter de devenir une victime de rançongiciels
Sécurité informatique

Comment éviter de devenir une victime de rançongiciels

Les responsables de cybercriminalité se tournent de plus en plus vers l’utilisation de rançongiciels. Cette tactique lucrative consiste à tenir en otage les fichiers numériques...
Lire la suite
Le créateur des consoles NES et Super Nintendo, Masayuki Uemura, s’éteint
Jeux Vidéo

Le créateur des consoles NES et Super Nintendo, Masayuki Uemura, s’éteint

L’ingénieur et architecte principal des consoles de jeux vidéo Nintendo Entertainment System (NES) et Super Nintendo (SNES), Masayuki Uemura, est mort le 6 décembre à...
Lire la suite
Le pire cauchemar d’Apple s’est réalisé : la production d’iPhone s’est arrêtée… brièvement
Divers Téléphone mobile

Le pire cauchemar d’Apple s’est réalisé : la production d’iPhone s’est arrêtée… brièvement

Alors que les fêtes approchent, synonymes généralement de records de ventes, Apple est confrontée à une lourde pénurie de composants, qui touche aussi bien ses...
Lire la suite
Elon Musk affirme que ses puces cérébrales Neuralink seront testées sur des humains dès 2022
Divers Informatique Technologie

Elon Musk affirme que ses puces cérébrales Neuralink seront testées sur des humains dès 2022

Dans une interview donnée au Wall Street Journal, Elon Musk a fait allusion au projet Neuralink, et à de possibles expérimentations sur le cerveau humain dès l’année prochaine...
Lire la suite
Une batterie semi-liquide pour stocker les énergies renouvelables
Technologie

Une batterie semi-liquide pour stocker les énergies renouvelables

Une équipe de chercheurs du Massachusetts Institute of Technology (MIT) a créé un nouveau système de batterie semi-liquide capable de concurrencer les batteries les plus...
Lire la suite
Wi-Fi 7 : 3 questions sur le futur du Wi-Fi et sa promesse de débits colossaux
Technologie

Wi-Fi 7 : 3 questions sur le futur du Wi-Fi et sa promesse de débits colossaux

Il y a du changement pour le Wi-Fi. Une prochaine évolution majeure de la fameuse technologie de communication sans fil arrive. Appelée Wi-Fi 7, elle...
Lire la suite
Innovation : un appareil photo de la taille d’un grain de sel
Divers Technologie

Innovation : un appareil photo de la taille d’un grain de sel

Des chercheurs de l’université de Princeton et de Washington sont parvenus à créer un appareil photo si petit que sa taille peut être comparée à...
Lire la suite
Microsoft introduit un mode « super sécurisé » dans son navigateur Edge
Sécurité informatique

Microsoft introduit un mode « super sécurisé » dans son navigateur Edge

Il est désormais possible de limiter, voire d’arrêter, la compilation à la volée, qui est une importante source de failles de sécurité. Microsoft a intégré...
Lire la suite