Elon Musk et des experts en IA signent une lettre ouverte pour une pause immédiate de l’IA plus puissante que GPT-4

La lettre ouverte compte actuellement plus d’un millier de signataires, dont le PDG de Stability AI Emad Mostaque, Steve Wozniak, le professeur Marcus à l’Université de New York et Elon Musk.

Une lettre conjointe signée par plus d’un millier de personnes influentes appelant au blocage de toute intelligence artificielle (IA) plus puissante que GPT-4 a été rendue publique mercredi.

Plus de 1 000 personnes influentes ont affirmé avoir exigé une suspension immédiate du développement de systèmes d’IA plus puissants que le GPT-4, avec un « moratoire » minimum de 6 mois, une interdiction temporaire, selon la lettre.

« Nous appelons tous les laboratoires d’IA à suspendre immédiatement pendant au moins six mois la formation des systèmes d’IA plus puissants que GPT-4. Cette pause doit être publique et vérifiable et inclure tous les acteurs clés », lit-on dans la lettre. 

« Si une telle pause ne peut pas être décrétée rapidement, les gouvernements devraient intervenir et instituer un moratoire. » 

Selon la lettre ouverte, de nombreuses recherches ont démontré que les systèmes d’IA dotés d’une intelligence humaine compétitive approuvés par les principaux instituts d’IA peuvent représenter de graves dangers pour la société et les personnes.

La lettre a reçu 1125 signatures depuis sa publication sur Future of Life (FLI), une organisation à but non lucratif qui s’efforce de réduire les risques catastrophiques et existentiels mondiaux auxquels l’humanité est confrontée, en particulier le risque existentiel de l’IA avancée.

« Un gros problème :  @elonmusk , Y. Bengio, S. Russell, @tegmark , V. Kraknova, P. Maes, @Grady_Booch , @AndrewYang , @tristanharris et plus de 1 000 autres, dont moi , ont appelé à une pause temporaire sur les systèmes de formation dépassant GPT-4″, a tweeté mercredi Gary Marcus, scientifique et voix de premier plan dans le domaine de l’IA. 

S’inquiète de l’expansion des capacités de l’IA 

Les capacités des systèmes d’IA se développent rapidement car il y a plus de données et de puissance de calcul. Les grands modèles sont de plus en plus capables de surpasser les humains dans de nombreux domaines. Ce que cela implique pour nos sociétés ne peut être prédit par une seule entreprise, raisonne la lettre. 

« Prenons un exemple : vous pouvez utiliser un modèle d’IA destiné à découvrir de nouveaux médicaments pour créer des agents pathogènes à la place », a écrit FIL sur Twitter, annonçant  la lettre . 

« Ce modèle générera rapidement plus de 40 000 agents pathogènes – dont le VX, l’agent neurotoxique le plus meurtrier de tous les temps – en environ six heures. »

L’institut faisait référence à une conférence internationale sur la sécurité qui a examiné l’exploitation potentielle des technologies d’IA pour la découverte de médicaments afin de créer des armes biologiques à partir de zéro. « Une expérience de pensée s’est transformée en une preuve informatique », l’article de la revue Nature cité par FIL dans le fil de  tweets  pour affirmer la gravité du problème. 

Avec l’IA, l’humanité peut espérer un avenir prospère. Nous pouvons maintenant vivre un «été d’IA» dans lequel nous récoltons les bénéfices, concevons ces systèmes pour l’avantage évident de tous et laissons à la société le temps de s’adapter après avoir développé avec succès des systèmes d’IA robustes, note la lettre. 

« La société a fait une pause sur d’autres technologies avec des effets potentiellement catastrophiques sur la société », conclut la lettre. « Nous pouvons le faire ici. Profitons d’un long été d’IA, ne nous précipitons pas sans préparation dans une chute. »

Microsoft mettra fin au support de Windows 10, quelles sont les implications?
Informatique

Microsoft mettra fin au support de Windows 10, quelles sont les implications?

À partir du mois d'octobre 2025, Microsoft cessera le support de son système d'exploitation Windows 10 Famille et Pro pour ordinateurs de bureau et portable....
Lire la suite
iOS 18 et ses 250 nouveautés sont maintenant disponibles pour tous
Divers Téléphone mobile

iOS 18 et ses 250 nouveautés sont maintenant disponibles pour tous

Avec ses plus de 250 nouveautés, iOS 18 est un gros morceau ! La version finale du système d’exploitation des iPhone est désormais disponible pour tous...
Lire la suite
Android 15 : même avec votre code secret, les voleurs n’auront plus accès à vos données
Sécurité informatique Téléphone mobile

Android 15 : même avec votre code secret, les voleurs n’auront plus accès à vos données

Google s’apprête à déployer une fonctionnalité de sécurité pour Android 15 qui va permettre de protéger vos données personnelles en cas de vol de votre...
Lire la suite
Comment bien utiliser l’outil de correction de Microsoft Word ?
Astuces

Comment bien utiliser l’outil de correction de Microsoft Word ?

Relisez et corrigez un document sur Microsoft Word en affichant le suivi des modifications apportées et en y intégrant des commentaires. Le logiciel de traitement...
Lire la suite
Ransomware : les cybercriminels sont de plus en plus gourmands
Sécurité informatique

Ransomware : les cybercriminels sont de plus en plus gourmands

Les rançons demandées par les cybercriminels explosent à la hausse. Les attaques de ransomware ciblent de plus en plus de grandes entreprises et des secteurs...
Lire la suite
Pour pirater votre smartphone, les hackers ont deux nouvelles stratégies ultra redoutables
Sécurité informatique

Pour pirater votre smartphone, les hackers ont deux nouvelles stratégies ultra redoutables

Les cybercriminels innovent constamment pour tromper les utilisateurs de smartphones. En ce moment, les hackers s’appuient sur deux nouvelles tactiques pour pirater les smartphones Android...
Lire la suite
Le Wi-Fi 7 va-t-il nous rendre tous accros au sans-fil ?
Informatique Technologie

Le Wi-Fi 7 va-t-il nous rendre tous accros au sans-fil ?

Débit monstre, latence imperceptible, et stabilité à toute épreuve. Sur le papier, la promesse du Wi-Fi 7 est alléchante. Mais comme est-elle possible, et aussi,...
Lire la suite
Processeurs Intel instables : le correctif ne résoudra pas tous les problèmes
Informatique

Processeurs Intel instables : le correctif ne résoudra pas tous les problèmes

Les problèmes de stabilité des processeurs Core de 13e et 14e génération n’ont pas fini de hanter Intel et ses clients. Le correctif annoncé en...
Lire la suite
ChatGPT coûte très cher, OpenAI risque de manquer d’argent
Divers Informatique

ChatGPT coûte très cher, OpenAI risque de manquer d’argent

OpenAI peut-il réellement faire faillite ? Cela parait difficile à croire pour l’entreprise leader du marché de l’intelligence artificielle générative, avec ChatGPT. Mais l’entraînement des modèles...
Lire la suite
Windows 11 : comment désinstaller le panneau de widgets
Astuces

Windows 11 : comment désinstaller le panneau de widgets

Vous n’utilisez jamais le panneau de widgets intégré à Windows 11 ? Voici comment le faire disparaître pour de bon en quelques secondes. Une chose est...
Lire la suite
Windows 11 : l’Explorateur de fichiers pourra bientôt afficher les fichiers de votre téléphone Android
Téléphone mobile

Windows 11 : l’Explorateur de fichiers pourra bientôt afficher les fichiers de votre téléphone Android

Microsoft pourrait améliorer très bientôt la liaison entre votre PC et votre smartphone Android. Dans une prochaine mise à jour, Windows 11 vous permettra d’accéder...
Lire la suite
Pourquoi une vague de fuites de données menace de s’abattre sur le web
Sécurité informatique

Pourquoi une vague de fuites de données menace de s’abattre sur le web

Une grande entreprise spécialisée dans le cloud a été victime d’une intrusion. Les mots de passe de centaines de clients sont apparemment partagées en ligne...
Lire la suite
Ce portable à double écran Oled est si malin qu’on se demande pourquoi personne n’y avait pensé avant
Divers Technologie

Ce portable à double écran Oled est si malin qu’on se demande pourquoi personne n’y avait pensé avant

GPD a dévoilé un concept de PC à double écran doté d’une charnière à 360 degrés. Cela lui permet de se transformer à l’envi en...
Lire la suite
Android 15 : jusqu’à 3 heures d’autonomie en plus grâce à cette nouvelle optimisation
Divers Téléphone mobile

Android 15 : jusqu’à 3 heures d’autonomie en plus grâce à cette nouvelle optimisation

Android 15 va apporter son lot d’améliorations, dont une optimisation du temps de mise en veille qui va permettre d’allonger l’autonomie de la batterie des...
Lire la suite
Windows 11 : comment désactiver les publicités Microsoft sur votre PC
Astuces Informatique

Windows 11 : comment désactiver les publicités Microsoft sur votre PC

Le système d’exploitation de Microsoft affiche fréquemment et en différents endroits de Windows 11 des messages visant à promouvoir les produits de l’entreprise. Vous pouvez...
Lire la suite
Vous utilisez encore Windows XP en 2024 ? Voici pourquoi c’est une mauvaise idée
Sécurité informatique

Vous utilisez encore Windows XP en 2024 ? Voici pourquoi c’est une mauvaise idée

Un utilisateur a récemment réalisé une expérience pour démontrer les dangers d'utiliser une ancienne version de Windows. Les résultats de cette expérience sont alarmants et...
Lire la suite
Dell victime d’une cyberattaque : les données de 49 millions de clients ont été volées
Sécurité informatique

Dell victime d’une cyberattaque : les données de 49 millions de clients ont été volées

Dell a été visé par une cyberattaque. Un cybercriminel est parvenu à s’emparer d’une base de données concernant 49 millions des clients de la marque...
Lire la suite
Cette batterie sans lithium permet de recharger une voiture électrique en 1 minute seulement
Technologie

Cette batterie sans lithium permet de recharger une voiture électrique en 1 minute seulement

Un groupe de chercheurs a mis au point une batterie révolutionnaire, capable de se recharger en seulement une minute. De quoi supprimer le principal inconvénient...
Lire la suite
Le Japon développe le premier appareil 6G au monde, 20 fois plus rapide que la 5G
Technologie

Le Japon développe le premier appareil 6G au monde, 20 fois plus rapide que la 5G

Depuis 2021, les entreprises se sont associées pour faire progresser la technologie subterahertz, en anticipant l’arrivée de la 6G. Un groupe d'entreprises de télécommunications japonaises...
Lire la suite
Arrêtez de fermer les applications sur votre iPhone, sauf dans ce cas précis
Astuces Téléphone mobile

Arrêtez de fermer les applications sur votre iPhone, sauf dans ce cas précis

On vous explique pourquoi fermer une application sur votre iPhone peut s’avérer contre-productif. Contrairement à une croyance qui a la vie dure, fermer les applications...
Lire la suite
1 2 3 36