Elon Musk et des experts en IA signent une lettre ouverte pour une pause immédiate de l’IA plus puissante que GPT-4

La lettre ouverte compte actuellement plus d’un millier de signataires, dont le PDG de Stability AI Emad Mostaque, Steve Wozniak, le professeur Marcus à l’Université de New York et Elon Musk.

Une lettre conjointe signée par plus d’un millier de personnes influentes appelant au blocage de toute intelligence artificielle (IA) plus puissante que GPT-4 a été rendue publique mercredi.

Plus de 1 000 personnes influentes ont affirmé avoir exigé une suspension immédiate du développement de systèmes d’IA plus puissants que le GPT-4, avec un « moratoire » minimum de 6 mois, une interdiction temporaire, selon la lettre.

« Nous appelons tous les laboratoires d’IA à suspendre immédiatement pendant au moins six mois la formation des systèmes d’IA plus puissants que GPT-4. Cette pause doit être publique et vérifiable et inclure tous les acteurs clés », lit-on dans la lettre. 

« Si une telle pause ne peut pas être décrétée rapidement, les gouvernements devraient intervenir et instituer un moratoire. » 

Selon la lettre ouverte, de nombreuses recherches ont démontré que les systèmes d’IA dotés d’une intelligence humaine compétitive approuvés par les principaux instituts d’IA peuvent représenter de graves dangers pour la société et les personnes.

La lettre a reçu 1125 signatures depuis sa publication sur Future of Life (FLI), une organisation à but non lucratif qui s’efforce de réduire les risques catastrophiques et existentiels mondiaux auxquels l’humanité est confrontée, en particulier le risque existentiel de l’IA avancée.

« Un gros problème :  @elonmusk , Y. Bengio, S. Russell, @tegmark , V. Kraknova, P. Maes, @Grady_Booch , @AndrewYang , @tristanharris et plus de 1 000 autres, dont moi , ont appelé à une pause temporaire sur les systèmes de formation dépassant GPT-4″, a tweeté mercredi Gary Marcus, scientifique et voix de premier plan dans le domaine de l’IA. 

S’inquiète de l’expansion des capacités de l’IA 

Les capacités des systèmes d’IA se développent rapidement car il y a plus de données et de puissance de calcul. Les grands modèles sont de plus en plus capables de surpasser les humains dans de nombreux domaines. Ce que cela implique pour nos sociétés ne peut être prédit par une seule entreprise, raisonne la lettre. 

« Prenons un exemple : vous pouvez utiliser un modèle d’IA destiné à découvrir de nouveaux médicaments pour créer des agents pathogènes à la place », a écrit FIL sur Twitter, annonçant  la lettre . 

« Ce modèle générera rapidement plus de 40 000 agents pathogènes – dont le VX, l’agent neurotoxique le plus meurtrier de tous les temps – en environ six heures. »

L’institut faisait référence à une conférence internationale sur la sécurité qui a examiné l’exploitation potentielle des technologies d’IA pour la découverte de médicaments afin de créer des armes biologiques à partir de zéro. « Une expérience de pensée s’est transformée en une preuve informatique », l’article de la revue Nature cité par FIL dans le fil de  tweets  pour affirmer la gravité du problème. 

Avec l’IA, l’humanité peut espérer un avenir prospère. Nous pouvons maintenant vivre un «été d’IA» dans lequel nous récoltons les bénéfices, concevons ces systèmes pour l’avantage évident de tous et laissons à la société le temps de s’adapter après avoir développé avec succès des systèmes d’IA robustes, note la lettre. 

« La société a fait une pause sur d’autres technologies avec des effets potentiellement catastrophiques sur la société », conclut la lettre. « Nous pouvons le faire ici. Profitons d’un long été d’IA, ne nous précipitons pas sans préparation dans une chute. »

Windows 11 : la nouvelle version d’Outlook est désormais disponible pour tous les utilisateurs
Informatique

Windows 11 : la nouvelle version d’Outlook est désormais disponible pour tous les utilisateurs

Microsoft vient d’officialiser la disponibilité de la nouvelle mouture de son client de messagerie pour tous les utilisateurs, même ceux disposant d’un compte personnel. Après...
Lire la suite
L’erreur fatale de Google Maps : le GPS a dirigé un conducteur sur un pont en ruines
Divers Téléphone mobile

L’erreur fatale de Google Maps : le GPS a dirigé un conducteur sur un pont en ruines

Google Maps a commis une grave erreur de navigation. L’application GPS a guidé un automobiliste vers une route impraticable, qui aboutit sur un pont en...
Lire la suite
Microsoft va faire le plein de nouveautés dans Microsoft 365
Informatique

Microsoft va faire le plein de nouveautés dans Microsoft 365

La firme de Redmond vient de mettre à jour en ligne son planning de déploiement des nouveautés pour Microsoft 365. Le programme, particulièrement chargé, intègre...
Lire la suite
25 astuces pour maîtriser Google Maps comme un pro!
Astuces Divers

25 astuces pour maîtriser Google Maps comme un pro!

Google Maps intègre une multitude d’options et de fonctionnalités très souvent méconnues. Devenez un expert dans l’utilisation de l’application GPS de Google en maîtrisant tous...
Lire la suite
Vous n’êtes pas prêts, mais votre téléphone intelligent pourrait accueillir 32 Go de RAM
Téléphone mobile

Vous n’êtes pas prêts, mais votre téléphone intelligent pourrait accueillir 32 Go de RAM

Vous pensiez que votre smartphone était déjà assez véloce avec ses 8 ou 12 Go de RAM ? Détrompez-vous, certains constructeurs visent déjà les 32 Go...
Lire la suite
Windows 10 n’est pas compatible Wi-Fi 7, Windows 11 va vraiment devenir obligatoire
Informatique

Windows 10 n’est pas compatible Wi-Fi 7, Windows 11 va vraiment devenir obligatoire

Les utilisateurs qui utilisent encore Windows 10, et ils sont toujours aussi nombreux, vont devoir faire un choix. Le Wi-Fi 7, la nouvelle norme de...
Lire la suite
Le docteur en électrotechnique John Warnock, père d’Adobe et du fichier PDF, est décédé
Divers Informatique

Le docteur en électrotechnique John Warnock, père d’Adobe et du fichier PDF, est décédé

Avant de se retirer du poste de PDG d’Adobe, John Warnock avait lancé Photoshop, Illustrator, et imaginé le PDF. Dans les années 60, en plus...
Lire la suite
Windows 11 : comment dépanner le PC d’un proche à distance ?
Astuces Informatique

Windows 11 : comment dépanner le PC d’un proche à distance ?

Prenez le contrôle de la machine d’un proche directement depuis votre ordinateur pour lui porter assistance ou le dépanner. Vous ne le savez peut-être pas,...
Lire la suite
Intel et « la chute » : des milliards de processeurs ont une grave faille de sécurité
Informatique Sécurité informatique

Intel et « la chute » : des milliards de processeurs ont une grave faille de sécurité

Des milliards de processeurs conçus par Intel souffrent d’une sérieuse faille de sécurité. Baptisée « Downfall », cette vulnérabilité permet à un pirate de voler des informations...
Lire la suite
Microsoft est sur le point de régler un des plus gros défauts d’Outlook
Divers Informatique

Microsoft est sur le point de régler un des plus gros défauts d’Outlook

La firme de Redmond vient de mettre à jour son planning de déploiement de mises à jour pour ses applications Microsoft 365. Parmi les nouveautés...
Lire la suite
Meta lance AudioCraft, l’IA qui menace de remplacer les musiciens
Divers Technologie

Meta lance AudioCraft, l’IA qui menace de remplacer les musiciens

Meta vient d’annoncer AudioCraft, une suite d’outils basés sur l’intelligence artificielle. Composée de trois modèles d’IA différents, elle permet de générer des musiques et des...
Lire la suite
La Russie passe une loi qui tue l’anonymat sur Internet
Divers Sécurité informatique

La Russie passe une loi qui tue l’anonymat sur Internet

Approuvée par Vladimir Poutine, une nouvelle loi russe impose des règles empêchant l'anonymat sur Internet au sein du pays. Chaque citoyen devra être clairement identifié...
Lire la suite
Windows 11 : cette fonction cachée permet de faire un redémarrage d’urgence à votre PC
Astuces Informatique

Windows 11 : cette fonction cachée permet de faire un redémarrage d’urgence à votre PC

Microsoft a conservé dans ses derniers systèmes d’exploitation une fonction de redémarrage d’urgence secrète héritée d’une très ancienne version de Windows. Si vous utilisez Windows...
Lire la suite
Windows 11 améliore l’explorateur de fichiers et s’offre pas mal de nouveautés
Informatique

Windows 11 améliore l’explorateur de fichiers et s’offre pas mal de nouveautés

Windows 11 continue de s’améliorer en introduisant plusieurs nouveautés, dont une refonte de l’interface de l’explorateur de fichiers. Microsoft dévoile en images les changements apportés...
Lire la suite
Twitter dit adieu à son célèbre oiseau
Divers Réseaux sociaux

Twitter dit adieu à son célèbre oiseau

Elon Musk a dévoilé lundi un nouveau logo « X » noir et blanc pour remplacer le célèbre oiseau bleu de Twitter. Il s'agit d'un autre changement...
Lire la suite
La dernière mise à jour de Windows peut empêcher les applications Office de s’ouvrir
Divers Informatique Sécurité informatique

La dernière mise à jour de Windows peut empêcher les applications Office de s’ouvrir

Microsoft vient de confirmer la présence d’un vilain bug dans la dernière mise à jour de son système d’exploitation. Le Patch Tuesday déployé à la...
Lire la suite
Windows 10, 11 : la dernière mise à jour provoque un bug qui empêche d’utiliser Outlook et Word
Informatique Sécurité informatique

Windows 10, 11 : la dernière mise à jour provoque un bug qui empêche d’utiliser Outlook et Word

Le dernier Patch Tuesday a introduit un bug très gênant pour certains utilisateurs professionnels de Windows 11. Il empêchait l’utilisation de plusieurs applications d’Office. Si...
Lire la suite
TikTok va se lancer dans le commerce en ligne pour concurrencer le géant Amazon
Divers Réseaux sociaux

TikTok va se lancer dans le commerce en ligne pour concurrencer le géant Amazon

À en croire Semafor, TikTok pourrait très prochainement inaugurer une section de vente en ligne dans son application américaine. Le projet semble bien avancé, puisque...
Lire la suite
Grâce à ChatGPT, Jésus répond désormais à toutes vos questions sur Twitch
Divers Insolite

Grâce à ChatGPT, Jésus répond désormais à toutes vos questions sur Twitch

On a du mal à croire que l’on écrit ces lignes et pourtant : vous pouvez désormais vos questions les plus existentielles (et toutes les autres)...
Lire la suite
Voici combien d’utilisateurs Android passent à l’iPhone, et inversement
Téléphone mobile

Voici combien d’utilisateurs Android passent à l’iPhone, et inversement

Une nouvelle étude menée par CIRP donne enfin le pourcentage de personnes qui sont passées d’Android à iOS (et inversement) ces 12 derniers mois. Des...
Lire la suite
1 2 3 33