Claude, l’IA qui vient concurrencer ChatGPT ?

« Utile, inoffensif et honnête » : c’est en ces termes que se décrit « Claude », la nouvelle intelligence artificielle (IA) de l’entreprise Anthropic. Tout comme son cousin ChatGPT, le programme commence pourtant déjà à en inquiéter certains. Il vient notamment de réussir un examen de droit et d’économie corrigé à l’aveugle.

Plutôt bon élève, ce Claude… Si l’on exclut le fait qu’il ne s’agisse pas d’un humain, bien sûr. Pendant que l’IA ChatGPT était sous les feux de tous les projecteurs médiatiques, il se préparait discrètement à entrer en scène, à la fin de l’année 2022. Développé par l’entreprise Anthropic, il fonctionne au premier abord un peu de la même façon que ChatGPT de OpenAI. Il suffit de lui poser une question pour qu’il se mette à dialoguer, et apporter des réponses. Et celles-ci peuvent être conséquentes !

Afin de tester ses capacités, les chercheurs lui ont demandé de répondre à des questions issues d’un examen de droit et d’économie. La copie obtenue à partir de cette demande a été corrigée à l’aveugle parmi d’autres copies, à la George Mason University. Elle est parvenue à obtenir une note la qualifiant pour passer l’examen. Alex Tabarrok, professeur d’économie, a publié l’une de ses réponses sur son blog. « La plus impressionnante », selon lui. Elle portait sur une question de droit de la propriété intellectuelle. L’IA devait formuler des recommandations pour des modifications de loi. « Globalement, l’objectif devrait être de rendre les lois sur la propriété intellectuelle moins restrictives et de mettre plus d’œuvres à la disposition du public plus tôt », a conclu Claude. « Mais il est important de continuer à fournir des incitations et des compensations aux créateurs pendant une période limitée. »

Même si ce professeur lui a reconnu une réponse « meilleure que celles de bien des humains », certains se montrent plus critiques. On peut voir dans les commentaires de l’article de multiples internautes qui soulignent le fait que l’IA se contredit elle-même dans certaines réponses. « Pour être honnête, on dirait que Claude a simplement consommé et vomi un rapport McKinsey », critique aussi le Financial Times.

Une IA constitutionnelle

Claude fait-il donc beaucoup de bruit pour rien ? Pas nécessairement. En réalité, les scientifiques l’ont conçue dans l’idée de travailler sur l’idée d’une « IA constitutionnelle ». C’est donc là que résident les principales avancées des chercheurs.

Alors, qu’est-ce qu’une IA constitutionnelle, et quel est son intérêt ? « Souvent, les modèles linguistiques formés pour être ‘inoffensifs’ ont tendance à devenir inutiles face à des questions contradictoires », explique l’entreprise dans un tweet de décembre. « Nous expérimentons des méthodes pour former un assistant IA inoffensif par l’auto-amélioration, sans aucune étiquette humaine identifiant les sorties nocives », expliquent-ils. « Le processus implique à la fois un apprentissage supervisé et une phase d’apprentissage par renforcement ».

Autrement dit, cette IA serait capable d’identifier lorsqu’un propos est, par exemple, discriminant, par un auto-apprentissage, en suivant non pas un étiquetage fait par des humains, mais plutôt de grands principes : une « constitution », en somme. Au-delà de cette différence, Claude constitue un sérieux concurrent à ChatGPT. L’entreprise Scale, qui travaille sur le développement d’applications basées sur des IA, a entrepris de les tester sur les mêmes types de demandes. Entre autres constats, il en ressort que Claude a davantage tendance à se rendre compte de quand il est inexact : en revanche, il est moins bon que ChatGPT pour écrire du code informatique. Les deux IA montrent toutefois encore toutes deux des faiblesses, se trompant sur des réponses, ou allant parfois jusqu’à inventer des faits. ChatGPT, comme Claude, rencontre par exemple des difficultés à résumer les différentes saisons de la série Lost sans affabuler. Mais peut-on vraiment leur en vouloir pour ça ? « Il semble que, comme la plupart des téléspectateurs humains de l’émission, la mémoire de ChatGPT et de Claude de Lost est au mieux floue », concluent les testeurs de Scale, non sans un certain humour.

Microsoft dévoilera bientôt « la plus importante mise à jour de Windows de la décennie »
Informatique

Microsoft dévoilera bientôt « la plus importante mise à jour de Windows de la décennie »

Le système d’exploitation de Microsoft devrait profiter d’une interface revue de fond en comble, d’une nouvelle version du Microsoft Store et probablement de plusieurs nouveautés...
Lire la suite
Cryptomonnaies : les blockchains, réputées inviolables, sont bien vulnérables au piratage
Sécurité informatique

Cryptomonnaies : les blockchains, réputées inviolables, sont bien vulnérables au piratage

L’essor des cryptomonnaies est principalement basé sur la confiance qu’ont les utilisateurs dans le concept de la blockchain. La complexité du protocole et son processus de vérification...
Lire la suite
Apple dépose un brevet pour afficher des contenus 3D sans lunettes 3D
Technologie

Apple dépose un brevet pour afficher des contenus 3D sans lunettes 3D

Un brevet d'Apple montre une technologie pour changer la façon dont les pixels d'un écran sont contrôlés lors de l'affichage d'images séparées pour chaque oeil....
Lire la suite
Tesla n’acceptera plus les bitcoins, trop polluants selon Elon Musk
Divers Informatique Insolite

Tesla n’acceptera plus les bitcoins, trop polluants selon Elon Musk

Elon Musk a annoncé mercredi que Tesla, son entreprise de véhicules électriques, n'acceptait plus le bitcoin comme moyen de paiement, par souci de préservation de...
Lire la suite
La nouvelle puce 2 nm d’IBM pourrait réduire la consommation d’énergie de 75%
Technologie

La nouvelle puce 2 nm d’IBM pourrait réduire la consommation d’énergie de 75%

Les exploits dans le domaine des microprocesseurs continuent, et ce malgré le fait que les fameuses lois de Moore — qui veulent un doublement du...
Lire la suite
Bill et Melinda Gates : la fin d’un couple mythique de la tech
Divers Informatique

Bill et Melinda Gates : la fin d’un couple mythique de la tech

Le couple se sépare après 27 ans de vie et de travail en commun. Mais ils continueront à œuvrer ensemble à leur fondation philanthropique. Bill...
Lire la suite
Facebook présente un nouveau mini-lecteur qui diffuse Spotify à partir de l’application Facebook
Divers Réseaux sociaux

Facebook présente un nouveau mini-lecteur qui diffuse Spotify à partir de l’application Facebook

Facebook a annoncé la semaine dernière un partenariat élargi avec le service de musique en streaming Spotify qui apporterait une nouvelle façon d'écouter de la musique ou...
Lire la suite
Mystère : pourquoi le Pentagone a-t-il activé 175 millions d’adresses IPv4 ?
Divers Informatique Technologie

Mystère : pourquoi le Pentagone a-t-il activé 175 millions d’adresses IPv4 ?

L’armée américaine détient le plus grand stock d’adresses IPv4 au monde, mais n’en utilisait qu’une petite fraction. Jusqu’à maintenant. Depuis le 20 janvier 2021, un...
Lire la suite
10 astuces pour accélérer votre PC sous Windows 10
Informatique

10 astuces pour accélérer votre PC sous Windows 10

Un ordinateur qui fonctionne au ralenti n’est pas forcément synonyme d’une fin de vie. Avant d’investir dans une nouvelle machine, vous pouvez toujours tenter de...
Lire la suite
Des pirates rançonnent la police de Washington DC
Sécurité informatique

Des pirates rançonnent la police de Washington DC

Ils menacent de publier les données sur les informateurs des forces de l’ordre si leur demande de rançon n’est pas respectée. Voilà des pirates qui...
Lire la suite
Microsoft veut que vous fassiez une pause entre deux réunions
Informatique

Microsoft veut que vous fassiez une pause entre deux réunions

Le logiciel de messagerie Outlook va être mis à jour pour permettre aux entreprises de prévoir automatiquement un temps de pause entre plusieurs réunions. Microsoft...
Lire la suite
La 5G ne serait pas plus dangereuse pour la santé que la 4G
Divers Technologie

La 5G ne serait pas plus dangereuse pour la santé que la 4G

Il n'y aurait pas de risques nouveaux pour la santé avec la 5G, d'après l'Anses. Des études complémentaires devront toutefois être menées concernant les bandes...
Lire la suite
Cryptomonnaies : la future RTX 3080Ti sera bridée pour éviter le minage
Divers Technologie

Cryptomonnaies : la future RTX 3080Ti sera bridée pour éviter le minage

Nvidia serait en train de réviser son architecture « Ampère » pour limiter l’usage de ses puces graphiques dans le minage des cryptomonnaies. Dans le jeu du...
Lire la suite
Microsoft Edge inaugure un mode de navigation dédié aux enfants
Informatique

Microsoft Edge inaugure un mode de navigation dédié aux enfants

La dernière mise à jour du navigateur Web de Microsoft profite d’un nouveau mode de navigation destiné aux plus jeunes. Il embarque SafeSearch par défaut...
Lire la suite
Le FBI pirate à distance des centaines d’ordinateurs pour les protéger de Hafnium
Divers Sécurité informatique

Le FBI pirate à distance des centaines d’ordinateurs pour les protéger de Hafnium

Ils sont entrés dans des ordinateurs non protégés pour éliminer la menace Dans ce qui est considéré comme une mesure sans précédent, le FBI tente...
Lire la suite
Windows : Microsoft corrige 108 failles de sécurité dont 5 zero-day
Sécurité informatique

Windows : Microsoft corrige 108 failles de sécurité dont 5 zero-day

Dans le cadre de son Patch Tuesday, l'éditeur met fin à cinq vulnérabilités de type zero-day et en profite pour corriger des failles dans son...
Lire la suite
3 astuces pour redonner une utilité à vos anciens téléphones intelligents
Astuces Téléphone mobile

3 astuces pour redonner une utilité à vos anciens téléphones intelligents

Videz vos tiroirs et offrez une seconde vie aux téléphones intelligents que vous n’utilisez plus en les transformant en objets utiles pour votre quotidien. On...
Lire la suite
Android veut que vous arrêtiez de texter en marchant
Divers Téléphone mobile

Android veut que vous arrêtiez de texter en marchant

Des téléphones intelligents Android sont dotés d’une nouvelle fonction appelée Heads Up qui incite les propriétaires de ces appareils à lever les yeux en marchant,...
Lire la suite
TheOldNet, un proxy pour remonter le temps et surfer comme dans les années 90
Informatique

TheOldNet, un proxy pour remonter le temps et surfer comme dans les années 90

Explorez le Web de 1996 à 2012 à l’aide d’un serveur proxy capable de vous renvoyer des pages web archivées sur Archive.org. Que diriez-vous de...
Lire la suite
Ce singe joue à l’ordinateur grâce à une puce implantée dans son cerveau
Informatique Technologie

Ce singe joue à l’ordinateur grâce à une puce implantée dans son cerveau

C’est la première fois que Neuralink, une société créée par Elon Musk, fait une démonstration de sa technologie. Neuralink vient de publier une vidéo qui...
Lire la suite