Anthropic lance le puissant modèle d’IA Mythos, disponible en essai uniquement pour des partenaires de sécurité

Anthropic a lancé Mythos, son modèle d’IA le plus puissant à ce jour, actuellement limité à certains partenaires de sécurité, et qui a démontré une capacité remarquable à découvrir des milliers de vulnérabilités zero-day de longue date.​

Anthropic dévoile le modèle de nouvelle génération « Mythos » pour les tâches de cybersécurité

Le géant de l’IA Anthropic a publié mardi une version préliminaire de son modèle « frontier » de nouvelle génération, Mythos. Décrit par l’entreprise comme son modèle « le plus puissant » à ce jour, il est initialement déployé auprès d’un petit groupe de partenaires dans le cadre d’une initiative dédiée à la sécurité appelée Project Glasswing, spécifiquement pour des tâches liées à la cybersécurité.

Un nouveau membre du système Claude : axé sur le codage et le raisonnement

Selon l’annonce, Mythos est un modèle généraliste de grande envergure au sein de l’écosystème Claude, doté de capacités exceptionnelles en programmation et en raisonnement logique. Bien qu’il n’ait pas été entraîné exclusivement pour la cybersécurité, son application principale durant cette phase de prévisualisation consiste à analyser les vulnérabilités du code, tant dans des logiciels propriétaires que dans des logiciels open source.

Anthropic a indiqué que lors de récents tests internes, Mythos a identifié des milliers de vulnérabilités zero-day. Nombre d’entre elles ont été classées à haut risque, certaines remontant à du code hérité écrit il y a dix, voire vingt ans. Cette performance met en évidence le potentiel considérable des grands modèles de langage pour déceler des « vulnérabilités historiques » restées inaperçues pendant des années.

Réservé aux partenaires signataires, axé sur la « sécurité défensive »​

À mesure que les capacités des modèles augmentent, les inquiétudes du secteur concernant un éventuel usage malveillant se sont également accrues. Si de tels outils étaient exploités par des acteurs malveillants, ils pourraient accélérer considérablement la découverte de vulnérabilités et les attaques qui s’ensuivent. Pour atténuer ces risques, Anthropic a précisé explicitement que cette version préliminaire n’est pas accessible au grand public et qu’elle est réservée aux partenaires signataires pour des tâches de sécurité spécifiques.

La liste des organisations participant actuellement à l’essai de Mythos comprend des dizaines d’entités majeures telles qu’Amazon, Apple, Broadcom, Cisco, CrowdStrike, la Linux Foundation, Microsoft et Palo Alto Networks. Ces organisations collaboreront dans le cadre d’« efforts de sécurité défensive » et partageront leurs conclusions à l’issue du projet afin de renforcer les standards de sécurité dans l’ensemble de l’industrie technologique.

Discussions avec des agences fédérales américaines concernant des systèmes nationaux

Anthropic a également révélé être engagé dans des « discussions en cours » avec des responsables fédéraux américains concernant l’éventuelle application de Mythos au sein de systèmes nationaux critiques.

Ces discussions se déroulent parallèlement à des différends juridiques existants. Auparavant, le Département de la Défense des États-Unis a qualifié Anthropic d’« entité à risque pour la chaîne d’approvisionnement » après que l’entreprise a refusé d’autoriser l’utilisation de sa technologie pour des frappes autonomes ou une surveillance ciblant des citoyens américains.

Révélation à la suite d’une fuite accidentelle

Il est à noter que l’existence de Mythos a été révélée pour la première fois à la suite d’un incident de sécurité des données. Le mois dernier, un brouillon d’article de blog qui n’avait pas encore été officiellement publié a été stocké par erreur dans un lac de données accessible au public. Des chercheurs en sécurité ont ensuite découvert et diffusé l’information.

Le brouillon mentionnait que Mythos est plus vaste et plus intelligent que la précédente série Opus. Il contenait également des avertissements indiquant que, s’il était utilisé à des fins malveillantes, le modèle pourrait découvrir et exploiter des vulnérabilités à un rythme dépassant la capacité des défenseurs à les corriger.

Points clés :​

• Mythos est le dernier modèle d’IA de pointe d’Anthropic, actuellement limité à un nombre restreint de partenaires de sécurité pour des essais.

• Le modèle a découvert des milliers de vulnérabilités zero-day lors des tests, démontrant une puissante capacité à dénicher des failles historiques.

• L’entreprise explore des applications pour des systèmes nationaux critiques avec des responsables fédéraux américains tout en gérant des controverses juridiques connexes.