Anthropic lansează puternicul model AI Mythos, disponibil pentru testare doar partenerilor de securitate

Anthropic a lansat Mythos, cel mai puternic model AI al său de până acum, care este în prezent limitat la un număr restrâns de parteneri din domeniul securității și a demonstrat o capacitate remarcabilă de a descoperi mii de vulnerabilități zero-day existente de mult timp.​

Anthropic dezvăluie modelul de generație următoare „Mythos” pentru sarcini de securitate cibernetică

Compania de top în domeniul AI, Anthropic, a lansat marți o versiune preview a modelului său de generație următoare „frontier”, Mythos. Descris de companie drept „cel mai puternic” model al său de până acum, acesta este implementat inițial pentru un grup restrâns de parteneri printr-o inițiativă dedicată siguranței numită Project Glasswing, special pentru sarcini legate de securitatea cibernetică.

Un nou membru al sistemului Claude: axat pe programare și raționament

Conform anunțului, Mythos este un model general de mari dimensiuni din ecosistemul Claude, care dispune de capacități excepționale în programare și raționament logic. Deși nu a fost antrenat exclusiv pentru securitate cibernetică, aplicația sa principală în această fază de previzualizare este scanarea vulnerabilităților de cod atât în software proprietar, cât și în proiecte open-source.

Anthropic a raportat că, în testele interne recente, Mythos a identificat mii de vulnerabilități zero-day. Multe dintre acestea au fost clasificate drept cu risc ridicat, unele probleme provenind din cod vechi scris în urmă cu unul sau chiar două decenii. Această realizare evidențiază potențialul semnificativ al modelelor lingvistice de mari dimensiuni de a descoperi „vulnerabilități istorice” care au rămas nedetectate ani la rând.

Exclusiv pentru parteneri semnatari, cu accent pe „securitate defensivă”​

Pe măsură ce capabilitățile modelelor cresc, au crescut și îngrijorările din industrie privind potențiala utilizare abuzivă. Dacă astfel de instrumente ar fi exploatate de actori rău intenționați, acestea ar putea accelera drastic ritmul descoperirii vulnerabilităților și al atacurilor ulterioare. Pentru a reduce aceste riscuri, Anthropic a declarat explicit că această versiune preview nu este disponibilă publicului larg și este restricționată la parteneri semnatari pentru sarcini specifice de securitate.

Lista organizațiilor care participă în prezent la testarea Mythos include zeci de entități majore precum Amazon, Apple, Broadcom, Cisco, CrowdStrike, Linux Foundation, Microsoft și Palo Alto Networks. Aceste organizații vor colabora la „eforturi de securitate defensivă” și își vor împărtăși concluziile la finalul proiectului pentru a contribui la ridicarea standardelor de securitate în întreaga industrie tehnologică.

Discuții cu agenții federale americane privind sisteme la nivel național

Anthropic a dezvăluit, de asemenea, că poartă „discuții în curs” cu oficiali federali din SUA privind posibila aplicare a Mythos în sisteme naționale critice.

Aceste discuții au loc în paralel cu dispute juridice existente. Anterior, Departamentul Apărării al SUA a etichetat Anthropic drept „entitate cu risc pentru lanțul de aprovizionare”, după ce compania a refuzat să permită utilizarea tehnologiei sale pentru lovituri autonome sau supraveghere care vizează cetățeni americani.

Expunere printr-o scurgere accidentală

De remarcat că existența Mythos a ieșit inițial la iveală în urma unui incident de securitate a datelor. Luna trecută, un proiect de articol de blog care nu fusese încă publicat oficial a fost stocat din greșeală într-un lac de date accesibil publicului. Cercetătorii în securitate au descoperit ulterior informațiile și le-au făcut publice.

Proiectul menționa că Mythos este mai mare și mai inteligent decât seria anterioară Opus. De asemenea, conținea avertismente că, dacă ar fi utilizat în mod malițios, modelul ar putea descoperi și exploata vulnerabilități într-un ritm care depășește capacitatea apărătorilor de a le remedia.

Idei principale:​

• Mythos este cel mai recent model AI de tip frontier al Anthropic, în prezent restricționat la un număr limitat de parteneri de securitate pentru testare.

• Modelul a descoperit mii de vulnerabilități zero-day în timpul testelor, demonstrând o capacitate puternică de a identifica erori istorice.

• Compania explorează aplicații pentru sisteme naționale critice împreună cu oficiali federali americani, gestionând în același timp controverse juridice asociate.