Mała grupa nieuprawnionych użytkowników uzyskała dostęp do Claude Mythos Preview firmy Anthropic tego samego dnia, w którym spółka ogłosiła kontrolowane udostępnienie — poinformował Bloomberg.
To wydarzenie rodzi pytania o zdolność Anthropic do zabezpieczenia modelu uznanego za zbyt niebezpieczny dla szerokiego udostępnienia.
Jak grupa z Discorda zdobyła dostęp do Mythos
Członkowie prywatnego kanału Discorda, zajmującego się poszukiwaniem nieudostępnionych modeli AI, trafnie odgadli adres URL endpointu Mythos.
“Anthropic twierdził, że Mythos jest zbyt niebezpieczny, by go udostępnić. A potem czterech przypadkowych gości z Discorda zdobyło dostęp w pierwszy dzień, odgadując adres URL…”
Według osoby zaznajomionej ze sprawą, cytowanej przez Bloomberg, odtworzyli oni schematy nazewnictwa Anthropic wykorzystując dane wyciekłe przy incydencie Mercor trzy tygodnie wcześniej (źródło).
Jeden z członków grupy miał też prawidłowe dane do oceny modeli dzięki umowie z dostawcą Anthropic. Połączenie tych danych z odgadniętym adresem zapewniło im stały dostęp.
Podobno od tego czasu regularnie korzystają z Mythos. Unikali jednak zapytań związanych z cyberbezpieczeństwem i wykorzystywali model do neutralnych celów, np. tworzenia prostych stron internetowych.
Anthropic potwierdził rozpoczęcie śledztwa w tej sprawie, ale zapewnił, że brak dowodów na wyjście dostępu poza środowisko dostawcy.
Anthropic deklaruje, że Mythos potrafi wykryć i wykorzystać podatności typu zero-day w każdym głównym systemie operacyjnym i przeglądarce.
W ramach Projektu Glasswing firma ograniczyła dostęp do około 40 zatwierdzonych organizacji, w tym Apple, Amazon i Cisco, wyłącznie do defensywnego testowania bezpieczeństwa.
Biały Dom naciska na federalny dostęp mimo zakazu Pentagonu
Do naruszenia doszło, gdy Biały Dom zamierza rozszerzyć dostęp do Mythos dla cywilnych agencji federalnych. 15 kwietnia Biuro Zarządzania i Budżetu wysłało maila do ministrów, opisując plan na chronioną wersję modelu.
To zmiana stanowiska z początku roku — wtedy Pentagon uznał Anthropic za “ryzyko dla łańcucha dostaw“, po odmowie usunięcia zabezpieczeń na potrzeby wojska.
Nie pozwolimy żadnej firmie dyktować warunków, według których podejmujemy decyzje operacyjne.
Później federalny sędzia wstrzymał większy zakaz po pozwie Anthropic.
17 kwietnia CEO Anthropic Dario Amodei spotkał się z przedstawicielami Białego Domu. Obie strony uznały rozmowy za “owocne”.
Według Axios, NSA już korzysta z Mythos do skanowania podatności, mimo czarnej listy Pentagonu.
