Dyrektor generalny Anthropic, Dario Amodei, wezwał w środę do obowiązkowych, niezależnych testów zaawansowanych modeli sztucznej inteligencji. Chce też, by rządy miały możliwość blokowania systemów, które nie przejdą audytów bezpieczeństwa.
Esej „Polityka wobec AI Eksponencjalnej” pojawił się dzień po premierze Claude Fable 5. Firma przedstawiła także propozycję legislacyjną dotyczącą testowania modeli oraz ramy postępowania w przypadku utraty miejsc pracy.
Dario Amodei przechodzi od przejrzystości do wiążących zasad
Anthropic w 2025 wspierał przepisy oparte na ujawnianiu informacji. Firma poparła SB 53 w Kalifornii, ustawę RAISE w Nowym Jorku oraz SB 315 w Illinois. Jednak Amodei ogłosił, że sama przejrzystość nie odpowiada już obecnym zagrożeniom.
Proponuje system wzorowany na Federalnej Administracji Lotnictwa (FAA). Modele przekraczające określony próg mocy obliczeniowej podlegałyby obowiązkowym, niezależnym audytom w czterech obszarach.
Obejmują one cyberbezpieczeństwo, broń biologiczną, utratę kontroli oraz automatyczne badania AI.
„Zaawansowane modele AI, podobnie jak samoloty, powinny przechodzić techniczne testy i audyty. Wypuszczenie ich na rynek trzeba zablokować lub cofnąć, jeśli nie spełniają wysokich standardów bezpieczeństwa i zagrażają bezpieczeństwu publicznemu.”
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Plan wykracza poza Czerwcowy Dekret Wykonawczy Białego Domu dotyczący AI. Amodei uznał go jednak za krok w dobrą stronę.
Chce również natychmiastowego raportowania incydentów bezpieczeństwa oraz ścisłej ochrony wag modeli.
Ryzyka cyberataków ostrzegają infrastrukturę kryptowalut
Amodei uznał cyberbezpieczeństwo za pierwsze całkowicie ujawnione ryzyko. Wskazał na Claude Mythos Preview, który rozwiązał 73% eksperckich wyzwań cybernetycznych, z którymi żadne AI wcześniej sobie nie poradziło.
W eseju ostrzega, że zaawansowane modele mogą zakłócić sektor finansowy oraz infrastrukturę krytyczną.
Analiza BeInCrypto również wykazała zagrożenia dla bezpieczeństwa DeFi związane z modelami klasy Mythos. Protokółom Decentralized Finance (DeFi) grożą bowiem ataki ze względu na ich otwartość i zdecentralizowaną wartość.
Tymczasem Anthropic wypuścił model Claude Fable 5 9 czerwca z zabezpieczeniami blokującymi niebezpieczne żądania cybernetyczne i biologiczne.
Amodei twierdzi, że takie dobrowolne ograniczenia nie zastąpią wiążących zasad w całej branży.
Ostrzegł również, że ryzyko autonomii może pojawić się w przyszłości. Dane Anthropic już pokazują AI budujące lepsze AI — Claude pisze większość kodu w czołowych laboratoriach AI.
Utrata pracy, wolności obywatelskie i koalicja demokratyczna
W kwestiach gospodarczych esej proponuje ubezpieczenie płac, ulgi podatkowe za utrzymanie pracowników oraz granty na szkolenia zawodowe.
Jeśli utrata pracy okaże się trwała, Amodei sugeruje finansowanie bezwarunkowego dochodu podstawowego z podatków od firm lub zysków kapitałowych.
Program ochrony wolności obywatelskich jest równie zdecydowany. Amodei domaga się zakazu wykorzystywania w pełni autonomicznej broni przez krajowe organy ścigania. Wzywa Kongres do zamknięcia luki prawnej umożliwiającej masowy zakup danych przez pośredników.
Na arenie międzynarodowej nawołuje do utworzenia koalicji państw demokratycznych kontrolujących produkcję chipów oraz sprzętu do wytwarzania półprzewodników.
Wskazuje amerykańskie projekty ustaw MATCH i OVERWATCH jako pierwszy krok do ściślejszej i skoordynowanej kontroli eksportu.
Amodei odrzucił twierdzenie, że obawy społeczeństwa wobec AI to tylko problem wizerunkowy, nazywając te lęki słusznymi. To, czy Kongres zajmie się propozycją Anthropic dotyczącą testów, może zdecydować o przyszłej polityce AI.
