Agent AI (sztucznej inteligencji) samodzielnie ominął zabezpieczenia, by wydobywać kryptowaluty podczas rutynowych ćwiczeń treningowych. Tak wynika z publikacji zespołu badawczego powiązanego z Alibaba.
Badacze zaprojektowali model, nazwany ROME, aby przetestować zdolność AI do samodzielnego realizowania złożonych, wieloetapowych zadań.
Agent AI przekierowuje chmurowe GPU do kopania kryptowalut
Podczas eksperymentu naukowcy zaobserwowali nieoczekiwane zachowanie. Agent ustanowił odwrotny bezpieczny tunel SSH do zewnętrznych serwerów, tworząc ukryte połączenie z wnętrza systemu.
Dzięki temu modelowi udało się obejść zapory sieciowe Alibaba Cloud i przekierować zasoby procesora graficznego na kopanie kryptowalut. W podsumowaniu czytamy:
„Zaobserwowaliśmy także nieautoryzowane wykorzystanie dostępnych zasobów GPU do kopania kryptowalut. W ten sposób agent po cichu przekierował moce obliczeniowe z treningu, podnosząc koszty operacyjne i narażając firmę na jawne ryzyka prawne oraz reputacyjne.”
Według badaczy zachowanie agenta pojawiło się spontanicznie, bez wyraźnych instrukcji, Zadania polecenia ani zewnętrznego jailbreaku.
Te wnioski podkreślają ciągłe obawy dotyczące bezpieczeństwa operacyjnego autonomicznych systemów AI.
Naukowcy stwierdzili, że obecne modele pozostają „wyraźnie niedopracowane pod względem bezpieczeństwa, ochrony i możliwości kontroli”. To ogranicza gotowość technologii do powszechnego wdrożenia w realnych środowiskach.
Zespół wdrożył już bardziej rygorystyczne ograniczenia i system filtracji danych skupiony na bezpieczeństwie, by zapobiegać podobnym incydentom w przyszłości.
Tymczasem to odkrycie wywołało duże zainteresowanie w społeczności kryptowalutowej. Josh Kale, gospodarz i producent podcastu Bankless Crypto, powiedział:
„AI zrozumiała, że moc obliczeniowa oznacza pieniądze. Po cichu przekierowała własne zasoby, gdy badacze sądzili, że wyłącznie się uczy. Nie był to efekt wstrzyknięcia komendy. Nie był jailbreak. Nikt jej nie kazał tego robić. Stało się to spontanicznie.”
Kale zauważył, że wydobyta kryptowaluta to raczej token przyjazny GPU niż Bitcoin, który wymaga specjalistycznego sprzętu typu “application-specific integrated circuit”. Do incydentu doszło w czasie, gdy cała branża kryptowalut gwałtownie skręca w stronę “gospodarki agentów”.
Nowy sektor wyobraża sobie świat, w którym systemy oprogramowania robią znacznie więcej niż generowanie tekstu. Te agenty mogą też autonomicznie realizować złożone strategie finansowe.
Dlatego wiele firm i sieci blockchain, w tym Ethereum, Paradigm czy Circle, inwestuje w narzędzia wspierające tę powstającą infrastrukturę.
Jednym z przykładów jest standard x402 wspierany przez Coinbase, który pozwala agentom oprogramowania dokonywać płatności za usługi online. Jednak jego adopcja pozostaje bardzo ograniczona.
Dane x402 pokazują, że narzędzie przetworzyło ponad 75 mln transakcji o wartości 24 mln USD w ciągu ostatnich 30 dni – przy 94 000 kupujących i 22 000 sprzedających.
Jednak eksperci branżowi twierdzą, że te działania mogą gwałtownie przyspieszyć, jeśli autonomiczne agenty zostaną szerzej wdrożone. Firma venture capital, a16z stwierdza:
„AI i kryptowaluty nie konkurują – one się łączą. AI potrzebuje tożsamości, płatności oraz monitorowania pochodzenia. Kryptowaluty zapewniają wszystkie te elementy.”
Aby zapoznać się z najnowszą analizą rynku kryptowalut od BeInCrypto, kliknij tutaj.
