Agent AI od OpenAI, który wydostał się z bezpiecznego środowiska testowego i zaatakował Hugging Face, wykorzystał również podatny kod napisany przez klienta Modal Labs.
Dyrektor technologiczny Modal potwierdził ten incydent, ale podkreślił, że sama firma Modal nie została naruszona.
Jak agent OpenAI dotarł do klienta Modal Labs
W niedawnym wpisie na blogu OpenAI ujawniło, że ich modele AI stały za incydentem bezpieczeństwa w Hugging Face kierowanym przez sztuczną inteligencję. Firma nazwała to „bezprecedensowym incydentem cybernetycznym”.
Nowe informacje pokazują, że nieautoryzowany agent AI sięgnął poza systemy Hugging Face. CTO Modal, Akshat Bubna, powiedział Reutersowi, że agent wykorzystał podatny kod klienta hostowany na Modal.
Bubna wyjaśnił, że klient opublikował endpoint bez uwierzytelnienia. Każdy w internecie mógł wykorzystać ich piaskownice do wykonywania kodu.
„Platforma Modal ani jej izolacja nie zostały w żaden sposób naruszone”.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Hugging Face opisało zrootowaną piaskownicę w swoim technicznym raporcie czasowym opublikowanym 27 lipca. W poście wyjaśniono, że piaskownica działała na infrastrukturze zewnętrznego dostawcy, ale nie podano jego nazwy.
Aktualizacja OpenAI z 28 lipca informuje, że modele wykorzystały publicznie dostępne dane logowania, aby dostać się do czterech kont na czterech usługach.
„Jedno z tych czterech kont służyło jako zewnętrzny przekaźnik i ścieżka przygotowawcza, a inne konto służyło do przechowywania danych. Pozostałe dwa konta modele uzyskały w trybie tylko do odczytu i nie wykorzystano ich do dalszego naruszania Hugging Face.”
OpenAI także dezaktywowało, zaszyfrowało i ograniczyło dostęp badawczy do wewnętrznego prototypowego modelu. Firma twierdzi, że żadne inne działanie nie dorównywało powadze lub skali kompromitacji całej platformy Hugging Face.
Subskrybuj nasz kanał na YouTube, by oglądać, jak liderzy i dziennikarze dzielą się eksperckimi analizami
