Meta ogłosiła uruchomienie Purple Llama, projektu parasolowego mającego na celu wspieranie odpowiedzialnego rozwoju w dziedzinie otwartych modeli generatywnej sztucznej inteligencji.
Purple Llama ma na celu rozwiązanie rosnących obaw związanych z cyberbezpieczeństwem i zabezpieczeniami sztucznej inteligencji.
Meta zamierza, aby Purple Llama zwiększyła środki cyberbezpieczeństwa
W niedawnym oświadczeniu Meta wyjaśnia, że kolor fioletowy, zapożyczony ze świata cyberbezpieczeństwa, symbolizuje holistyczne podejście do łagodzenia wyzwań w przestrzeni generatywnej sztucznej inteligencji.
Co więcej, inicjatywa ta, określana jako “Purple teaming”, łączy w sobie zarówno strategie ofensywne (zespół czerwony), jak i defensywne (zespół niebieski) w celu wspólnej oceny ryzyka.
W oświadczeniu zauważono jednak, że początkowo Purple Llama zapewni narzędzia i oceny skoncentrowane na cyberbezpieczeństwie. W tym metryki do ilościowego określania ryzyka cyberbezpieczeństwa. Dodatkowo, narzędzia do oceny sugestii dotyczących niezabezpieczonego kodu.
Co więcej, mechanizmy utrudniające LLM generowanie złośliwego kodu lub pomoc w cyberatakach.
Meta twierdzi, że te testy porównawcze, dostosowane do standardów branżowych, mają na celu zmniejszenie częstotliwości występowania niezabezpieczonego kodu generowanego przez sztuczną inteligencję.
Ponadto projekt wprowadza Llama Guard, otwarcie dostępny model fundamentalny wspierający zabezpieczenia wejściowe i wyjściowe.
Wyniki będą przejrzyste dla dalszego rozwoju
Tymczasem Meta twierdzi, że model ten umożliwia programistom filtrowanie i sprawdzanie danych wejściowych i wyjściowych zgodnie z wytycznymi dotyczącymi treści.
Wyniki są jednak udostępniane w przejrzysty sposób w celu ulepszenia i dostosowania. Meta twierdzi, że ostatecznie przyczyni się to do bezpieczniejszego i bardziej odpowiedzialnego ekosystemu sztucznej inteligencji.
Meta deklaruje, że Purple Llama zachęci do współpracy między programistami i ustandaryzuje narzędzia zaufania i bezpieczeństwa dla generatywnej sztucznej inteligencji.
Opierając się na sukcesie Llama 2, Meta współpracuje z gigantami branżowymi, takimi jak AWS, Google Cloud, IBM, Microsoft i innymi. Chce zapewnić wspólny wysiłek w tworzeniu odpowiedzialnie rozwijanego, otwartego środowiska generatywnej sztucznej inteligencji.
Wyjaśnienie
Wszystkie informacje zawarte na naszej stronie internetowej są publikowane w dobrej wierze i wyłącznie w ogólnych celach informacyjnych. Wszelkie działania podejmowane przez czytelnika w związku z informacjami znajdującymi się na naszej stronie internetowej odbywają się wyłącznie na jego własne ryzyko.
