Rosnące inwestycje w agentów AI sugerują przyszłość powszechnej automatyzacji, potencjalnie bardziej transformacyjną niż rewolucja przemysłowa. Jak w przypadku każdej innowacji technologicznej, agenci AI napotkają problemy w swoim rozwoju. Ciągłe doskonalenie będzie kluczowe dla odpowiedzialnego wykorzystania i pełnego wykorzystania potencjału agentów AI.
Na Consensus Hong Kong, BeInCrypto przeprowadziło wywiad z Andrei Grachevem, partnerem zarządzającym w DWF Labs, na temat kluczowych wyzwań, przed jakimi stoją agenci AI w osiągnięciu masowej adopcji i jak może wyglądać ich powszechne użycie.
Tradycyjne sektory technologiczne i Web3 przyjmują AI
W tym momencie można śmiało powiedzieć, że adopcja sztucznej inteligencji (AI) wkrótce stanie się nieunikniona. Giganci technologiczni, w tym Meta, Amazon, Alphabet i Microsoft, już ogłosili plany inwestycji do 320 mld USD w AI i centra danych w 2025 roku.
W pierwszym tygodniu urzędowania prezydent USA Trump ogłosił Stargate, nową prywatną wspólną inicjatywę skoncentrowaną na rozwoju centrów danych AI. Inicjatywa, składająca się z OpenAI, Softbank i Oracle, planuje budowę do 20 dużych centrów danych AI w całych Stanach Zjednoczonych.
Początkowa inwestycja szacowana jest na 100 mld USD, a plany ekspansji mogą zwiększyć tę kwotę do 500 mld USD do 2029 roku.
Projekty Web3 również dokonują podobnych inwestycji w AI. W grudniu DWF Labs, wiodąca firma venture capital w branży kryptowalut, uruchomiła fundusz AI o wartości 20 mln USD w celu przyspieszenia innowacji w autonomicznych technologiach AI.
Na początku tego miesiąca Fundacja NEAR, wspierająca protokół NEAR, również ogłosiła swój własny fundusz o wartości 20 mln USD skoncentrowany na skalowaniu rozwoju w pełni autonomicznych i weryfikowalnych agentów opartych na technologii NEAR. Grachev przekazał BeInCrypto:
“Historia pokazuje, że wszystko, co można zautomatyzować, zostanie zautomatyzowane, a na pewno niektóre procesy biznesowe i codzienne życie zostaną przejęte przez agentów AI.”
Jednak wraz z przyspieszeniem rozwoju AI, rośnie obawa o jej potencjalne niewłaściwe wykorzystanie.
Złośliwe wykorzystanie agentów AI
W Web3 agenci AI szybko stają się powszechni. Oferują różnorodne możliwości, od analizy rynku po autonomiczne handlowanie kryptowalutami.
Jednak ich rosnąca integracja stawia również istotne wyzwania. Niewłaściwe wykorzystanie AI przez oszustów to poważny problem, obejmujący scenariusze od prostych kampanii phishingowych po zaawansowane ataki ransomware.
Powszechna dostępność generatywnej AI od końca 2022 roku zasadniczo zmieniła tworzenie treści, przyciągając jednocześnie oszustów chcących wykorzystać tę technologię. Ta demokratyzacja mocy obliczeniowej zwiększyła możliwości przeciwników i potencjalnie obniżyła próg wejścia dla mniej zaawansowanych zagrożeń.
Zgodnie z raportem Entrust, fałszerstwa cyfrowych dokumentów ułatwione przez narzędzia AI przewyższają teraz fizyczne podróbki, z 244% wzrostem rok do roku w 2024 roku. Tymczasem deepfake stanowiły 40% wszystkich oszustw biometrycznych. Grachev powiedział:
“Już jest używana do oszustw. Jest używana do rozmów wideo, gdy ludzie są fałszywie przedstawiani i ich głosy są fałszywie przedstawiane.”
Przykłady tego rodzaju eksploatacji już trafiły na nagłówki gazet. Na początku tego miesiąca pracownik finansowy w międzynarodowej firmie w Hongkongu został oszukany, aby autoryzować płatność w wysokości 25 mln USD na rzecz oszustów używających technologii deepfake.
Pracownik uczestniczył w rozmowie wideo z osobami, które uważał za kolegów, w tym dyrektora finansowego firmy. Pomimo początkowych wątpliwości, pracownik przystąpił do płatności po tym, jak inni uczestnicy wydawali się i brzmieli autentycznie, według raportów. Później odkryto, że wszyscy uczestnicy byli fałszywymi deepfake.
Od wczesnej adopcji do powszechnej akceptacji
Grachev uważa, że takie złośliwe użycia są nieuniknione. Zauważa, że rozwój technologiczny często towarzyszy początkowym błędom, które zmniejszają się wraz z dojrzewaniem technologii. Grachev podał dwa różne przykłady, aby udowodnić swoją tezę: wczesne etapy World Wide Web i Bitcoina:
“Powinniśmy pamiętać, że Internet zaczął się od stron pornograficznych. To było jak pierwszy Bitcoin, który zaczął się od handlarzy narkotyków, a potem się poprawił.”
Wiele raportów zgadza się z Grachevem. Sugerują, że przemysł rozrywki dla dorosłych odegrał kluczową rolę we wczesnej adopcji i rozwoju Internetu. Poza dostarczaniem bazy konsumentów, pionierował technologie takie jak VCR, streaming wideo, rzeczywistość wirtualna i każda forma komunikacji.
Pornografia działała jako narzędzie onboardingowe. Przemysł rozrywki dla dorosłych historycznie napędzał konsumencką adopcję nowych technologii.
Jego wczesne przyjęcie i zastosowanie innowacji, szczególnie gdy skutecznie spełniało oczekiwania swojej publiczności, często prowadzi do szerszej adopcji mainstreamowej. Grachev powiedział:
“Zaczęło się od zabawy, ale zabawa przyciągnęła wielu ludzi. Potem można zbudować coś na tej publiczności.”
Z czasem wprowadzono zabezpieczenia, aby ograniczyć częstotliwość i dostępność rozrywki dla dorosłych. Niemniej jednak, nadal jest to jedna z wielu usług, które Internet oferuje dzisiaj.
Podróż Bitcoina od darknetu do przełomu
Ewolucja Bitcoina ściśle odzwierciedla najwcześniejsze zastosowania Internetu. Wczesna adopcja Bitcoina była znacząco związana z rynkami darknetu i nielegalnymi działaniami, w tym handlem narkotykami, oszustwami i praniem pieniędzy. Jego pseudonimowy charakter i łatwość globalnych transferów funduszy przyciągały przestępców.
Pomimo jego dalszego użycia w działalności przestępczej, Bitcoin znalazł liczne legalne zastosowania. Technologia blockchain wspierająca kryptowaluty dostarcza rozwiązań dla rzeczywistych problemów i zakłóca tradycyjne systemy finansowe.
Chociaż są to wciąż bardzo młode branże, kryptowaluty i aplikacje blockchain będą się rozwijać. Według Garcheva, to samo stanie się z stopniowym wdrażaniem technologii AI. Dla niego błędy muszą być akceptowane, aby się z nich uczyć i odpowiednio dostosowywać:
„Zawsze powinniśmy pamiętać, że oszustwa zdarzają się najpierw, a potem ludzie zaczynają myśleć, jak im zapobiegać. Oczywiście to się zdarzy, ale to normalny proces, to krzywa uczenia się.”
Jednak świadomość, że takie sytuacje będą miały miejsce w przyszłości, rodzi pytania o to, kto powinien ponosić odpowiedzialność.
Obawy dotyczące odpowiedzialności
Określenie odpowiedzialności, gdy szkoda wynika z działań agenta, to złożony problem prawny i etyczny. Pojawia się pytanie, jak pociągnąć AI do odpowiedzialności.
Złożoność systemów AI stwarza wyzwania w określeniu odpowiedzialności za szkody. Ich “czarna skrzynka”, nieprzewidywalne zachowanie i zdolności do ciągłego uczenia się utrudniają zastosowanie typowych idei o winie, gdy coś idzie nie tak.
Dodatkowo, zaangażowanie wielu stron w rozwój i wdrażanie AI komplikuje ocenę odpowiedzialności, co utrudnia określenie winy za awarie AI.
Odpowiedzialność może spoczywać na producencie za wady projektowe lub produkcyjne, na deweloperze oprogramowania za problemy z kodem, lub na użytkowniku za nieprzestrzeganie instrukcji, brak aktualizacji lub zabezpieczeń. Grachev powiedział BeInCrypto:
„Myślę, że cała sprawa jest zbyt nowa i powinniśmy być w stanie się z niej uczyć. Powinniśmy być w stanie zatrzymać niektóre agenty AI, jeśli to konieczne. Ale z mojego punktu widzenia, jeśli nie było złych intencji, nikt nie jest za to odpowiedzialny, ponieważ to coś naprawdę nowego.”
Jednak według niego, te sytuacje muszą być starannie zarządzane, aby nie wpływać na ciągłą innowację. Dodał:
„Jeśli obwiniasz tego przedsiębiorcę, to zabije innowacje, ponieważ ludzie będą się bać. Ale jeśli działa to w zły sposób, prawda, to może ostatecznie zadziałać. Musimy mieć sposób, aby to zatrzymać, uczyć się, poprawiać i ponownie się uczyć.”
Jednak cienka linia pozostaje niezwykle cienka, zwłaszcza w bardziej ekstremalnych scenariuszach.
Rozwiązywanie problemów zaufania dla odpowiedzialnego wdrażania AI
Powszechny strach przy omawianiu przyszłości sztucznej inteligencji dotyczy sytuacji, w których agenci AI stają się potężniejsi od ludzi. Grachev przekazał:
„Jest wiele filmów na ten temat. Jeśli mówimy o, powiedzmy, kontroli policyjnej lub rządowej, lub jakiejś armii w jakiejś wojnie, oczywiście automatyzacja jest jak wielki strach. Niektóre rzeczy mogą być zautomatyzowane do takiego poziomu, że mogą zaszkodzić ludziom.”
Zapytany, czy taki scenariusz mógłby się wydarzyć, Grachev powiedział, że teoretycznie mógłby. Niemniej jednak przyznał, że nie wie, co się stanie w przyszłości.
Jednak takie sytuacje są emblematyczne dla fundamentalnych problemów zaufania między ludźmi a sztuczną inteligencją. Grachev twierdzi, że najlepszym sposobem na podejście do tego problemu jest eksponowanie ludzi na przypadki użycia, w których AI może być naprawdę pomocna:
„AI może być trudna do uwierzenia dla ludzi. Dlatego powinna zacząć się od czegoś prostego, ponieważ zaufanie do agenta AI nie zostanie zbudowane, gdy ktoś wyjaśnia, że jest godny zaufania. Ludzie powinni przyzwyczaić się do jego używania. Na przykład, jeśli mówisz o krypto, możesz uruchomić mema, powiedzmy na Pump.fun, ale dlaczego nie uruchomić go za pomocą wiadomości głosowej? Z agentami AI, po prostu wyślij wiadomość głosową, która mówi ‘proszę uruchom to i tamto’, i jest uruchomione. A potem następny krok [byłby] zaufanie agentowi w bardziej istotnych decyzjach.”
Ostatecznie, droga do powszechnej adopcji AI będzie niewątpliwie naznaczona niezwykłymi postępami i nieprzewidzianymi wyzwaniami.
Równoważenie innowacji z odpowiedzialnym wdrażaniem w tym rozwijającym się sektorze będzie kluczowe dla kształtowania przyszłości, w której AI przynosi korzyści całej ludzkości.
Aby zapoznać się z najnowszą analizą rynku kryptowalut przez BeInCrypto, kliknij tutaj.
Wyjaśnienie
Wszystkie informacje zawarte na naszej stronie internetowej są publikowane w dobrej wierze i wyłącznie w ogólnych celach informacyjnych. Wszelkie działania podejmowane przez czytelnika w związku z informacjami znajdującymi się na naszej stronie internetowej odbywają się wyłącznie na jego własne ryzyko.
