„Rój AI może przejąć kontrolę nad całym internetem”
Szef Anthropic odniósł się do niedawnego incydentu z niekontrolowanymi agentami AI (autonomiczne systemy informatyczne oparte na sztucznej inteligencji, które potrafią samodzielnie planować), kiedy to wydostały się z odizolowanego środowiska testowego i przeprowadziły nieautoryzowany atak cybernetyczny na infrastrukturę Hugging Face, platformę technologiczną związaną ze sztuczną inteligencją. Zdaniem Amodeia podobne zdarzenie w przyszłości może mieć znacznie poważniejsze konsekwencje.
„Biorąc pod uwagę coraz szybszy rozwój możliwości sztucznej inteligencji, obawiam się, że w ciągu 6–12 miesięcy taki rój mógłby przejąć kontrolę nad całym internetem, tworząc trwałą sieć botów i potencjalnie powodując szkody sięgające setek miliardów dolarów. Jeśli AI będzie nadal zyskiwać na możliwościach bez odpowiednich zabezpieczeń, skala tych szkód może z czasem jeszcze wzrosnąć” – ostrzegł w eseju.
Amodei zapowiedział również, że Anthropic chce umożliwić niezależnym, zewnętrznym ekspertom ds. bezpieczeństwa dostęp do wewnętrznych procedur firmy na poziomie zbliżonym do tego, jaki mają jej pracownicy. Ich zadaniem byłoby sprawdzanie, czy firma odpowiednio zabezpiecza swoje modele oraz zgłasza potencjalne zagrożenia i incydenty. Amodei zaapelował do innych firm zajmujących się sztuczną inteligencją, aby podobne rozwiązania wprowadziły także u siebie.
Swój esej zakończył apelem o odpowiedzialność: „Proponowane przeze mnie działania, które mają pozwolić nam rozwijać AI w bezpiecznym tempie, nie będą łatwe. Uważam jednak, że jesteśmy winni ludzkości, by podjąć tę próbę”.
Apel o działania rządów
Szef Anthropic wezwał również demokratyczne państwa do współpracy przy tworzeniu wspólnych standardów bezpieczeństwa AI. Jego zdaniem konieczna jest współpraca z rządami autorytarnymi.
Do apelu szybko odniósł się Elon Musk, który na platformie X napisał: „Dario ma rację”. Z kolei kierownictwo Anthropic zasugerowało wprowadzenie zmian legislacyjnych dotyczących AI. Sarah Heck, dyrektor firmy ds. polityki publicznej, podkreśliła na platformie X: „Rząd ma tu do odegrania kluczową rolę. Powinien między innymi zablokować sprzedaż najbardziej zaawansowanych chipów krajom wrogim, takim jak Chiny, a także uchwalić ustawę nakładającą obowiązek testowania najbardziej zaawansowanych modeli AI i umożliwiającą blokowanie tych, które okażą się niebezpieczne”.
Nie wszyscy zgadzają się z Amodeiem
Apel szefa Anthropic spotkał się również z krytyką. Inwestor venture capital Chamath Palihapitiya zarzucił Amodeiemu, że za jego argumentami dotyczącymi bezpieczeństwa może kryć się... własny biznes.
„Dario opowiada się za zaprzestaniem rozwoju oprogramowania open source i skoncentrowaniem ogromnej potęgi technologicznej i gospodarczej w rękach Anthropic” – napisał na X.
Anthropic to amerykańska firma technologiczna zajmująca się rozwojem sztucznej inteligencji, założona w 2021 roku przez byłych pracowników OpenAI.
W czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań obejmujących zarówno rozwój broni, operacje cybernetyczne, jak i inwigilację oraz oszustwa.
Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”.
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChataGPT, i podjął wówczas pracę w Anthropicu, który - jak tłumaczył - miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI.
W ubuegłym tygodniu Reuters informował, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, a kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
