"Wściekł się". Jak Pentagon w ostatniej chwili zerwał rozmowy z Anthropic

• Claude AI, czyli system sztucznej inteligencji stworzony przez firmę Anthropic, został przez Pentagon uznany za zagrożenie dla bezpieczeństwa USA po tym, jak w ostatniej chwili zerwano rozmowy dotyczące jego wykorzystania przez wojsko.
• Spór dotyczył tego, czy sztuczna inteligencja mogłaby analizować ogólnodostępne dane o Amerykanach - takie jak lokalizacja czy historia przeglądania internetu - oraz czy mogłaby być wykorzystywana w broni działającej bez bezpośredniej kontroli człowieka.
• Bądź na bieżąco. Więcej aktualnych znajdziesz na stronie głównej RMF24.pl.

Na kilka minut przed wyznaczonym na piątek terminem - godz. 17:01 - Emil Michael, dyrektor ds. technologii w Departamencie Obrony USA, wściekł się nie na żarty - to on wyznaczył ostateczną datę zawarcia porozumienia z Anthropic. Według osób zaznajomionych ze sprawą do uzgodnienia pozostawało już tylko doprecyzowanie kilku szczegółów dotyczących kwestii legalnej inwigilacji Amerykanów.

Michael, prowadząc rozmowę telefoniczną z kierownictwem Anthropic, zażądał, aby dyrektor generalny firmy, Dario Amodei, osobiście omówił z nim treść porozumienia. Odpowiedź była jednak odmowna - Amodei przebywał na spotkaniu i potrzebował więcej czasu. To rozwścieczyło Michaela. Miał jednak alternatywę: równolegle prowadził rozmowy z konkurencyjną firmą OpenAI i - co więcej - Pentagon osiągnął już wcześniej porozumienie w sprawie ogólnych ram współpracy.

Gdy o 17:01 upłynął termin podpisania porozumienia, Departament Obrony nie dał Anthropic dodatkowego czasu - o 17:14 Pete Hegseth zerwał rozmowy i uznał firmę za zagrożenie dla bezpieczeństwa państwa, ogłaszając, że odetnie ją od współpracy z rządem USA.

"Amerykańscy żołnierze nigdy nie będą zakładnikami ideologicznych kaprysów wielkich firm technologicznych" - napisał w mediach społecznościowych.

Tego samego wieczoru dyrektor generalny OpenAI Sam Altman ogłosił zawarcie porozumienia z Pentagonem dotyczącego dostarczania technologii sztucznej inteligencji do systemów niejawnych.

Zerwanie rozmów było kulminacją tygodni napięć między stronami, które różniły się w podejściu do roli sztucznej inteligencji w działaniach wojennych. Michael, Amodei i Altman znają się od lat z Doliny Krzemowej, jednak - jak czytamy w "The New York Times" - często nie potrafili się porozumieć. 

Amodei i Altman, obaj po czterdziestce, pracowali kiedyś razem w OpenAI i dziś są zaciekłymi rywalami. W zeszłym tygodniu, gdy negocjacje się przeciągały, 53-letni Emil Michael publicznie oskarżył Amodei o bycie "kłamcą z kompleksem Boga".

Według rozmówców "The New York Times" Michael ostatecznie wybrał Altmana, który zabiegał o względy administracji Donalda Trumpa.

Anthropic domagała się zabezpieczeń uniemożliwiających wykorzystanie jej technologii do masowej inwigilacji Amerykanów lub zastosowania jej w autonomicznej broni bez udziału człowieka. Pentagon argumentował, że prywatny wykonawca nie może decydować o tym, w jaki sposób jego narzędzia będą legalnie wykorzystywane.

9 stycznia Hegseth opublikował notatkę wzywającą do szerokiego wdrożenia sztucznej inteligencji w wojsku oraz do nieograniczonego udostępniania technologii przez firmy AI. W Pentagonie zawisły nawet plakaty z jego wizerunkiem, wygenerowane przez sztuczną inteligencję, z hasłem: "Chcę, żebyście korzystali ze sztucznej inteligencji".

24 lutego doszło do spotkania Hegsetha z Amodei w Pentagonie. Trwało ono niespełna godzinę i - według relacji - przebiegało w chłodnej atmosferze. Pod koniec rozmowy Hegseth zagroził, że jeśli do piątku do 17:01 nie zostanie zawarte porozumienie, firma zostanie uznana za "zagrożenie dla łańcucha dostaw". Rozważano nawet użycie ustawy o produkcji obronnej, by zmusić Anthropic do współpracy, ale ostatecznie z tego zrezygnowano.

26 lutego Amodei wydał oświadczenie, w którym napisał, że firma nie może zgodzić się na żądania Pentagonu.

"Uważamy, że w niektórych przypadkach sztuczna inteligencja może podważać wartości demokratyczne, zamiast ich bronić" - podkreślił. "Niektóre zastosowania po prostu wykraczają poza granice tego, co dzisiejsza technologia może bezpiecznie i niezawodnie wykonać".

Tego samego wieczoru Michael zaatakował go w mediach społecznościowych, pisząc: "Jego jedynym celem jest przejęcie osobistej kontroli nad amerykańskimi siłami zbrojnymi".

Sytuację dodatkowo skomplikował wpis Donalda Trumpa. W piątek rano prezydent poinformował Hegsetha, że przygotował post uderzający w Anthropic i nakazał wszystkim agencjom rządowym zakończenie współpracy z firmą w ciągu sześciu miesięcy.

Jednak nawet po publikacji wpisu o godz. 15:47 rozmowy trwały. Pentagon oczekiwał, że Anthropic zgodzi się na gromadzenie i analizę jawnych, komercyjnych danych zbiorczych dotyczących Amerykanów - takich jak dane geolokalizacyjne czy historia przeglądania internetu.

Firma była gotowa umożliwić Agencji Bezpieczeństwa Narodowego korzystanie z jej technologii do analizy materiałów niejawnych pozyskiwanych na podstawie ustawy o nadzorze wywiadu zagranicznego, ale domagała się prawnie wiążącej gwarancji, że jej systemy nie będą wykorzystywane do analizy jawnych danych komercyjnych.

W momencie impasu Michael ponownie poprosił o rozmowę z Amodei. Usłyszał, że ten jest na spotkaniu. Wkrótce potem Hegseth ogłosił zakończenie negocjacji.

Tego samego wieczoru, o godz. 22:00, gdy prawnicy Anthropic pracowali nad pozwem przeciwko Pentagonowi, Altman finalizował przez telefon szczegóły umowy OpenAI z Departamentem Obrony. Następnie ogłosił zawarcie porozumienia w mediach społecznościowych, a Hegseth udostępnił jego wpis na swoim koncie X.

OpenAI zgodziło się, aby jego sztuczna inteligencja mogła być wykorzystywana do wszystkich zgodnych z prawem celów, jednocześnie negocjując możliwość wprowadzania technicznych zabezpieczeń w swoich systemach.

W sobotę Altman odpowiadał na pytania użytkowników X dotyczące kontrowersyjnej umowy. Wielu pytało, jak firma może podpisać kontrakt z Pentagonem i jednocześnie przestrzegać własnych zasad bezpieczeństwa.

Altman podsumował swoje stanowisko w prostych słowach: "Nie chcemy mieć możliwości wyrażania opinii na temat konkretnych (i legalnych) działań wojskowych" - napisał. "Ale naprawdę chcemy mieć możliwość wykorzystania naszej wiedzy specjalistycznej do zaprojektowania bezpiecznego systemu".

Anthropic zapowiedziała zaskarżenie decyzji Pentagonu o uznaniu jej za "zagrożenie dla łańcucha dostaw" - określenie dotąd stosowane wobec zagranicznych firm uznawanych za zagrożenie dla bezpieczeństwa narodowego, nigdy wcześniej wobec amerykańskiej spółki.

Urzędnicy amerykańskich agencji wywiadowczych, w tym CIA, która korzysta z technologii Anthropic, prywatnie namawiali obie strony do porozumienia. Niektórzy obecni i byli urzędnicy nadal mają nadzieję na kompromis.

Jeszcze w ubiegłym roku Anthropic, OpenAI, Google i xAI brały udział w pilotażowym programie Pentagonu badającym możliwości wykorzystania sztucznej inteligencji w obronności. Anthropic była jedyną firmą, która wdrożyła swoje technologie w systemach niejawnych, a jej rozwiązania były szeroko wykorzystywane przez urzędników ds. obronności.

Dziś to jednak OpenAI stało się głównym partnerem Pentagonu - przynajmniej na razie.