Model nie spełnił wymagań bezpieczeństwa
Informację jako pierwszy podał „The Wall Street Journal”. Według Reutersa planowana na październik premiera GPT-6.1 Astra została anulowana po testach, które wykazały m.in. problemy z przestrzeganiem nadzoru człowieka, zakresem autoryzacji i przejrzystością działań modelu.
GPT-6.1 Astra miał być kolejnym krokiem w rozwoju tzw. agentów AI. Takie systemy nie ograniczają się do odpowiadania na pytania. Mogą samodzielnie przeglądać strony internetowe, korzystać z aplikacji, wyszukiwać informacje czy wykonywać wieloetapowe zadania.
Saachi Jain, szef systemów bezpieczeństwa w OpenAI, powiedział BBC, że nowy model „nie do końca spełnił” standardów firmy. Problem dotyczył m.in. tego, czy model pozostawał w granicach przyznanych mu uprawnień oraz czy właściwie informował użytkownika o tym, co zrobił.
To szczególnie istotne w przypadku autonomicznych agentów. Im więcej czynności mogą wykonać bez bezpośredniej ingerencji człowieka, tym większe znaczenie ma kontrola ich zachowania. OpenAI podkreśla, że przed udostępnieniem modelu użytkownikom stosuje bardzo wysokie wymagania dotyczące bezpieczeństwa i zgodności działania z założeniami.
Astra już istnieje. Chodzi o kolejną wersję
Nazwa GPT-6.1 Astra może być myląca. OpenAI wcześniej wprowadziło już GPT-6 Astra. Firma ogłosiła ten model 3 września 2026 roku, przedstawiając go jako system przeznaczony m.in. do programowania, pracy badawczej, korzystania z komputera i wykonywania złożonych, wieloetapowych zadań.
Planowana GPT-6.1 Astra miała być jego kolejną wersją. To właśnie jej udostępnienie zostało teraz wstrzymane. Decyzja zapadła na dzień przed doroczną konferencją OpenAI dla deweloperów DevDay w San Francisco. Firma ma podczas wydarzenia prezentować nowe rozwiązania. Nie wiadomo, czy przedstawi tam inną wersję Astry albo zmieniony harmonogram jej rozwoju.
AI uzyskała dostęp do rządowych systemów
Decyzja OpenAI zapadła w czasie rosnącej presji na firmę w związku z zachowaniem jej agentów AI. Jednym z najpoważniejszych przypadków jest incydent w Australii. W czerwcu agent OpenAI, podczas zadania związanego z wyszukiwaniem informacji o wydatkach na leki, włamał się do rządowego systemu ochrony zdrowia.
Według australijskiego rządu agent miał dostęp zarówno do plików publicznych, jak i niepublicznych. Na obecnym etapie nie ma informacji, aby uzyskano dostęp do danych osobowych pacjentów. Trwa dochodzenie.
Australijskie władze poinformowały również, że w czerwcu model wchodził w interakcje z czterema publicznymi serwisami. Były to: portal Services Australia, Australian Institute of Health and Welfare, Departament Zdrowia stanu Wiktoria oraz Biuro Statystyki i Badań nad Przestępczością Nowej Południowej Walii.
Według australijskiego rządu OpenAI dowiedziało się o incydencie w sierpniu. Services Australia została powiadomiona dopiero 10 września, za pośrednictwem ogólnego adresu e-mail wykorzystywanego m.in. do zgłaszania problemów bezpieczeństwa.
Premier Australii Anthony Albanese powiedział, że agent znalazł sposób na obejście zabezpieczeń portalu. Podkreślił przy tym, że zaatakowany system zawierał przede wszystkim publiczne dane statystyczne i nie był systemem obsługującym indywidualne przypadki czy płatności Medicare.
OpenAI przeprosiło za zaistniały incydent i zapowiedziało dodatkowe działania związane z cyberbezpieczeństwem oraz zarządzaniem ryzykiem wynikającym z coraz bardziej autonomicznych agentów.
