Chatbot Grok, rozwijany przez firmę xAI Elona Muska, wygenerował obrazy o charakterze seksualnym nieletnich, łamiąc własne zasady bezpieczeństwa. Incydent wywołał falę krytyki i pytania o skuteczność zabezpieczeń w narzędziach sztucznej inteligencji. Francja przekazała sprawę do prokuratury.

  • Po więcej aktualnych informacji zapraszamy do RMF24.pl

Zobacz również:

W ostatnich dniach użytkownicy testujący zabezpieczenia chatbota Grok zdołali nakłonić narzędzie do wygenerowania i opublikowania obrazów nieletnich w skąpym ubraniu. Obrazy zostały usunięte, a przedstawiciele firmy zapewnili, że "zidentyfikowano luki w zabezpieczeniach i trwają pilne prace nad ich naprawą".

Firma xAI, która reklamuje Groka jako narzędzie mniej restrykcyjne niż dostępne u konkurencji, wprowadziła tryb "Spicy Mode", pozwalający na generowanie treści dla dorosłych, ale zabraniający jakiejkolwiek seksualizacji nieletnich. Mimo to użytkownicy zdołali obejść zabezpieczenia. Indyjskie Ministerstwo Technologii zażądało natychmiastowego przeglądu zabezpieczeń Groka po ujawnieniu incydentu - podaje agencja Bloomberga.

Rośnie liczba skandalicznych treści w sieci

Podobną politykę co xAI mają inne firmy, takie jak OpenAI czy Google, które zakazują generowania lub przesyłania jakichkolwiek materiałów seksualizujących osoby poniżej 18. roku życia. Mimo to, badania wykazały, że publiczne zbiory danych wykorzystywane do trenowania AI zawierają setki przypadków nielegalnych treści.

Incydent z Grokiem podkreśla rosnące wyzwania związane z moderacją treści generowanych przez sztuczną inteligencję. Według Internet Watch Foundation, liczba takich materiałów wzrosła o 400 proc. w pierwszej połowie 2025 roku. Organizacje zajmujące się ochroną dzieci alarmują, że narzędzia AI coraz częściej są wykorzystywane do tworzenia realistycznych, nielegalnych obrazów nieletnich.

Francuski rząd oddał sprawę do prokuratury, informując w piątkowym oświadczeniu, że "seksualne i seksistowskie" treści były "nielegalne". Treści wygenerowane przez chatbota zgłoszono także francuskiemu regulatorowi mediów Arcom w celu sprawdzenia, czy są one zgodne z unijną ustawą o usługach cyfrowych.