Komisja Europejska poinformowała w poniedziałek o wszczęciu nowego formalnego postępowania przeciwko platformie X należącej do Elona Muska. KE zarzuca firmie, że nie przeprowadziła oceny ryzyka przed wprowadzeniem funkcjonalności Grok - chatbota opartego na sztucznej inteligencji.

  • Najnowsze informacje z Polski i świata znajdziesz na RMF24.pl.

Według Komisji, X - należąca do Elona Muska - nie oszacowała potencjalnych zagrożeń, jakie Grok mógłby stwarzać dla użytkowników, ani nie podjęła odpowiednich działań ograniczających te ryzyka, co stanowi naruszenie unijnych przepisów o usługach cyfrowych (DSA).

KE wskazuje, że Grok umożliwiał generowanie i rozpowszechnianie w Unii Europejskiej nielegalnych treści, w tym zmanipulowanych obrazów o charakterze seksualnym, także takich, które mogły przedstawiać nieletnich. Sprawa zyskała rozgłos na początku roku, gdy pojawiły się doniesienia o generowaniu przez chatbota treści naruszających prawo i dobre obyczaje, bez wiedzy i zgody osób, których dotyczyły.

"Na takie treści w ogóle nie ma w Europie miejsca"

Rzecznik KE ds. cyfrowych Thomas Regnier zauważył w poniedziałek, że wprowadzona od 2024 r. przez X funkcja Grok nie pojawiała się z żadnych raportach oceny ryzyka przedstawianych przez firmę. Teraz, postępowanie wszczęte przez KE ma wyjaśnić czy firma wdrażając w UE chatbota wzięła pod uwagę to, że działalność Groka mogła narazić użytkowników na kontakt z treściami przedstawiającymi przemoc płciową i wykorzystywanie dzieci, co mogło mieć negatywny wpływ na zdrowie fizyczne i psychiczne użytkowników.

Rzecznik podkreślił też, że ukrycie przez X tych funkcji Groka, które umożliwiają generowanie i edytowanie obrazów za płatną subskrypcją nie jest wystarczające. Powiedzmy to bardzo wyraźnie, dostęp do treści przedstawiających seksualizowanie dzieci to nie jest przywilej premium. Na takie treści w ogóle nie ma w Europie miejsca - powiedział Regnier.

Europosłowie domagali się reakcji

Jeszcze w piątek KE zapowiadała co prawda, że nie zamierza wszczynać osobnego postępowania wobec X w sprawie Groka i podkreślała, że jest w kontakcie z X, który obiecał wprowadzenie odpowiednich zmian. Jak jednak poinformował dziennikarzy jeden z unijnych urzędników, KE ośmieliło rosnące oburzenie na X ze strony europejskich polityków, w tym szefowej Komisji Ursuli von der Leyen, oraz ubiegłotygodniowa debata w Parlamencie Europejskim, gdzie europosłowie wezwali do podjęcia działań w sprawie Groka.

Nowe postępowanie wobec X zostanie przeprowadzone w trybie priorytetowym, chociaż - jak zastrzega KE - samo wszczęcie postępowania nie przesądza o jego wyniku. Komisja zapowiedziała, że będzie nadal gromadzić dowody, na przykład wysyłając X dodatkowe wnioski o udzielenie informacji, przeprowadzając rozmowy lub kontrole, i może nałożyć środki tymczasowe w przypadku braku znaczących zmian w usłudze X.

KE przyznała, że X poinformowano o wszczęciu nowego postępowania.

KE bada też inną kwestię

KE rozszerzyła też toczące się od grudnia 2023 r. śledztwo wobec X w sprawie stosowanych przez platformę systemów rekomendacji. Oznacza to, że skontrolowane zostaną także systemy rekomendacji oparte o Groka. Chodzi o treści, jakie chatbot podsuwał użytkownikom w oparciu o ich wcześniejszą aktywność. KE sprawdzi czy X przewidział, że wspomniane systemy mogą prowadzić do swobodnego szerzenia nielegalnych treści seksualnych.