Rodzina 12-letniej dziewczynki, która została ciężko ranna podczas strzelaniny w kanadyjskiej szkole, pozywa firmę OpenAI, właściciela ChataGPT. W pozwie czytamy, że sprawczyni ataku, 18-letnia Jesse Van Rootselaar, traktowała chatbota jako powiernika, któremu opisywała "różne scenariusze związane z przemocą z użyciem broni palnej". Kilkunastu pracowników OpenAI oznaczyło te posty i zaleciło powiadomienie organów ścigania. Firma jednak tego nie zrobiła.
- W lutym w Kanadzie doszło do tragicznej strzelaniny: 18-letnia Jesse Van Rootselaar zabiła kilka osób, w tym swoją rodzinę i uczniów.
- Matka jednej z ofiar pozwała właściciela ChatGPT, firmę OpenAI, zarzucając jej brak odpowiedniej weryfikacji wieku użytkownika i niewłaściwą reakcję na sygnały ostrzegawcze.
- Firma zapowiada współpracę z władzami i wprowadzenie zmian w protokołach bezpieczeństwa.
- Bądź na bieżąco! Więcej aktualnych informacji znajdziesz na RMF24.pl.
Do tragedii doszło 10 lutego w Tumbler Ridge w Kanadzie. 18-letnia Jesse Van Rootselaar przed urządzeniem strzelaniny w szkole zabiła swoją 39-letnią matkę i 11-letniego przyrodniego brata. W szkole zastrzeliła 39-letnią nauczycielkę, trzy 12-letnie uczennice i dwóch uczniów (12 i 13 lat). Po wszystkim odebrała sobie życie.
12-letnia Maya Gebala została wówczas postrzelona w szyję i głowę. Przeżyła atak, ale doznała poważnych obrażeń. Dziewczynka nadal przebywa w szpitalu.
Jej matka Cia Edmonds wniosła pozew cywilny przeciwko firmie Open AI, właścicielowi ChataGPT - informuje BBC. Zwraca w nim uwagę, że Rootselaar założyła konto w serwisie ChatGPT przed ukończeniem przez nią 18 lat, tymczasem użytkownicy mogą to zrobić za zgodą rodziców. Edmonds i jej prawnicy twierdzą, że na stronie nie przeprowadzono żadnej weryfikacji wieku.
Podnoszą, że zabójczyni traktowała chatbota jako "zaufanego powiernika" i opisywała mu "różne scenariusze związane z przemocą z użyciem broni palnej". Miało się to dziać przez kilka dni późną wiosną lub wczesnym latem 2025 roku.
Jak twierdzą autorzy pozwu, dwunastu pracowników OpenAI oznaczyło posty Rootselaar jako "wskazujące na bezpośrednie ryzyko wyrządzenia poważnej krzywdy innym" i zaleciło powiadomienie organów ścigania.
Zamiast tego rzekomo prośba o skontaktowanie się z władzami została "odrzucona", a jedynym podjętym działaniem było zablokowanie konta Rootselaar.
Firma OpenAI już wcześniej informowała, że nie powiadomiła policji, ponieważ konto nie spełniało kryteriów "wiarygodnego lub bezpośredniego planu wyrządzenia poważnej krzywdy fizycznej innym osobom".
Rootselaar udało się zresztą założyć drugie konto w ChatGPT.
Autorzy pozwu podnoszą, że firma "miała szczegółową wiedzę na temat długofalowych planów dotyczących strzelaniny", ale "nie podjęła żadnych działań, mając tę wiedzę".
Rzecznik OpenAI w oświadczeniu dla BBC nazwał wydarzenia w Tumbler Ridge "niewypowiedzianą tragedią".
"OpenAI nadal zamierza współpracować z rządem i organami ścigania, aby wprowadzać istotne zmiany, które pomogą zapobiegać podobnym tragediom w przyszłości" - to stanowisko OpenAI.
BBC przypomina, że 4 marca dyrektor generalny OpenAI, Sam Altman, odbył rozmowę z kanadyjskim ministrem ds. sztucznej inteligencji Evanem Solomonem.
Altman miał zobowiązać się do "wzmocnienia protokołów powiadamiania policji o potencjalnie szkodliwych interakcjach".
Firma jeszcze w lutym informowała, że w ostatnich miesiącach wdrożyła szereg zmian, m.in. skorzystała z pomocy ekspertów w dziedzinie zdrowia psychicznego przy ocenie przypadków oraz uelastyczniła kryteria kierowania spraw na policję.
