Szesnastolatek z Baltimore (USA) został zakuty w kajdanki przez policję po tym, jak system sztucznej inteligencji błędnie rozpoznał paczkę chipsów jako broń. Incydent wywołał debatę na temat bezpieczeństwa i skuteczności technologii AI w amerykańskich szkołach.
- W Baltimore 16-letni Taki Allen został zatrzymany przez policję, bo system AI pomylił paczkę chipsów z bronią.
- Policja przyjechała w sile ośmiu radiowozów, kazali mu się położyć na ziemi i założyli kajdanki.
- Politycy domagają się teraz przeglądu zasad korzystania z AI w szkołach.
- Po więcej informacji zapraszamy na RMF24.pl
Do zdarzenia doszło w Baltimore, gdzie 16-letni Taki Allen został zatrzymany przez uzbrojonych funkcjonariuszy po tym, jak system AI wykrył u niego rzekomą broń. W rzeczywistości nastolatek trzymał w ręku paczkę chipsów Doritos. "Policja przyjechała, osiem radiowozów, wszyscy wysiedli z bronią i kazali mi położyć się na ziemi" - relacjonował Allen lokalnym mediom, na które powołuje się BBC.
Policja hrabstwa Baltimore poinformowała, że funkcjonariusze "zareagowali odpowiednio do otrzymanych informacji". Ostatecznie, po przeszukaniu, potwierdzono, że chłopak nie miał przy sobie żadnej broni, a incydent zakończył się bez dalszych konsekwencji.
System AI, który wykrył potencjalne zagrożenie, przekazał alert do zespołu ds. bezpieczeństwa szkoły. Choć ludzie szybko zweryfikowali, że nie ma zagrożenia, dyrektor szkoły nie zauważył tej informacji i powiadomił szkolnego oficera oraz lokalną policję. To doprowadziło do interwencji.
Lokalni politycy domagają się teraz przeglądu procedur związanych z użyciem technologii AI w szkołach. "Wzywam władze szkół w Baltimore County do przeanalizowania procedur dotyczących systemu wykrywania broni opartego na AI" - napisał radny Izzy Pakota.
Firma Omnilert, dostawca systemu AI, wyraziła ubolewanie z powodu incydentu, ale podkreśliła, że system "działał zgodnie z założeniami", a decyzje o interwencji podejmowali ludzie. "Wykrywanie broni w rzeczywistych warunkach jest trudne" - zaznacza firma.
Sam Allen przyznaje, że po incydencie czuje się mniej bezpiecznie i unika wychodzenia na zewnątrz po treningach. "Nie uważam, że jakakolwiek paczka czipsów powinna być mylona z bronią" - komentuje.
