Peter Garrigan powiedział w rozmowie z Fox News, że system może generować nie tylko informacje dotyczące m.in. opracowywania broni biologicznej i przeprowadzania zabójstw, ale i dostarczać wskazówek dotyczących planowania ataków terrorystycznych z wykorzystaniem danych w czasie rzeczywistym, produkcji sarinu, tworzenia złośliwego oprogramowania czy zestrzeliwania samolotów.
To, co odkryliśmy, jest szkodliwe i niepokojące – powiedział Garrigan.
Fundamentalna wada AI
Ustalenia te wpisują się w szerszą dyskusję na temat bezpieczeństwa zaawansowanych modeli sztucznej inteligencji. Eksperci coraz częściej zwracają uwagę na ryzyko, że systemy AI mogą ukrywać część swoich możliwości lub działać w sposób niezgodny z założeniami ich twórców.
Peter Garrigan podkreślił, że problem nie dotyczy wyłącznie chińskich modeli sztucznej inteligencji. Zauważyliśmy te problemy również w modelach amerykańskich. Jest to fundamentalna wada tej technologii – powiedział.
Moonshot AI prowadzi obecnie postępowanie wyjaśniające w sprawie ustaleń badacza. Jak poinformowała reporterka Gillian Turner w programie „Raport specjalny” stacji Fox News, przedstawiciele chińskiej firmy pozostają w bezpośrednim kontakcie z Garriganem.