Modele AI nie halucynują. Jeśli już, to konfabulują

• Więcej informacji z Polski i świata znajdziesz na RMF24.pl.

Anil Seth to neurobiolog i pisarz, dyrektor Centrum Nauk o Świadomości, profesor neurobiologii poznawczej i obliczeniowej na Uniwersytecie Sussex. Pełni również funkcję współdyrektora programu Canadian Institute for Advanced Research poświęconego mózgowi, umysłowi i świadomości. Jest badaczem Europejskiej Rady ds. Badań Naukowych. Otrzymał liczne wyróżnienia, w tym: Nagrodę im. Michaela Faradaya przyznawaną przez Royal Society w 2023 roku, Medal Humanist Association Rationalist Press w 2025 roku oraz Nagrodę Berggruena w 2025 roku.

Magazyn "Prospect" umieścił go na liście 25 najwybitniejszych myślicieli świata w 2024 roku. Jego książka z 2021 r. "Being You: A New Science of Consciousness" znalazła się na liście bestsellerów Sunday Times i została wybrana Książką Roku przez wiele wydawnictw. W maju był gościem Copernicus Festival w Krakowie. 

Grzegorz Jasiński: Mamy wiele dyskusji na temat możliwości, że sztuczna inteligencja kiedyś będzie świadoma. Pojawia się pytanie, czy to jest możliwe? Pada odpowiedź, że ciągle nie wiemy, czym jest świadomość. Więc o czym właściwie rozmawiamy?

Anil Seth: Myślę, że wszyscy wiemy, czym jest świadomość. To jest bardzo bliskie nam zjawisko. Właściwie to jest powód, dla którego jest tak tajemnicza, ponieważ w przeciwieństwie do wielu tajemnic wszechświata, świadomość jest po prostu najbardziej obecnym zjawiskiem w naszym codziennym życiu. To jest to, co tracimy, gdy zapadamy w sen bez marzeń, i co wraca, gdy się budzimy, albo znika jeszcze głębiej pod wpływem znieczulenia i podobnych rzeczy. 

Kiedy jesteśmy obudzeni i otwieramy oczy, nasz mózg nie tylko przetwarza informacje, pojawia się świat. Doświadczamy kolorów, kształtów, obiektów, ludzi i miejsc, czujemy emocje. To jest świadomość. To każde doświadczenie, jakie by nie było. Więc jest bardzo znajome. Zdaję sobie sprawę, że to nie jest bardzo precyzyjna czy formalna definicja. W nauce i filozofii zaczyna się od definicji, która po prostu ma sens w codziennym użyciu słowa, a potem krok po kroku próbujemy naprawdę zrozumieć, co się dzieje. 

Pierwszą rzeczą, którą trzeba powiedzieć, jest to, że świadomość nie jest tym samym, co inteligencja. Świadomość dotyczy odczuwania, bycia i doświadczania. Niekoniecznie chodzi o robienie czegoś, bycie mądrym czy używanie języka. Te rzeczy w naszym przypadku sobie towarzyszą. To, że towarzyszą sobie u nas, nie oznacza, że zawsze tak jest. 

Doświadczamy świadomości. To jest część naszego życia. Może więc nie potrzebujemy żadnej definicji. Może jesteśmy dobrzy w doświadczaniu jej, a nie w opisywaniu? 

Myślę, że potrzebujemy. Przynajmniej dla mnie świadomość wymaga zrozumienia. Wszyscy się zastanawiamy. Myślę, że większość z nas zastanawia się w pewnym momencie życia, dlaczego jestem osobą, którą jestem. Dlaczego jestem mną, a nie kimś innym? Gdzie byłem, zanim się urodziłem? Co się stanie po śmierci? Ale jeszcze bardziej fundamentalne są pytania o wolną wolę. Nasza najlepsza wiedza o wszechświecie opiera się na materii, procesach fizycznych, atomach, molekułach czy polach. W naszych mózgach mamy ten niesamowicie złożony system fizyczny, prawie dziewięćdziesiąt miliardów neuronów połączonych w niezwykle skomplikowany sposób. A jednak jako towarzyszące temu systemowi fizycznemu pojawia się świadome doświadczenie, to proste uczucie smaku kawy rano czy wrażenie patrzenia na zachód słońca. To po prostu domaga się zrozumienia, jak i dlaczego to w ogóle może się zdarzyć. To jest słynny "trudny problem świadomości" wyrażony przez Davida Chalmersa. Wydaje się obiektywnie nierozsądne, że wszystkie te fizyczne procesy w mózgu powinny skutkować świadomym doświadczeniem, a jednak tak jest. Więc nie powinniśmy tego ignorować. To część długiego łuku nauki i filozofii oraz ich próby zrozumienia naszego miejsca w naturze, w świecie fizycznym, we wszechświecie. Dlatego potrzebujemy definicji, ale definicje zawsze ewoluują wraz z naszym rozumieniem. To nie jest coś, co trzeba całkowicie zamknąć od samego początku. 

Zastanawiałem się, dlaczego więcej myślimy o świadomości dopiero teraz, gdy stajemy twarzą w twarz ze sztuczną inteligencją. Może to jest związane z jakimś niepokojem, że świadomość AI może oznaczać coś złego dla nas. Myślę, czy świadomość to coś więcej niż posiadanie celu, interesów, a świadoma AI może mieć interesy różne od naszych. Czy myśli pan, że rozważanie możliwości świadomej AI pomoże nam zrozumieć naszą własną świadomość? 

Mam taką nadzieję. Myślę, że to bardzo ładne ujęcie. Idea świadomej AI jest dla wielu ludzi bardzo niepokojąca. Jest wiele spraw, o które można się martwić. Jeśli systemy AI są świadome, to idzie za tym wiele konsekwencji. Mają własny status moralny, więc musielibyśmy martwić się o ich własne interesy, a nie tylko o ich wpływ na nas, ludzi. To sprawia, że problem dostosowania, regulacji i kontroli jest jeszcze bardziej skomplikowany niż już jest, a jest bardzo trudny. 

Nie rozumiemy dobrze związku między świadomością a czynnościami i działaniami w otaczającym świecie. U nas są one bardzo ściśle powiązane. W systemach AI mogą, ale nie muszą być. Stworzenie sztucznych systemów zdolnych do odczuwania byłoby przełomowe. Zmieniłoby nasz cały krajobraz moralny. W istocie uczyniłoby nas jakby bogami w świecie. Tworzymy nie tylko życie, ale coś, co czuje, co doświadcza. Jest więc wiele powodów do niepokoju, ale też wiele okazji do refleksji. Myślę, że jest prawdziwa rozbieżność między tym, jak prawdopodobne wydaje się, że AI może być świadoma. Projekcje świadomości na rzeczy są bardziej zakorzenione w naszej ludzkiej psychologii niż w samych systemach. Mamy tendencję do mylenia i łączenia inteligencji, świadomości i języka, bo u nas idą razem. Ale gdy zaczynamy dostrzegać różnice, to rzeczywiście pojawia się wiele możliwości. 

Od stuleci zmagamy się ze zrozumieniem mózgu i zawsze używaliśmy metafory, by uchwycić, czym jest mózg. Przez ostatnie dekady dominującą metaforą był mózg jako jakiś rodzaj komputera, który jest zrobiony z mięsa, a nie z krzemu. Pojawienie się systemów AI o obecnych możliwościach naprawdę wystawia tę metaforę na próbę. Im bardziej patrzysz na prawdziwy mózg, tym bardziej zdajesz sobie sprawę, jak bardzo różni się od komputera. Zarówno w abstrakcyjnym sensie obliczeń, czyli tego, co rozumiemy przez algorytm czy obliczenia, jak i komputerów w sensie fizycznym, tych urządzeń, które mamy w telefonach, na biurkach czy w ogromnych farmach serwerów gdzieś w Arizonie czy gdzie indziej. To zupełnie inne rzeczy. Im bardziej skupiamy się na tych różnicach, tym bliżej jesteśmy zrozumienia, jak świadomość manifestuje się w mózgach, które znamy, które mamy, czyli w systemach żywych, bardzo różnych od maszyn krzemowych. 

Chciałbym zapytać o możliwość, że nasza świadomość może być w pewien sposób przeciążona przez wpływ świata zewnętrznego. Zawsze byliśmy świadomi świata zewnętrznego, ale było to prostsze. Teraz wszystko walczy o naszą uwagę, robimy wiele rzeczy naraz, nie będąc na to gotowi. Czy uważa pan, że to może zablokować naszą świadomość? Może będziemy walczyć, by pozostać w mniejszej przestrzeni?

Jedną z najbardziej zdumiewających cech mózgu jest jego zdolność do adaptacji. Świat, w którym żyjemy teraz, jest niewyobrażalnie różny od świata, w którym ewoluowały nasze mózgi. Jest ogromnie różny od świata, w którym dorastałem 40 lat temu, a jednak sobie radzimy. Zdolność mózgu do ciągłego przystosowywania się do nowych sytuacji jest po prostu niezwykła. To dzięki niej zaszliśmy tak daleko jako gatunek, ale to też powód, dla którego często wpędzamy się w kłopoty jako gatunek. Teraz, wraz z rozwojem AI, stajemy przed nowym zestawem zagrożeń i możliwości. 

Najłatwiej chyba porównać to z tym, co się stało i dzieje z mediami społecznościowymi, które były sposobem na przechwytywanie naszej uwagi. Dzięki tym narzędziom, jak bezmyślne nawykowe przewijanie, czy podobnym, znaleźliśmy się w środowisku, gdzie znacznie trudniej kontrolować własną uwagę. Nasza uwaga była kontrolowana przez systemy wokół nas. Sztuczna inteligencja zrobi coś innego. Nikt jeszcze dokładnie nie wie, co to będzie, ale wydaje się, że jeśli systemy AI będą wydawać się świadome, jeśli będą miały umysły, to zamiast tylko zlecać lub kontrolować naszą uwagę, inne aspekty naszej kognicji mogą być również przekazywane tym systemom. Więc wyzwanie, w najogólniejszych słowach, to jak używać AI, by pomogła nam lepiej myśleć, by wzmacniać nasz wrodzony potencjał poznawczy, a nie by AI myślała za nas? Musimy myśleć samodzielnie, póki jeszcze możemy, by zapewnić, że nasza relacja z technologią, w tym z AI, jest komplementarna, synergiczna, a nie taka, w której stajemy się przez nią ubożsi.

Jak ważna dla naszej świadomości jest autonomia? Jak pan powiedział, algorytmy pokazują nam, co powinniśmy chcieć zobaczyć, jakieś playlisty... Wkładają nas w jakąś bańkę informacyjną. Czy nasza świadomość jest tego świadoma i chce być autonomiczna, tak się czuje?

Jest tu wiele do zrozumienia. Centralnym elementem ludzkiego doświadczenia jest autonomia, zdolność do działania, wolna wola, poczucie bycia autorem swoich działań, w pewnym stopniu kontrolowania swoich myśli. I to już jest częściowo iluzja. Większość rzeczy, które robimy, po prostu się dzieje. Większość myśli po prostu się pojawia. W pewnym sensie wolna wola jest iluzją. Nie doświadczamy często pełnej kontroli nad naszymi działaniami czy myślami, choć możemy tak myśleć. Może więc przeceniamy znaczenie tych czynników w codziennym życiu. Ale nadal ma to znaczenie. Duża część naszego społeczeństwa jest zorganizowana wokół idei, że jesteśmy w pewnym stopniu autonomicznymi jednostkami zdolnymi brać odpowiedzialność za swoje działania, a interakcje z technologiami mogą to zmieniać i mogą zmieniać w sposób, którego nie jesteśmy świadomi. Myślę tu też o nowych technologiach, jak interfejsy mózg-komputer, gdzie ludzie mogą nosić zestawy rejestrujące sygnały mózgowe, które można dekodować i może za kilka lat, w połączeniu z AI, powstaną systemy próbujące czytać nasze myśli, dekodować je. Ale jeśli te systemy nie będą działać idealnie, a nigdy nie będą, mogą zacząć błędnie klasyfikować nasze myśli albo będziemy musieli myśleć w określony sposób, by systemy działały poprawnie. To przykład, jak możemy zacząć tracić sprawczość czy autonomię nad naszymi myślami. 

Ogólnie rzecz biorąc, jeśli używamy AI, by myślała za nas, to niemal z definicji tracimy część kontroli nad naszą autonomią. Teraz jest bardzo ciekawy czas dla AI. To były bardzo interesujące lata, ale teraz jest szczególnie interesująco, bo systemy agentowe AI naprawdę się rozwijają. To systemy, które nie tylko odpowiadają na zapytanie jak ChatGPT czy Claude, ale wykonują działania w świecie, przynajmniej w internecie. Mogą coś wyszukać, zarezerwować lot, mogą opróżnić twoje konto bankowe, jeśli coś pójdzie nie tak. Stają się bardziej ludzkie w tym sensie, że jedna z naszych kluczowych zdolności, czyli możliwość działania, sprawczość, ma teraz w pewien sposób odbicie w naszych technologiach. To ma kilka konsekwencji. Po pierwsze, będziemy jeszcze bardziej uwiedzeni podobieństwem między systemami AI a nami. Jeszcze trudniej będzie dostrzec różnice, gdy one też mają tę sprawczość. Możemy więc być bardziej skłonni myśleć, że te systemy są świadome, bo mają tę cechę, którą my też mamy. Ale to też stawia wyzwanie dla społeczeństwa. Sprawczość staje się bardziej rozproszona, a w takim stopniu, w jakim ją przekazujemy AI, może działać w obie strony. Możemy ją po prostu zlecić i stracić, ale optymistyczne podejście jest takie, że te systemy mogą też wzmacniać naszą sprawczość. Możemy robić więcej, skuteczniej, lepiej, a może nawet bezpieczniej, jeśli zbudujemy te systemy właściwie. 

Chciałbym zapytać o wpływ świadomości na medycynę - problemy neurologiczne czy psychiatryczne albo z drugiej strony badanie świadomości osób w stanie zamknięcia. Czy uważa pan, że mamy szansę na istotny przełom w tych dziedzinach?

Myślę, że tak i to bardzo dobry punkt. Łatwo myśleć o świadomości jako o problemie filozoficznym i może robimy postępy, ale to tylko część wielkiego wyzwania zrozumienia siebie. Ale świadomość to też tajemnica, która ma znaczenie i nawet częściowe zrozumienie jej natury jest ogromnie ważne w wielu kontekstach, w tym w medycynie. Działa to w obie strony. Kiedy próbujemy zrozumieć złożone zjawisko, jak mózg i jego związek ze świadomością, możemy wiele się nauczyć, patrząc na przypadki, gdy coś idzie nie tak po uszkodzeniu mózgu czy w chorobach psychiatrycznych. Jest tu wiele ekscytujących rzeczy. 

Wspomniał pan o stanie zamknięcia. W tym stanie nie chodzi o problem ze świadomością. To przypadek niemal lub całkowitego paraliżu, gdzie ludzie nie mogą się poruszać. Z zewnątrz mogą wyglądać, jakby nic się nie działo, ale są w pełni obudzeni, w pełni świadomi. To jest dość łatwe do wykrycia, bo wielu pacjentów w stanie zamknięcia może poruszać oczami i tak dalej. Trudniejsze są przypadki tzw. stanu wegetatywnego lub stanu czuwania bez świadomości. Może się to zdarzyć po ciężkim urazie mózgu. Z zewnątrz może wyglądać, że osoba jest nieświadoma, nie reaguje na polecenia, nie angażuje się wzrokiem. Tradycyjnie uważano, że osoby w tym stanie całkowicie nie mają świadomości. Ale teraz wiemy, dzięki pracy mojego kolegi Adriana Owena w Kanadzie i innych, że około 10 do 20 procent tych pacjentów jest nadal świadomych, tylko nie mogą tego wyrazić swoim zachowaniem. Wiemy to na różne sposoby, badając aktywność mózgu i widząc podobieństwa do normalnej świadomości czuwania. Takie postępy pomagają diagnozować te stany, lepiej przewidywać, co się stanie dalej, czy jest większa szansa na wyzdrowienie. Otwierają też nowe drogi leczenia i opieki. 

Gdy wiesz, że pacjent jest świadomy, możesz wymyślić sposoby komunikacji z nim, co może być przełomowe. To jeden przykład. Drugi to psychiatria. Leczenie psychiatryczne, czy to dotyczące depresji, schizofrenii, lęków, poczyniło wielkie postępy, ale nadal jest jednak dość daleko w tyle... bez urazy dla moich przyjaciół psychiatrów. Nie mamy aspiryny czy antybiotyku na chorobę psychiczną. Musimy zrozumieć mechanizmy. Choroby psychiatryczne zwykle objawiają się zmianami w świadomych doświadczeniach. Mamy halucynacje, doświadczamy rzeczy nietypowych, nienormalnych, niepokojących. Ewoluujące rozumienie, jak mózg konstruuje doświadczenie, daje nam narzędzia do zrozumienia mechanizmów leżących u podstaw tych zaburzeń. Rozumiemy teraz znacznie więcej na temat tego, jak i dlaczego ludzie mają halucynacje, niż wcześniej. To pomaga nam zrozumieć świadomość w jej normalnym stanie, ale też daje lepszy obraz tego, co dzieje się w psychiatrii. 

Wspomniał pan o halucynacjach i to jedna z teorii, nad którą pan pracuje. Czy nie było zabawne, gdy aktywność niektórych dużych modeli językowych zaczęto nazywać halucynacjami? Miałem bardzo ciekawą rozmowę, w której jeden z naukowców powiedział mi, że halucynujący LLM to coś jak halucynujący student, który nie zna odpowiedzi na egzaminie i próbuje cokolwiek wymyślić. Jak to wygląda z punktu widzenia pańskiej teorii? 

Bardzo się cieszę, że poruszył pan ten temat. To mnie zawsze irytowało, jak ludzie opisują modele językowe jako halucynujące. To nadużycie słowa. To ma konsekwencje, przynajmniej moim zdaniem. Halucynacja u człowieka to rodzaj świadomego doświadczenia. Halucynacja to doświadczenie, zwykle definiowane jako doświadczanie czegoś, czego naprawdę nie ma. To złe słowo do opisu modelu językowego. 

Gdy model językowy "halucynuje", to znaczy, że wymyśla rzeczy. Wymyśla je cały czas. Ale zwykle mamy na myśli, że mówi coś nieprawdziwego. Podaje biografię kogoś, a to się nie wydarzyło. To nie jest halucynacja. Jeśli mamy używać metafory z medycyny, powinniśmy mówić o konfabulacji. To nie jest tak znane, ale w medycynie konfabulacja oznacza zasadniczo wymyślanie rzeczy bez świadomości, że się to robi. To dużo dokładniejszy opis tego, co robią modele językowe, gdy wymyślają. 

Jeśli używamy słowa halucynacja, to nieświadomie wzmacniamy ideę, że te systemy są świadome, bo halucynacja to doświadczenie. Żeby zrozumieć, czym są te systemy, jakie mają zdolności, a co równie ważne, czego nie mają, musimy być dużo bardziej rygorystyczni w języku, którego używamy do opisu ich działania. 

Zapytam o nasze ludzkie halucynacje. Jak ważne są dla naszego rozumienia świadomości?

Dla mnie są absolutnie kluczowe. W pewnym sensie wszyscy halucynujemy cały czas. Mówię tak, bo jest pokusa, by myśleć, że nasze świadome doświadczenia świata to po prostu odczyty informacji sensorycznych. Otwierasz oczy i świat po prostu tam jest. Jakby przelewał się przez nasze oczy i uszy do umysłu. Wydaje się, że mózg nie ma z tym wiele wspólnego. Po prostu jest świat i go doświadczam. Ale im bardziej zagłębiamy się w to, jak ten proces faktycznie działa, przynajmniej tak to rozumiem po wielu latach, to nie jest proces, w którym mózg po prostu otwiera się na świat czy odczytuje świat z tego strumienia sygnałów sensorycznych. 

Mózg zawsze aktywnie konstruuje świat, który doświadczamy. To teoria zwana przetwarzaniem predykcyjnym albo mózgiem bayesowskim i różne inne nazwy. Mózg zawsze robi przewidywania co do przyczyn sygnałów zmysłowych, które dostaje, i używa tych sygnałów, by kalibrować te przewidywania, aktualizować je, utrzymywać je powiązane ze światem w użyteczny sposób. Ale to, co doświadczamy, jest bardziej związane z przewidywaniami niż z danymi naszych zmysłów. To, co doświadczamy, to rodzaj najlepszego przewidywania tego, co jest tam na zewnątrz. Kontrolowana halucynacja. Przechodzi z góry w dół albo od środka na zewnątrz tak samo jak z zewnątrz do środka. Jest więc ciągłość między normalnym postrzeganiem a halucynacją. Gdy ludzie klinicznie halucynują, czy to w psychozie, czy pod wpływem psychodelików, czy w inny sposób, to nadal ten sam podstawowy proces. Mózg nadal robi i aktualizuje przewidywania, ale teraz proces ten został w pewnym znaczącym stopniu oderwany od świata. Ludzie widzą rzeczy, których naprawdę nie ma.

Dla mnie kluczowe jest to, że to nie są fundamentalnie różne zjawiska, to tylko różne sposoby działania tego samego procesu. Więc tak, halucynujemy cały czas, tylko nasze halucynacje są kontrolowane przez rzeczywistość. Widzimy, czujemy, słyszymy, dotykamy świata nie takim, jaki jest, ale takim, jaki jest dla nas użyteczny, byśmy mogli się w nim praktycznie zachowywać i radzić sobie na co dzień.