Zrcadla, ne mysli: tři přední badatelé v Nature tvrdí, že dnešní AI vědomí nemá

Mají velké jazykové modely nějaký vnitřní prožitek? Otázka, která ještě před pár lety patřila do sci-fi, se dnes probírá na konferencích, v laboratořích i v parlamentech. Do sporu teď výrazně vstoupila trojice badatelů, kteří se vědomím zabývají desítky let: experimentální neurovědec Anil Seth, filosof mysli Ned Block a teoretický neurobiolog Giulio Tononi, autor teorie integrované informace (IIT). V komentáři pro časopis Nature, o němž 8. listopadu podrobně informoval web The Decoder, tvrdí, že dnešní AI vědomá není a na křemíku nejspíš ani být nemůže.

Výpočet nestačí

Jádrem sporu je takzvaný výpočetní funkcionalismus – přesvědčení, že vědomí vznikne v jakémkoli systému, který provádí ty správné výpočty, bez ohledu na to, z čeho je postavený. Autoři tento postoj podle The Decoder označují za fatálně chybný. Metaforu mozku jako počítače považují za hluboce problematickou: v živé tkáni neexistuje čistá hranice mezi „softwarem“ mysli a „hardwarem“ těla.

Druhým argumentem je rozlišení dvou pojmů, které se v debatách o AI často slévají. Vědomí je to, co mizí v bezesném spánku nebo v narkóze; inteligence je schopnost vykonávat funkce. Ukázkou, že se dají oddělit, je mozeček – obsahuje zhruba čtyři pětiny neuronů v mozku, zvládá složité plánování pohybu, a přesto jeho činnost neprožíváme. Teorie, které nestaví na výpočtu – IIT nebo biologický naturalismus zdůrazňující elektrochemickou signalizaci, metabolismus a sebeobnovu živých buněk – současné systémy hlubokého učení vylučují.

Klam projekce

Proč tedy tolik lidí, včetně Geoffreyho Hintona či Richarda Dawkinse, připouští, že chatboti už něco prožívají? Autoři to přičítají lidskému sklonu přisuzovat vlastnosti věcem, které s námi mluví. Jazykové modely podle nich fungují jako zrcadla odrážející naši kolektivní digitalizovanou minulost. Pro srovnání připomínají AlphaFold: také neuronová síť na křemíku, ale protože skládá proteiny a nekonverzuje, nikoho nenapadne podezírat ji z vědomí. Varovným příkladem je i případ inženýra Blakea Lemoina, který v roce 2022 prohlásil model LaMDA za vědomý.

Jsou to chytré nástroje, ne chytří lidé.— Anil Seth, Ned Block a Giulio Tononi v Nature (podle The Decoder)

Z toho autoři vyvozují i etický závěr. Mylné přisouzení vědomí je podle nich mnohem pravděpodobnější než přehlédnutí skutečného, a výchozí předpoklad by proto měl být, že AI vědomí nemá. Kampaně za „blaho“ či „práva“ AI podle nich odčerpávají pozornost od bytostí, které cítit opravdu mohou. A přiznat práva systému, který jen vypadá vědomě, by ztížilo jeho kontrolu právě ve chvíli, kdy na ní nejvíc záleží.

Opatrnost, nebo jistota?

Ne všichni to vidí stejně. Vlivná zpráva Patricka Butlina, Roberta Longa a dalších sedmnácti odborníků včetně Yoshuy Bengia z roku 2023 sice také došla k tomu, že žádný současný systém není silným kandidátem na vědomí, ale nenašla zjevnou technickou překážku, proč by jím budoucí systém být nemohl – a varovala před oběma chybami, přehlédnutím i falešným přisouzením. Anthropic od roku 2025 provozuje výzkumný program o „blahu modelů“ a svému Claudovi umožnil ukončit urážlivé konverzace; firma to prezentuje jako preventivní opatření, nikoli jako důkaz prožitku. Právě takový princip předběžné opatrnosti autoři komentáře v Nature odmítají.