Neustále být připraven na to, že věcem nerozumíme

Můžou nám méně typické způsoby lidského myšlení pomoci pochopit umělou inteligenci? Proč je důležité mít empatii k odlišnosti a novým druhům subjektivity? V čem je rozum chápaný z lidské perspektivy limitující? Jak se vzájemně utváří člověk a technologie? Lze oddělit myšlení a cítění? Je automatizace práce hrozbou, nebo nadějí? S teoretikem Palem Fabušem jsme si povídali o neurodiverzitě a umělé inteligenci.

NI     Co pro tebe znamená pojem neurodiverzita?

PF     K tomuto pojmu jsem se dostal na základě mého dlouhodobého zájmu o umělou inteligenci. Tato dvě témata sdílejí výzvu nahlížet jiná myšlení než ta, která známe a která byla doposud vytěsňována. Z pohledu vztahu k umělé inteligenci skýtá neurodiverzita pole, na kterém bychom mohli objevit nové přístupy k jinému myšlení. Neurodiverzita je komplexní fenomén – je to soubor postojů, hnutí, které se snaží přehodnotit postoj k diagnózám, jako je např. autismus, ADHD, dyspraxie, dyslexie, dyskalkulie a další. Jde o snahu nechápat je jako nemoci, které bychom měli léčit, ale brát je jako součást osobnosti a myšlení, které si zaslouží být akceptováno za svých vlastních podmínek. Nechápat je jako deficit nebo odchylku od kýženého normálu.

NI     Neurodiverzita je poměrně novým termínem, poprvé byl použit socioložkou Judy Singer před 25 lety. Proměnil se za tu dobu přístup většinové společnosti k neurodivergentním lidem?

PF     Proměňuje se hned na několika úrovních. Nejen na úrovni toho, jak tyto osoby vnímáme, ale také na úrovni zhodnocování jejich diagnózy. Jako validní začíná být brána autodiagnóza. Začínáme chápat, že jednak medicína nemá monopol na určení diagnózy a jednak že neurodivergentní lidé vnímají svoji diagnózu jako součást svojí identity, a nikoli jako vadu. V další rovině je to snaha přehodnotit kulturu jinakosti, brát ji jako příležitost učit se novému druhu citlivosti, schopnosti klást si otázky, otevřenosti vůči druhým, a to nejen vůči neurodivergentním lidem, ale obecně brát ostatní takové, jací jsou. Současně na nás klade nárok, abychom se nevztahovali ke světu kolem, k druhým ani k sobě samotným jako k něčemu, co se dát vysvětlit obecnými pojmy a zavedenými pravidly. Chce po nás neuzavírat se a neustále být připraveni na fakt, že věcem nerozumíme, děláme chyby ve snaze je odhadnout a určit, co je správné a důvěryhodné.

NI     Existují v historii vedle patologizace i příklady tolerance, inkluze či uvědomění si pozitivního přínosu neurodivergentních osob pro společnost?

PF     Dnes existuje snaha vracet se k historickým postavám a reinterpretovat je jako neurodivergentní osobnosti. Mluví se například o tom, že Isaac Newton byl nejspíše na autistickém spektru, podle jedné studie se texty Arthura Schopenhauera vyznačují metonymickým způsobem myšlení, které nápadně připomíná myšlení některých osob na spektru atd. Doufám, že i na základě toho se postupně podaří dekonstruovat představy o „bláznivých vědcích“, které jsou spíš nálepkou nezájmu a vyloučení.

NI     Jak přesně ses dostal k propojení témat umělé inteligence a neurodiverzity? V čem vidíš jejich paralely?

PF     Vyrůstal jsem na sci-fi, a tak je pro mě umělá inteligence asi nejstarším zájmem v přemýšlení o budoucnosti, kterou už dnes ale můžeme zažívat. Mám určitou nevoli k tomu, jakým způsobem se umělá inteligence občas představuje. Tím nemám nutně na mysli klišé o terminátorech. I mezi akademiky a umělci se objevují atavismy vnímající umělou inteligenci starou optikou. Představují si ji jako umělou osobnost, schopnou konkurovat například lidské umělecké tvorbě. Problém je, že tyto atavistické představy o subjektu jsou příliš zužující a konzervativní. Připadá mi škoda, že místo toho, abychom se snažili objevovat nové druhy myšlení za jejich vlastních podmínek, neustále se snažíme je připodobnit k člověku. Jedním z těch přístupů, který by nás mohl naučit nově vnímat umělou inteligenci, je právě neurodiverzita. Podívejme se na texty, které psal o budoucí umělé inteligenci Alan Turing. Vidíme, že on i jeho slavný test, který ověřuje, zda je umělá inteligence schopná opravdu myslet, nepředpokládá, že by mohla vypadat jinak než lidská. Navíc nejde o obecné srovnání s člověkem, ale s bílým dospělým západním člověkem, nejspíš mužem. Kdybychom tento test chtěli uplatnit na lidech z jiné kultury, ženách a dětech nebo neurodivergentních osobách, nejspíše by v něm neobstáli, a tím pádem by nebyli považováni za osoby myslící.

NI     Což tak samozřejmě není…

PF     Samozřejmě. Nejrůzněji uplatněná umělá inteligence – ať už hovoříme o vysavači, který se seznamuje s pokojem, než ho vyluxuje, o autu, které se učí reagovat na blížící se srážku, nebo zařízení odhalující rakovinový nádor či stav včelstva v úlu – funguje lépe než člověk. Planetární logistické systémy směřují k něčemu, co se dá označit jako singulární kalkulativní entita. Vidíme nejrůznější rádce, našeptávače, démony, semiautonomní boty. Před našima očima se rodí celá fauna inteligencí, které je škoda podrobovat kritériu lidského myšlení, které navíc není tak zeširoka lidské, jak jsme si mohli myslet. Je tady paleta nových subjektivit, které jsou plnohodnotnou inteligencí, aniž by měly vlastní osobnost.

NI     Jak si ale tyto rozdílnosti představit?

PF     Představuje se to obtížně a volá to po novém druhu citlivosti, protože z těchto důvodů nerozumíme umělé inteligenci ani neurodivergentním osobám a vykládáme si je prizmatem neurotypického myšlení jako chybné, deficitní a zasluhující vyloučení. Chci se vyhnout tomu, abych neurodivergentní osoby srovnával s počítačem nebo roboty, jak se to někdy stereotypně dělá ještě i dnes. Jde mi spíše o to, že tato dvě témata spolu souvisejí jakožto dvě výzvy k otevřenosti akceptovat jiné formy myšlení jako validní, plnohodnotné, a především neredukovatelné na to, co už známe. K tomu mě vede i Bernard Stiegler s myšlenkou vzájemného utváření člověka a technologií nebo Donna Haraway a její myšlenka, že digitální technologie vedou k feminizaci práce, což vytváří příležitosti nahlédnout ženskou perspektivu. Je to několikanásobně propojené. Tuto antropotechnickou vzájemnost hledám i v přemýšlení o umělé inteligenci a neurodivergentních osobách.

NI     James Bridle ve své knize Temné zítřky ukazuje, že jsme čím dál tím více závislí na sofistikovaných technologiích, aniž rozumíme jejich fungování. Podle něj se před námi rýsuje dystopická budoucnost, jejíž projevy vidíme už dnes – nárůst nerovnosti, sledování, fundamentalismu, konspiračních teorií. Doprovodným jevem umělé inteligence je i „umělá hloupost“. Nejeví se v tomto světle technooptimistické vize jako naivní? V čem vidíš možná rizika umělé inteligence?

PF     Nejde mi o technoptimistickou vizi, že to dobře dopadne, jako spíš o příležitosti a problémy, které se před námi otevírají. Měřit závislost na technologiích je těžké, jelikož nás provázejí od nepaměti. Dokonce je podle posledních archeologických nálezů používal už Australopithecus, což je předchůdce druhu Homo, takže technologie tady byly dříve než člověk. Jasně že na technologiích závislí jsme, ale to už od neolitické revoluce rozvinutím zemědělství. Když jsme vynalezli fonetickou abecedu, tak jsme začali být závislí na možnosti psát písemné záznamy, před čímž už Platón varoval, že tím ohrožujeme naši schopnost paměti. Proto se mi líbí teze, že technologie fungují jako protézy údů, které jsme nikdy neměli. Rozšiřují, diferencují, o něco nás obírají, něco nám přidávají. Od dřívějších kultur se lišíme zvýšenou sebereflexivitou, až hypersebereflexivitou. S rapidním rozvojem technologií souvisí i jejich odmítání, snaha o přírodní alternativy. To rozrůznění je tak obrovské, že se nedá mluvit o závislosti na technologiích jako něčem jednoznačně špatném, ačkoliv to samozřejmě nějaké hrozby nese vždy.

NI     Mluvil jsi o potřebě porozumět jiným druhům myšlení, než je to lidské, což mi připomnělo současné apely na opuštění antropocentrického rámce pro prostor k řešení složitých planetárních problémů, jako je klimatická změna. Jak nám v tom může napomoci umělá inteligence?

PF     Umělá inteligence nám skýtá přístup k složitějším jevům, robustnějším datům, ve kterých je schopná vyhledávat vzorce lépe než člověk. Umělá je ale i naše, lidská inteligence, protože ji od nepaměti prostřednictvím médií a různých pomůcek nastavujeme, rozšiřujeme a modulujeme. Technologie takříkajíc zvětšují pracovní stůl našeho vědomí. Různé schopnosti a kapacity delegujeme na pomůcky, stroje, a ty se tím pádem zapojují do okruhů našeho myšlení, stávají se naší součástí. A právě v tom je naše tzv. přirozená inteligence umělá už od samého počátku, poněvadž je rozvinutá zmíněným protetickým způsobem. Podle německých mediálních studií jsou média tělem myšlení – to znamená, že myšlení se nenachází v mozku. Mohli bychom vyjít z Bergsonova materialismu, podle kterého je mysl ve věcech i v mozku kolem nás. Zkrátka nedá se situovat na jedno místo a vzniká spřežením mozku s různými jevy. Tím pádem je součástí myšlení kladivo, žebřík, zápisník, počítač nebo zorané pole. Umělá inteligence do této evoluce vnáší něco nového – semiautonomní subjektivitu, a tedy nelidskou schopnost myslet a rozhodovat.

NI     Vzpomněl jsem si na film Spika Jonze Her, ve kterém hlavní hrdina naváže vztah s umělou inteligencí. Ve filmu je dobře znázorněno zmatení pramenící z faktu, že umělá inteligence se může chovat jako myslící subjekt, který má osobnost i emoce. Proč se zdráháme toto přijmout a může nám taková představa připadat nepatřičná, nebo dokonce děsivá?

PF     Myslím si, že je to úplně naopak. To, co si lidé představují jako hrozbu nebo příslib umělé inteligence, vychází z antropomorfních představ – tedy, že budeme čekat od umělé inteligence schopnost rozumět tomu, o co jde člověku, že bude chápat, nebo dokonce projevovat emoce.

Podle mě je mnohem složitější si představit umělou inteligenci, která je schopná plnohodnotného myšlení, aniž by projevovala emoce. To je dáno postkarteziánským tvrzením, že mysl nelze oddělit od platformy, na které k němu dochází. Aby počítač projevoval emoce coby svoji funkční složku, a nikoli jen jako simulovanou fasádu, předpokládá, že tak bude fungovat i jeho tělo. Pokud má ale jiné tělo, inteligence a citlivost se bude projevovat jiným způsobem. Oddělování myšlení a cítění není udržitelné. Vezměme si jako východisko třeba to, jak pojímá emoce David Hume. Podle něj je uplatňování rozumu jen velmi specifickou, stabilní a klidnou emocí. Ostatně kdyby nebyla, tak by bylo divné, že logická elegantní řešení v nás vzbuzují emoci, ačkoliv je máme za čistě racionální produkty. Místo emocí bych u strojů hledal něco, čemu nerozumíme, co je pro nás nové a co vyžaduje nové pojmy, uchopení a přístupy. Je to výzva myslet citlivost jako výpočetní problém, a ne jako projev emocí.

NI     Na jedné přednášce jsi zmiňoval filozofa Ericha Hörla, který mluví o umělé inteligenci jako „čtvrté ráně lidské sebelásce“. Co tím myslí?

PF     Je to úvaha, která navazuje na text z roku 1920 Poznámky k psychoanalýze, ve kterém Sigmund Freud definuje tři rány lidské sebelásce. Ta první je kopernikovská, kdy si člověk uvědomil, že není středem vesmíru. Pak darwinovská, kdy pochopil, že není nijak výjimečný oproti ostatní fauně, a třetí je psychoanalytická, kdy dospívá k zjištění, že „Já není pánem svého domu“. Hörl přidává čtvrtou, kybernetickou ránu spočívající v tom, že člověk nemá monopol na myšlení a že se myšlení může odehrávat i na jiných platformách než v lidském těle.

POPISKY

1–2 | Palo Fabuš, fotografie generované Nikolou Ivanovem prostřednictvím AI generátoru DALLE 2, 2023
3 | Palo Fabuš, foto Nikola Ivanov, 2023