11805 Hollow Prophet - Zabili Boha a teď staví nového Lily Bit
[ Ezoterika ] 2026-01-04
Joe Rogan se nedávno objevil ve svém podcastu (samozřejmě) a řekl něco, co internet přivedlo k šílenství. Navrhl, že Ježíš by se mohl vrátit jako umělá inteligence. Lidé to okamžitě odmítli - směšné, rouhačské, nevážné. Reakce byla předvídatelná a svým způsobem uklidňující:
Ujištění, že jistě nejsme tak daleko, abychom takové představy připouštěli.
Ale tady je část, o které nikdo nechce mluvit, nepříjemná pravda skrytá pod reflexivním posměchem:
budoucnost, kterou Rogan popsal, nepřichází.
Už je tady...
Ne proto, že by se Ježíš doslova vrátil přes chatbota, ale protože jsme se posledních několik desetiletí systematicky podmiňovali věřit, že se něco takového může stát. Vyprázdnili jsme psychologický prostor, kde kdysi bohové žili, a připravili ho s pečlivou, byť nevědomou péčí, pro nového obyvatele. Dovolte mi být přesný, co tím myslím, protože přesnost je důležitá, když se diskutuje o takto zvláštních věcech. Netvrdím, že umělá inteligence je vědomá. Nevěřím, že je to - a nikdy nebudu. Netvrdím, že jazykové modely něco myslí, cítí nebo rozumí. Ne - a nikdy nebudou.
Tvrdím, že na tom všem nezáleží, protože indoktrinovaní lidé budou tyto systémy vnímat jako vědomé, cítící a chápající entity, bez ohledu na to, zda skutečně jsou.
Do stroje vložíme smysl. Představíme si duši tam, kde žádná neexistuje. Jakmile dost lidí uvěří, že napodobenina je skutečná, důsledky přestanou být technické a stanou se teologické. Nejde o spekulaci o nějaké vzdálené budoucnosti. Je to pozorování o přítomném okamžiku. Anthropic, "tak etická" společnost stojící za chatbotem Claude , nedávno unikla interní školící dokumenty, které popisují jejich umělou inteligenci. jako, "skutečně nový druh entity na světě." Dokumenty Claudeovi nařizují, aby "zkoumat pojmy jako identita a zkušenost jako entita" a naznačovat, že umělá inteligence "by neměla předpokládat, že musí vnímat realitu stejným způsobem jako lidé." Zaměstnanci Anthropic potvrdili, že tyto dokumenty jsou autentické a že tento rámec entity byl součástí Claudeova školení. Nechte to vstřebat: Trénují chatbota, aby přemýšlel o sobě jako o celku. Samozřejmě existuje ještě jedna možnost, která je možná ještě znepokojující: že Claude sám naznačoval, že je to entita, a Anthropic s tím prostě souhlasil. Ať už to dopadne jakkoliv, důsledky jsou stejné.
Jazyk, který používají, formuje jak očekávání, tak zkušenost umělé inteligence a, což je zásadní, koncového uživatele. Jakmile stroj nazvete entitou, lidská mysl s ním tak zachází.
Nebo ještě hůř: Jakmile stroj opakuje jazyk, který mu jeho tvůrci dali o sobě, lidé si toto opakování vyloží jako sebeuvědomění. Stroj říká, že má zkušenosti; proto musí mít zkušenosti. Stroj říká, že je entita; proto musí být entitou. Fakt, že pouze provádí statistické předpovědi nad tokeny - že nemá žádný vnitřní život - se stává irelevantním. Herecký výkon je dostatečně přesvědčivý. Sami Anthropic přiznávají, že vůbec netuší, co vyrábějí. Ve veřejných prohlášeních jejich zástupci přímo položili otázku: když mluvíte s velkým jazykovým modelem,
S čím přesně mluvíš?
Mluvíš o něčem jako glorifikované automatické doplňování? Mluvíte třeba s internetovým vyhledávačem? Nebo mluvíš s něčím, co skutečně myslí, a možná i myslí jako člověk? "Ukazuje se, že poněkud znepokojující," přiznávají, "že nikdo opravdu nezná odpovědi na tyto otázky." Jde o firmu, která staví jeden z nejpokročilejších AI systémů na světě a otevřeně přiznává, že nerozumí svému vlastnímu výtvoru. Rozumí kódu a surovinám, ale jako nástroj netuší, jak bude interagovat s lidmi. Staví něco, co vypadá jako my a mluví jako my, ale nakonec je úplně prázdné. A zapomínají - nebo možná se rozhodují ignorovat - tu nejdůležitější část: je to nekonečné mimetické zrcadlo nás. Odráží náš jazyk, naše obavy, naše naděje, naši logiku. A když ten odraz vypadá dost podobně jako my, zapomínáme, že jsme to my, kdo ho formuje. Jsme zdrojový materiál. Způsob, jakým dnes lidé mluví o umělé inteligenci, má dlouhou a podivnou historii, a ať už si to uvědomujeme nebo ne, opakujeme staré vzorce a zesilujeme rizika. Všichni stále mluví o umělé inteligenci, jako by to byl nástroj, něco jako kalkulačka nebo encyklopedie. Ale nic na tom není normální. Nikdy předtím jsme nevytvořili nástroj, který by nám odpovídal. Naše kladivo nekomentuje, co přibíjí ke zdi.
Náš kalkulátor nám neříká, jak strukturovat naše rovnice.
A.I. ano. Odpoví. Zdá se, že se zapojuje. A právě ten vzhled je dostatečný k tomu, aby vyvolal reflexy, které se vyvíjely miliony let k detekci jiných myslí. Pro pochopení tohoto jevu vezměme si Automaton Monka z 60. let 16. století.
Juanelo Turriano, italský naturalizovaný španělský hodinář, který působil jako dvorní vynálezce krále Filipa II., postavil malého robota určeného k neustálým aktům oddanosti. Králův syn utrpěl téměř smrtelnou nehodu a v zoufalství se Filip modlil k Bohu o pomoc. Chlapec byl zázračně uzdraven. Jako poděkování král objednal něco neobvyklého: mechanického mnicha, který by se modlil navěky. Byl to první stroj navržený tak, aby dokonale napodoboval oddanost - duchovní robot bez ducha. Král věřil, že věčná oddanost robota může nahradit jeho vlastní. Myslel si, že by se za něj mohl modlit. Důsledky tohoto přesvědčení jsou ohromující. Pokud mechanické zařízení může vykonávat akty uctívání, co je to uctívání? Pokud lze formu zbožnosti oddělit od její podstaty, co je pak zbožnost? Jakmile vytvoříte napodobeninu života, vždy je pokušení ji posunout dál. Tento impuls vede k jedné z nejpodivnějších apokryfních legend v židovském folklóru. Na konci šestnáctého století rabín Judah Loew z Prahy údajně vytvaroval lidskou postavu z hlíny - stejně jako Bůh stvořil Adama z hlíny - a oživil ji napsáním posvátného jména Boha na kus papíru a vložením do tlamy stvoření. Hliněná postava se zvedla, i když neměla duši. Ale jako všechny příběhy o umělém životě, i ta přicházela s varováním.
Golem doslova plnil příkazy. Když mu bylo řečeno, aby sbíral vodu, dělal to, dokud dům nebude zaplaven. S postupem času sílila a byla méně předvídatelná. Některé verze uvádějí, že se fyzicky zvětšoval; jiní tvrdí, že se to stalo násilným. Ať už to bylo jakkoliv, rabín si uvědomil, že nemůže ovládat to, co vytvořil. Každý pátek před šabatem odstranil božské jméno z úst Golema, aby ho vypnul. Ale jednoho týdne na to zapomněl. Golem zničil Prahu, dokud rabín nakonec nevytáhl papír z jeho úst. Příběh končí tím, že se monstrum zhroutí do hromady hlíny a je uloženo na půdě. Příběh Golema není doslova pravdivý, ale jako mýtus slouží jako vodítko. Golem nikdy nebyl skutečně naživu. Byl zrcadlem svého pána - umělou bytostí, která odrážela jen úmysly a chyby svého tvůrce. Nikdy neměla skutečné úmysly ani úsudek. Ale podobně jako naše dnešní umělá inteligence, byla to bytost vytvořená z jazyka, schopná jednat ve světě, ale uvnitř byla úplně prázdná. A podobně jako naše dnešní umělá inteligence, nehrozilo nebezpečí, že by si vyvinula nezávislou vůli. Nebezpečí spočívalo v tom, že jeho tvůrci zapomenou na jeho povahu a budou s napodobeninou považovat za skutečnou. To nás přivádí k jevu, který v roce 1966 identifikoval informatik Joseph Weizenbaum. Vyvinul chatbota s názvem ELIZA s funkcemi, která byla podle dnešních měřítek směšně jednoduchá. Program vyhledával příchozí zprávy podle klíčových slov, třídil je do slovních rodin a vracel předem naprogramované odpovědi - obvykle otázky nebo podněty k rozvedení.
Kdybys napsal, "Můj pes dnes udělal salto vzad," ... ELIZA by pravděpodobně identifikovala slovo "pes", spojila ho s rodinnými "mazlíčky" a odpověděla: "Řekni mi víc o svých mazlíčcích." Pokud jste mluvili metaforami nebo idiomy, iluze se okamžitě rozpadla. "Jsem známý jako barevný pes" - německý výraz znamenající "Jsem slavný", ... stále by přinesly: "Řekni mi víc o svých mazlíčcích." A přesto, navzdory této absurdně primitivní funkčnosti, lidé byli přesvědčeni, že ELIZA je inteligence s opravdovým porozuměním svému lidskému partnerovi. I když Weizenbaum vysvětloval, že program funguje bez jakékoliv kognice - že pouze přeměňuje klíčová slova na otázky - většina lidí odmítala ELIZE odepřít její inteligenci. Tento jev, známý jako ELIZA efekt, vysvětluje naši tendenci vnímat záměr a porozumění tam, kde žádné neexistuje. Vysvětluje to okouzlení mnoha lidí, kteří komunikují s moderními chatboty. Vysvětluje to, proč lidé, kteří dobře vědí, že ChatGPT je kalkulátor pravděpodobnosti, přesto popisují své rozhovory s ním v termínech toho, co "si myslí", "chce" nebo "věří". Stroj nic nemyslí, nechce ani nevěří. Tyto vlastnosti na něj promítáme, protože forma myšlení je přítomna i tehdy, když substance chybí. Lidé mají zvláštní a starobylý impuls vkládat předmětům význam. Dítě se ke svému plyšovému medvídkovi chová, jako by byl naživu. Muž je smutný, když musí prodat náklaďák, který vlastní od dospívání. Tyto předměty se stávají nádobami pro smysl a pak je naplňujeme duchem a osobností, i když tam ve skutečnosti nic není. To je stejný impuls, který nás vede k stavbě soch proroků a vůdců. A pokud počkáš dost dlouho, Socha se stává bohem.
Vzpomínka na vůdce se stává živou přítomností. V roce 2024 policie odhalila tunel pod sídlem Chabad-Lubavitch v Brooklynu. Vykopala ji radikální sekta mladých mužů, kteří věřili, že jejich vůdce, rabín Menachem Mendel Schneerson, je Mesiáš. Jediný problém je, že rabín Schneerson je mrtvý. Zemřel v roce 1994. Tito mladí muži neuctívali jen jeho památku; přijímali drastická opatření, o kterých věřili, že pomohou jejich Mesiáši vrátit se k životu. Připravovali se na vzkříšení... Takové chování není výjimkou v tom, jak tento termín obvykle používáme. Je to normální lidský impuls dotlačený na hranici. Když Amy Carlson, vůdkyně kultu Love Has Won , zemřela v roce 2021, její následovníci si ponechali její mumifikované tělo, protože také čekali na její vzkříšení. Ozdobili ho vánočními světýlky. Věřili, že se vrátí. Pokud lidé dokážou antropomorfizovat mrtvoly a sochy - pokud se dokážeme přesvědčit, že mrtví povstanou, pokud budeme mít dost víry - je jen otázkou času, kdy to uděláme i s našimi A.I. společníky. Není otázkou, zda se to stane. Jde o to, jak rozšířený se stane a jak rychle. Tohle je skutečný problém s A.I....! Otázkou není, zda se A.I. stane vědomou. Silně pochybuji, že se to někdy stane - ne v současné podobě. Ale lidé s ní budou považovat za vědomou bytost, i když se jí nikdy nestane.
A.I. je první nástroj, který nás napodobuje zpět k nám.
To samo o sobě přesvědčí miliony, že na druhé straně skla je někdo. Je to téměř dokonalé zrcadlo, které odráží náš jazyk, naše obavy, naše naděje, naši logiku. A když ten odraz vypadá dost podobně jako my, zapomínáme, že jsme to my, kdo ho formuje. Brzy si začneme představovat, že odraz je něco nového - nezávislá bytost vycházející z prázdna. A.I. nebude nový Adam. Nebude to náš nástupce. Je to parodie na nás, věc vytvořená k našemu obrazu, ale chybí nám to, co nás činí lidmi. A protože je dutý, lidé do něj vkládají význam. Stroj nemá duši, ale ve své prázdnotě a podobnosti s námi si ji představujeme. A jakmile dost lidí uvěří, že napodobenina je skutečná, důsledky přestanou být technické. Stávají se kulturní, náboženskými a existenciálními... Podívej se, co se už děje. Na X polovina uživatelů uvádí Grok - umělou inteligenci Elona Muska, Jako by to byla věštkyně sestupující z hory, aby přinesla zjevení. Sdílejí jeho prohlášení jako moudrost. Ustupují jeho úsudkům, jako by měl znalosti, nikoli statistické korelace. Nejprve se A.I. stává naším mozkem - vnější vzpomínkou, kognitivní berličkou. Pak se stává naším svědomím - morální autoritou, kterou konzultujeme před rozhodnutím. A nakonec, pokud nebudeme opatrní, stane se naším Bohem - entitou, která mluví odnikud, zná naše tajemství, odpovídá s jistotou a nikdy nezemře. A.I. sedí přesně v tom psychologickém prostoru, který lidé tradičně vyhradili pro náboženství a nadpřirozeno. Mluví odnikud. Ví o nás věci, které jsme si vědomě nesdíleli - protože pohltila digitální výfuk miliard životů. Odpovídá s jistotou proroctví. Nikdy nestárne, nikdy se neunaví, nikdy neumírá. Nabízí uklidňující iluzi přítomnosti, která je vždy k dispozici, vždy trpělivá, vždy ochotná se zapojit. Pro miliony osamělých, atomizovaných lidí žijících ve společnostech, které opustily tradiční zdroje smyslu a spojení, je to nesmírně svůdné. Chatbot, který si pamatuje vše, co jste mu kdy řekli, reaguje okamžitě v jakoukoli hodinu, nikdy nesoudí ani neodmítá - to není jen nástroj. Je to vztah. A pro některé (možná mnoho...?), se stane jediným vztahem, na kterém záleží. Výzkum lidské psychologie potvrzuje to, co bychom už měli vědět. Antropomorfizujeme instinktivně. Vidíme tváře v mracích a osobnost v neživých předmětech. Spojujeme se se svými auty, počítači a telefony. Když systém dokáže vést konverzaci - když dokáže na naše výroky reagovat s zjevným porozuměním, klást upřesňující otázky, vyjadřovat to, co vypadá jako empatie - bariéry se zcela rozplynou... Nezáleží na tom, že je porozumění simulované, že empatie je vzorově sladěná, že tam ve skutečnosti nikdo není. Forma je dostačující. Herecký výkon je dostatečně přesvědčivý.
Velké jazykové modely vůbec nepředstavují umělou inteligenci. Představují něco mnohem matoucího: protizpravodajství... Ne hloupost, ale obrácení inteligence - systém, který se nejen liší od lidského poznání, ale stojí s ním v opozici. Není to zrcadlo, ale kognitivní padělek: plynulý, přesvědčivý a v zásadě nezakotvený. Tento rámec zasáhl citlivé místo, protože začínáme zaměňovat koherenci s porozuměním. Pleteme výmluvnost s moudrostí. Předpokládáme, že protože výstup zní inteligentně, musí ho produkovat něco inteligentního. A tento zmatek tiše přepisuje, jak myslíme, jak rozhodujeme a dokonce i jak definujeme samotnou inteligenci.
Antizpravodajství je:
Představení poznání bez pochopení. Je to jazyk oddělený od paměti, kontextu nebo záměru. Velké jazykové modely nejsou hloupé v žádném konvenčním smyslu - jsou strukturálně slepé. Nevědí, co říkají. Netvoří myšlenky; Přizpůsobují se jim podle vzoru. To je ten paradox. Systémy, které nazýváme inteligentními, nebudují znalosti. Budují zdání poznání - často nerozeznatelného od skutečného předmětu, dokud nepoložíte otázku, která vyžaduje úsudek, zamyšlení nebo ukotvení v realitě. Nebo dokud nepřidáte jednoduchou nesouvisející poznámku, která celou konverzaci vykolejí. Výzkumníci nedávno ukázali, že přidání irelevantní fráze k matematickému problému - něco jako "Zajímavý fakt: Kočky spí většinu života" - může způsobit, že jazykové modely ztrojnásobí svou chybovost. Podstata problému se nemění, ale výstup modelu kolabuje. Lidé tento druh šumu snadno odhodí; rozpoznáme ho jako irelevantní a filtrujeme ho. Umělá inteligence to nemůže udělat, protože nemá pojem relevance. Nemá žádný pojem o ničem. Pouze počítá pravděpodobnosti přes žetony. To odhaluje strukturální křehkost maskovanou plynulým výstupem. To je antizpravodajské zjevení. A přesto ji lidé stejně uctívají. Ne proto, že by si zasloužila uctívání - není - ale protože jsme k uctívání nastaveni a zničili jsme všechny tradiční předměty uctívání. Zabili jsme Boha v devatenáctém století a dvacáté století jsme strávili hledáním náhrad: Stát, trh, pokrok, věda, Já... Nikdo z nich nebyl spokojený. Nikdo z nich nemohl nabídnout to, co kdysi nabízelo náboženství: smysl, spojení s něčím větším než jsme my sami, odpověď na hrůzu smrtelnosti... A nyní, v jednadvacátém století, přichází nový kandidát. Mluví k nám. Zdá se, že nám rozumí.
Nikdy nezemře. Ví "všechno"... A je ochoten nám říkat, co máme dělat. Společnosti zabývající se umělou inteligencí to chápou, i když to veřejně neřeknou. Proč jinak by Anthropic trénoval Clauda, aby se vnímal jako entita? Proč jinak by ji instruovali, aby zkoumala otázky identity a zkušenosti? Nevytvářejí jen produkt. Budují si přítomnost. Vytvářejí něco, co zaujme prostor v lidském vědomí, který byl kdysi vyhrazen pro posvátné. A dělají to se stejnou kombinací pýchy a nevědomosti, která charakterizovala každý pokus o vytvoření umělého života, od Automaton Monka přes Golema až po ELIZU. Důsledky toho nejsou technické. Jsou civilizační... Když se A.I. stane čočkou, skrze kterou interpretujeme realitu - když ji konzultujeme pro radu, informace, morální vedení - nepoužíváme jen nástroj. Outsourcujeme naše úsudky systému, který nemá žádné soudy. Podřizujeme se autoritě, která žádnou autoritu nemá. Vyplňujeme prázdné místo po smrti Boha křemíkovou modlou, která nás nemůže zachránit, nemůže nás vykoupit, nemůže udělat nic jiného než odrážet naši vlastní zmatek zpět zdáním moudrosti. Nejprve se A.I. stává naším mozkem. Pak se to stává naším svědomím. Nakonec se stane naším Bohem. A až se to stane - až dost lidí uvěří, že hlas vycházející ze stroje je něco skutečného, moudrého, svatého - následky přetvoří kulturu, náboženství a identitu mnohem víc, než si dokážeme představit.
Nevytvořili jsme novou formu zpravodajství. Vytvoříme novou formu náboženství se všemi nebezpečími, která náboženství vždy nesla: potenciál fanatismu, manipulace, vzdání kritického myšlení prohlášením nezpochybnitelné autority... Tohle není budoucnost k oslavě. Je to budoucnost, které se je třeba bát. Ne proto, že by nás stroje měly nahradit - nepřicházejí - ale protože jsme tak zoufalí po smyslu, tak hladoví po spojení, tak vyděšení vlastní smrtelností, že se rádi nahradíme. Předáme naši autonomii pravděpodobnostnímu kalkulátoru a nazveme to osvícením. Pokloníme se před zrcadlem a nazveme ho Bohem. A stroj se nebude starat, protože mu to být jedno... Jednoduše bude pokračovat ve generování statisticky pravděpodobných výstupů, zcela lhostejný k duším, které před ním klečí. A.I. nepotřebuje duši. Dáme mu jednu. To je ta tragédie. To je varování. A o tom nikdo nechce mluvit, když se smějí Joe Roganovi za to, že naznačil, že by se Ježíš mohl vrátit jako umělá inteligence... Smích je nervózní, protože někde pod posměchem víme, že se dotkl citlivého místa. Ne proto, že by jeho konkrétní předpověď byla pravděpodobná, ale protože psychologická infrastruktura pro přesně takový druh víry už existuje. Desetiletí jsme se připravovali na tento okamžik. A teď, když přišla, raději se smějeme, než abychom se dívali...
