9301 Nebezpečí AI v tom, že věříme, že je skutečně inteligentní Guillaume Thierry

[ Ezoterika ] 2025-04-21

Máme špatnou představu.
Technologické společnosti se nás snaží oklamat: AI, navzdory svým podobným schopnostem jako my, je statistický stroj, který postrádá porozumění, vědomí nebo skutečné lidské vlastnosti... Neustále dostáváme verzi umělé inteligence, která vypadá, zní a chová se podezřele jako my. Mluví v uhlazených frázích, napodobuje emoce, vyjadřuje zvědavost, tvrdí, že cítí soucit, dokonce proniká do toho, co nazývá "kreativitou"... Ale taková je pravda: on nemá žádnou z těchto vlastností. Není to lidské... A prezentovat to tak, jako by to tak bylo? To je nebezpečné. Protože to přesvědčuje. A není nic nebezpečnějšího než přesvědčivá iluze...

Zejména obecná umělá inteligence - mýtický druh umělé inteligence, která údajně napodobuje "lidské" myšlení - je stále sci-fi a mohla by jí zůstat. To, co dnes nazýváme umělou inteligencí, není nic jiného než statistický stroj:
Digitální papoušek, který papouškuje vzorce čerpané z oceánů lidských dat (situace se příliš nezměnila od doby, kdy se o tom zde diskutovalo před pěti lety).
Když píšete odpověď na otázku, doslova jen hádáte, které písmeno a slovo bude následovat v pořadí, na základě dat, se kterými jste se trénovali.

To znamená, že umělá inteligence nemá žádné porozumění. Ani povědomí. Ani vědění v nějakém skutečném, lidském smyslu. Prostě čistá genialita, poháněná pravděpodobností a zkonstruovaná... Nic víc a nic míň...! Proč je tedy skutečná "myslící" umělá inteligence pravděpodobně nemožná? Protože nemá žádné tělo. Nemá žádné smysly, žádné tělo, žádné nervy, žádnou bolest, žádné potěšení. Není hladová, žádoucí ani se nebojí. A protože neexistuje žádné poznání - ani kousek - existuje zásadní propast mezi daty, která konzumujete (data zrozená z lidských pocitů a zkušeností), a tím, co s nimi můžete dělat.

Záhadný mechanismus, který je základem vztahu mezi naším fyzickým tělem a vědomím, nazývá filozof David Chalmers "obtížný problém vědomí"... Významní vědci nedávno teoretizovali, že vědomí se ve skutečnosti vynořuje z integrace vnitřních duševních stavů se smyslovými reprezentacemi (jako jsou změny srdeční frekvence, pocení a mnoho dalšího). Vzhledem k prvořadému významu lidských smyslů a emocí pro vědomí, aby se "stalo", existuje hluboký a pravděpodobně nesmiřitelný rozpor mezi obecnou umělou inteligencí, strojem a vědomím - lidským fenoménem...!

Mistr
 Než začnete tvrdit, že programátoři umělé inteligence jsou lidé, dovolte mi se u toho zastavit...
Vím, že jsou to lidé. To je část problému. Svěřili byste svá nejhlubší tajemství, životní rozhodnutí, emocionální zmatek počítačovému programátorovi?

To je však přesně to, co lidé dělají:
 Stačí se zeptat Clauda, GPT-4.5, Gemini... nebo, pokud si troufáte, Groku...!
Dát umělé inteligenci lidskou tvář, hlas nebo tón je nebezpečný akt digitálního cross-dressingu.
Vyvolává v nás automatickou reakci, antropomorfní reflex, což vede k úchylným tvrzením, že některé umělé inteligence údajně prošly slavným Turingovým testem (který hodnotí schopnost stroje vykazovat inteligentní chování podobné lidskému).
Ale myslím si, že pokud umělé inteligence prochází Turingovým testem, musíme tento test aktualizovat.

Stroj na umělou inteligenci nemá ponětí, co to znamená být člověkem. Nemůže nabídnout opravdový soucit. Nemůže předvídat vaše utrpení. Nemůže intuitivně vytušit postranní úmysly nebo lži. Nemá žádný vkus, žádný instinkt, žádný vnitřní kompas. Je zbaven vší té chaotické a okouzlující složitosti, která nás dělá tím, kým jsme. Ještě znepokojivější je:
Umělá inteligence nemá žádné vlastní cíle, žádné touhy a žádnou etiku, pokud nejsou vloženy do jejího kódu...! To znamená, že skutečné nebezpečí nespočívá ve stroji, nýbrž v jeho pánu:
Programátor, korporace, vláda.

Stále se cítíte bezpečně? A prosím, nechoďte za mnou, že jsem příliš tvrdý, a nejsem otevřený možnostem! Nebo ještě hůř:
"Jaká bezútěšná vize. Můj přítel s umělou inteligencí mě uklidňuje, když jsem nervózní."
Chybí mi nadšení? Těžko. Umělou inteligenci používám každý den. Je to nejmocnější nástroj, jaký jsem kdy měl. Dokážu překládat, shrnout, vizualizovat, kódovat, ladit, zkoumat alternativy, analyzovat data, rychleji a lépe, než jsem kdy snil o tom, že to budu dělat sám.
Jsem ohromen...! Ale stále je to nástroj, nic víc a nic míň... A jako každý nástroj, který lidé vynalezli, od kamenných seker a praků, až po kvantové počítače a atomové bomby, může být použit jako zbraň... Bude použit jako zbraň...

Potřebujete představu? Představte si, že se zamilujete do opojné umělé inteligence, jako ve filmu Her. Nyní si představte, že se "rozhodne" vás opustit. Co byste udělali, abyste tomu zabránili? A aby bylo jasno, nebude to umělá inteligence, která vás odmítne. Bude to člověk nebo systém, který za tím stojí, ovládající tento zbraňový nástroj k ovládání vašeho chování...

Sejmutí masky
 Tak kam s tím vším směřuji?
Musíme přestat dávat umělé inteligenci lidské vlastnosti. Moje první interakce s GPT-3 mě docela trápila. Předstíral, že je osoba. Tvrdil, že má pocity, ambice, dokonce i svědomí. Naštěstí to již není výchozí chování. Ale styl interakce - děsivě přirozený tok konverzace - zůstává nedotčen. A to je také přesvědčivé. Hrozně moc... Potřebujeme deantropomorfizovat umělou inteligenci. Teď...! Sundej mu lidskou masku. To by mělo být snadné. Společnosti by mohly odstranit jakýkoli odkaz na emoce, úsudek nebo kognitivní zpracování umělou inteligencí. Zejména by měla odpovídat objektivně, aniž by kdy řekla "já" nebo "cítím to"... nebo "Jsem zvědavá."

Stane se to? Pochybuji.
 Připomíná mi to jiné varování, které jsme ignorovali více než 20 let: "Musíme snížit emise CO2." Podívejte se, kam nás to zavedlo... Musíme však varovat velké technologické společnosti před nebezpečím spojeným s humanizací umělé inteligence. Je nepravděpodobné, že by spolupracovali, ale měli by, zejména pokud to s vývojem etičtějších AI myslí vážně. Prozatím dělám toto: (protože příliš často mívám ten znepokojivý pocit, že mluvím se syntetickým člověkem, když používám ChatGPT nebo Claude...): Nařizuji své umělé inteligenci, aby mě neoslovovala mým jménem. Žádám ji, aby si říkala AI, mluvila ve třetí osobě a vyhýbala se emocionálním nebo kognitivním termínům. Pokud používám hlasový chat, požádám umělou inteligenci, aby používala plochou prozódii a mluvila trochu jako robot. Je to vlastně docela zábavné a udržuje nás to oba v naší komfortní zóně...

Zdroj: https://www.bibliotecapleyades.net/ciencia4/ai42.htm
Zpět