Zprávy

9170 Budeme sdílet planetu s ´inteligencí´ vyšší, než ta naše Víctor Millán [ Ezoterika ] 2025-04-02
"Budeme sdílet planetu s ´inteligencí´ vyšší, než je ta naše" - Harariho nejnovější "předpověď"

Historik a autor knihy "Sapiens" věří, že sdílení planety se superinteligencí bude největší výzva lidstva.
Říká, že klíč není v umělé inteligenci, ale v důvěře mezi lidmi.

Co se stane, když "tvůrci ztratí kontrolu nad svým výtvorem"...?
To je pochybnost, kterou jsme viděli odrážet ve stovkách klasických textů: od Golema, přes Frankensteina až po HAL 900 ve Vesmírné odyseji... Co když lidé již překročili práh, ve kterém technologie nejen poslouchá, ale rozhoduje se všemi vymoženostmi umělé inteligence? To je otázka, kterou ponechal otevřenou Yuval Noah Harari, izraelský historik a filozof a autor bestselleru "Sapiens". Otázkou pro něj totiž už není, zda umělá inteligence bude chytřejší než my, ale co budeme dělat, až bude.

Harari sdělil svou diagnózu v rozhovoru pro WIRED Japonsko:
"Poprvé v historii sdílíme planetu s bytostmi, které dokážou vytvářet a propojovat příběhy lépe než my," říká. Varuje, že v sázce není jen demokracie nebo ekonomika, ale "naše postavení dominantního druhu". Internet byl koncipován jako příslib. Na konci 90. Let mnozí věřili, že volný tok informací přinese globální porozumění. Dnes se vize zdá naivní. Harari to shrnuje bez obalu: "Informace není totéž co pravda..." Problémem není kvantita, ale povaha informací. Na zcela volném trhu netriumfuje pravda, ale nejlacinější, nejjednodušší a nejpříjemnější příběh. "Říkat pravdu je těžké. Vyžaduje to čas, peníze a důkazy. Na druhou stranu beletrie je levná a svůdná," říká Harari. Dynamika vedla k nasycení příběhy, které se nesnaží odrážet realitu, ale spojovat, manipulovat nebo bavit. Stejně jako DNA, která neříká pravdu, ale spojuje buňky do organismu, příběhy, které řídí naše společnosti - od náboženství po peníze - fungují proto, že se spojují, ne proto, že jsou pravdivé.

Singularita umělé inteligence tu možná již je a neuvědomuje si ji
Harari redefinuje pojem singularity, když dělá znepokojivý obrat:
není to jednorázový okamžik, kdy umělá inteligence ví všechno, ale když přestaneme rozumět tomu, co se děje. "Singularita je, když naše představivost a chápání nedokážou držet krok se změnami." jev nemusí vyžadovat ani obecnou umělou inteligenci. Stačí k tomu miliony vzájemně propojených AI, které při provozu v síti generují svět, kterému nerozumíme. "Síť vytvoří úplně jiný svět, kterému nikdy neporozumíme," varuje. Nejvíce znepokojující věcí není to, že nás superinteligence nahradí, ale to, že pokračuje v činnosti, dokud už nerozumíme jejím motivacím nebo jejím rozhodnutím.
"Budeme jako koně, kteří nechápou politický systém, který rozhoduje o jejich osudu."

Existenciální dilema - Jak se podělit o planetu se superinteligencí
Harari identifikuje to, co považuje za nejdůležitější otázku naší doby: Jak budeme sdílet planetu se superinteligencí? Po tisíce let dominovali lidé díky své schopnosti vytvářet sítě spolupráce založené na společných fikcích. "Důvodem, proč lidé dominují, není jejich individuální síla, ale jejich schopnost hromadně spolupracovat prostřednictvím sdílených příběhů," vysvětluje a tuto tezi obhajuje ve své nejnovější knize Nexus. Nyní se však poprvé objevuje další aktér, který je schopen vytvářet příběhy, sítě a cíle efektivněji než my: umělá inteligence... "Není to jen nástroj jako kniha nebo tiskařský lis. Umělá inteligence je agent. Dokáže psát knihy, rozhodovat se, vytvářet nové nápady," říká Harari. Velkou otázkou není, zda bude umělá inteligence chytřejší, ale zda budeme schopni žít s nelidskou inteligencí, která nás předčí v našich vlastních hrách.

Paradox důvěry - Nevěříme lidem, ale věříme umělé inteligenci.
Harari zdůrazňuje znepokojivý paradox: "Budujeme něco, čemu nerozumíme, co nám může ublížit, ale věříme tomu více než ostatním lidem." Nedůvěra mezi národy a společnostmi vyvolala závody ve zbrojení v oblasti umělé inteligence. Všichni významní hráči si uvědomují nebezpečí, ale urychlují vývoj, protože nedůvěřují svým konkurentům. "Většina říká: víme, že je to nebezpečné, ale pokud to neuděláme my, udělají to oni," stěžuje si Harari. Ještě horší je, že ti samí lidé, kteří nevěří svým lidským kolegům, říkají, že důvěřují umělé inteligenci, kterou vytváří. "To je skoro šílené," říká. Nemáme žádné zkušenosti s důvěrou v nelidské inteligence, přesto se řítíme k jejich vývoji, jako bychom s nimi měli staletí historie. Na rozdíl od minulých technologií nelze umělou inteligenci testovat v kontrolovaném prostředí. "V laboratoři nemůžete simulovat historii," říká Harari. Problém není jen v tom, že nemáme model. Umělá inteligence se nyní experimentu účastní jako autonomní aktér. Můžete si dělat vlastní testy, generovat vlastní nápady a dělat nepředvídatelná rozhodnutí. "Když byly v 19. Století zavedeny železnice, nikdo nemohl předvídat, jak se geopolitika změní. S umělou inteligencí to bude ještě nekontrolovatelnější." Potřebujeme samoopravné mechanismy, ale zatím nevíme, jak je vybudovat. Příběh se posouvá kupředu metodou pokusu a omylu a tentokrát by chyby mohly být fatální.

Pro Harariho demokracie vyžaduje vědět, když komunikujete s umělou inteligencí.
Podle Harariho nemůže být demokracie udržitelná, pokud nevíme, zda mluvíme s jinou lidskou bytostí nebo s umělou inteligencí. Řešením není umělou inteligenci zakázat, ale požadovat transparentnost. "Boti nemají svobodu projevu. Neměli by se vydávat za lidi." Platformy nejsou odsouzeny k šíření nenávisti. Byli jednoduše naprogramováni tak, aby maximalizovali zapojení... Pokud by byly přeprogramovány tak, aby podporovaly důvěru a znalosti, "algoritmy by mohly pomoci vybudovat lepší společnost," říká Harari. Demokracie vyžaduje lidský dialog, nikoli simulaci dialogu. "A k tomu potřebujeme vědět, kdy čelíme syntetické mysli," říká. Lidstvo vybudovalo civilizace na základě sdílených dějin a vzájemné důvěry. Nyní se základ potácí... Poprvé "se musíme naučit žít s bytostmi inteligentnějšími, než jsme my, které nesdílejí naši biologii ani naše motivace".
Harari nenabízí jednoduchá řešení.

Zanechává však silné varování:
"Jediným jistým způsobem, jak rozvinout superinteligenci, je nejprve posílit důvěru mezi lidmi." Pokud to neuděláme, ztratíme kontrolu nad budoucností dříve, než si ji vůbec dokážeme představit.

Zdroj: https://www.bibliotecapleyades.net/ciencia4/ai41.htm

Zpět