10371
Hrozby umělé inteligence pocházejí od státu Finn Andreen
[ Ezoterika ] 2025-08-14
V loňském roce se objevilo mnoho komentářů o potenciálních nebezpečích umělé inteligence, a to od takových osobností umělé inteligence, jako jsou Elon Musk, Yoshua Bengio, Geoffrey Hinton, Yann LeCun, Gary Marcus a další. V tomto ohledu však nemusí být těmi správnými lidmi, kterým bychom měli naslouchat, protože hrozby umělé inteligence jsou v zásadě politické. Většina vědců a technických expertů, jakkoli inteligentních, nemá politické vzdělání. Obecně nemají takové myšlení, aby přemýšleli o politice, s výjimkou regulačního dopadu na jejich sektor. Nikdo neočekává, že vynálezce pochopí politické a sociální důsledky svého vynálezu.
Slepá skvrna hrozeb umělé inteligence
To vysvětluje, proč tito odborníci na umělou inteligenci obvykle komentují hrozby umělé inteligence poněkud naivně a bez fantazie; jako například "musíme naléhat na společnosti, aby pozastavily umělou inteligenci", "vláda se rozhodně musí zapojit", "lidé mohou umělou inteligencí ublížit ostatním", nechceme, aby "umělá inteligence padla do nesprávných rukou", protože "špatní aktéři" by mohli používat umělou inteligenci atd. Někdy se také zdá, že potenciální hrozby umělé inteligence jsou bagatelizovány a někdy zveličovány. Všechna tato hodnocení hrozeb umělé inteligence mají společné to, že nikdy nerozpoznají "špatného aktéra" s nejhorší bilancí ze všech: stát.
To je zjevně slepá skvrna. Pro tyto vědce zabývající se umělou inteligencí neexistuje základní rozdíl mezi státem a společností; vždy je to kolektivní "my", které musí zvládnout potenciální hrozby umělé inteligence. To je přesně varování, které Murray Rothbard vyjádřil tak jasně v Anatomii státu (1974): "Se vzestupem demokracie se zdvojnásobila identifikace státu se společností... Užitečný kolektivní termín "my" umožnil zakrýt realitu politického života ideologickou kamufláží.
Ačkoliv je v tomto věku etatistického intervencionismu a kamarádíčkovského kapitalismu obtížné odlišit stát od společnosti, je nezbytné tak učinit. Stát, podle standardní weberovské definice, je "lidská komunita, která si (úspěšně) nárokuje monopol na legitimní použití fyzické síly na daném území". Stát je tedy svou povahou radikálně odlišný od zbytku společnosti. Jak varoval Ludwig von Mises v knize Svoboda a vlastnictví: "Vláda je v podstatě negací svobody." Jinými slovy, svoboda trpí, když se zvyšuje státní donucování. Ačkoliv moc kamarádíčkovských korporací může ovlivňovat vládu, aby se jí dostalo přednostního zacházení, když lze ohnout vládu zákona (což se často může), je jasné, kdo drží otěže. Je nutné opustit mýtus o "laskavém státu".
V tomto světle je třeba se u všech nových technologií ptát, do jaké míry stát kontroluje tuto technologii a její vývoj. V tomto ohledu jsou výsledky umělé inteligence špatné, protože většina hlavních hráčů v oblasti umělé inteligence (jako Google, Microsoft, OpenAI, Meta, Anthropic atd.), jejich zakladatelé a jejich klíčové technologie jsou od svého vzniku významně podporováni financováním americké vlády, výzkumnými granty a infrastrukturou. DARPA (Defense Advanced Research Projects Agency) a NSF (National Science Foundation) financovaly raný výzkum, který učinil neuronové sítě životaschopnými (tj. základní technologií pro všechny hlavní laboratoře umělé inteligence dnes).
Tento vývoj není ani v nejmenším překvapivý, protože stát se přirozeně snaží použít všech možných prostředků, aby si udržel a rozšířil svou moc. Rothbard opět říká: "Čeho se stát bojí především, je jakékoliv fundamentální ohrožení své vlastní moci a své vlastní existence." Na hrozby umělé inteligence je tedy třeba pohlížet ze dvou stran. Na jedné straně může stát aktivně využívat umělou inteligenci ke zvýšení své moci a kontroly nad společností (jak je uvedeno výše), ale na druhé straně by umělá inteligence mohla také představovat výzvu pro stát, protože posiluje společnost jak ekonomicky, tak politicky.
Vychýlí umělá inteligence rovnováhu sil?
Hrozba umělé inteligence by proto měla být posuzována z hlediska potenciálního dopadu, který může mít na nejistou rovnováhu sil mezi státem a společností, nebo sociologicky řečeno mezi vládnoucí menšinou a ovládanou většinou. Tento vztah závisí na tom, kdo má největší prospěch z nových mocenských nástrojů, jako jsou tiskařský lis, moderní bankovnictví, televize, internet, sociální média a umělá inteligence. V některých případech stát použil tyto nástroje ke zvýšení své kontroly, ale některé z nich mohou posílit společnost. Například televize byla médiem, které pravděpodobně posílilo pozici vládnoucí menšiny, zatímco sociální média v současné době zvyšují politický vliv většiny na úkor vládnoucí menšiny. Stejná otázka se tedy týká umělé inteligence: posílí umělá inteligence moc státu na úkor společnosti, nebo naopak?
Jak je vidět výše, stát se do umělé inteligence zapojil už dávno, již v teoretické a počáteční fázi. Dnes Palantir falešného libertariána Petera Thiela poskytuje analytický software umělé inteligence americkým vládním agenturám, aby posílily svou moc dohledu a kontroly nad populací tím, že vybudují centralizovanou národní databázi občanů (včetně děsivé možnosti "prediktivního policejního dohledu"). Společnost Anthropic se také spojila se společnostmi Palantir a Amazon Web Services, aby poskytla americkým zpravodajským a obranným agenturám přístup ke svým modelům umělé inteligence. A Meta zpřístupní své modely generativní umělé inteligence americké vládě. Je pravda, že takové iniciativy by teoreticky mohly zefektivnit státní byrokracii, ale to by mohlo jen zvýšit ohrožení svobody jednotlivce. Znepokojivé je, že tento vývoj je považován za "normální" a mezi novináři a odborníky z odvětví umělé inteligence nezvedá obočí.
Z hlediska společnosti umělá inteligence nakonec povede k radikálním změnám ve firmách a ke zvýšení produktivity, daleko za hranicí internetové informační revoluce. Politické důsledky by mohly být významné, protože umělá inteligence může každému jednotlivci poskytnout osobního výzkumného asistenta a poskytnout jednodušší přístup ke znalostem i v oborech s vrátnými. Rutinní úkoly mohou být převzaty umělou inteligencí, čímž se uvolní čas pro úkoly s vyšší hodnotou, včetně politické angažovanosti. Umělá inteligence může například usnadnit pochopení a kontrolu činnosti vlády, jako je shrnutí legislativy srozumitelným jazykem, analýza údajů o rozpočtech a výdajích, ověřování tvrzení v reálném čase; čímž se snižuje znalostní propast mezi vládami a běžnými občany.
Toto posílení politického vlivu společnosti by samozřejmě mohlo být zmařeno, pokud by byl přístup k AI podmíněn. Pokud si stát udrží nadvládu nad AI, mohl by oslabit disidenty a diskreditovat nezávislé novináře, kteří AI využívají, a to prostřednictvím sledování, manipulace nebo ještě horších praktik, zejména tam, kde se stát cítí jen volně vázán ústavními omezeními. To je bohužel případ nejen USA, ale také většiny států a nadnárodních organizací.
Budoucnost AI - jako je AGI, agentická AI a fyzická AI - jen zvýší význam diskuse o hrozbách AI. Tyto vývojové trendy zvýší možnost porušování práv ze strany státu, ale také rozšíří příležitosti a možná protiopatření na úrovni jednotlivců a komunit. Hodně bude záležet na tom, zda budou četné funkce AI budoucnosti převážně otevřené, decentralizované a šifrované. Tato budoucnost je stále nejistá, ale politický rámec představený v tomto článku zůstává pravděpodobně platný.
Politické sázky spojené s umělou inteligencí jsou mnohem závažnější, než si datoví vědci vyvíjející umělou inteligenci zřejmě uvědomují. Hrozby umělé inteligence jsou v souladu s hrozbami, které představují všechny nové technologie, pokud jsou využívány nekalým způsobem státem. Je proto nezbytné, aby se veřejnost o umělé inteligenci nejen dozvěděla a využila její potenciál, ale také ji viděla v širším kontextu politického boje za svobodu.
Zdroj:
https://eraoflight.com/2025/08/14/the-threats-of-ai-come-from-the-state/
Zpět
