13273 Varování před soudným dnem odvádí pozornost od bezprostřednějších obav z AI Daniel Nuccio

[ Ezoterika ] 2026-07-02

Umělá inteligence je všude. Začleňuje se do všeho. To je prostě pokrok, říká se nám. Proto ji musíme přijmout, abychom nevypadali jako technofob a nenechali Čínu vyhrát (ať už to znamená cokoli). Zároveň se však mnoho lidí AI bojí. Velmi se bojí. Někdy se nám říká, že bychom se také měli bát. Ve veřejné diskusi o umělé inteligenci však často chybí podrobnosti o tom, čeho konkrétně bychom se měli bát. Někdy ani není jasné, co se rozumí pojmem „umělá inteligence“. Technicky vzato, jak jsem se již dříve zmínil , by se dalo namítnout (jak to dělají někteří starší informatici), že AI před více než půl stoletím. Prakticky vzato lze za umělou inteligenci považovat řadu programů, se kterými žijeme už léta, jako jsou Mapy Google a doporučovací systém Amazonu, i přes jejich nedostatek novosti.

Přesto se ve veřejné diskusi termín AI obvykle vztahuje na generativní AI (např. ChatGPT), a jakýkoli počet hypotetických budoucích programů, které budou dělat vše, co lidé dokážou, jen lépe, a zároveň vyřeší všechny naše problémy a zároveň většinu z nás připraví o práci, a také se nakonec mohou rozhodnout, že na nás spustí plnou Skynetovou akci, pokud nerozhodnou, že za tu námahu nestojíme. (Zní to docela sexy. Možná by o tom někdo měl natočit sérii filmů. Možná se lidem budou líbit dokonce dva z pěti.) Bohužel však hyperboličtější, sci-fi zobrazení hrozeb, které AI představuje, obvykle získávají více pozornosti než realističtější a bezprostřednější hrozby týkající se soukromí, svobody, autonomie a dokonce i způsobu života, který si mnozí z nás užívají, a v důsledku toho od nich odvádí pozornost. Automatické čtečky poznávacích značek, rozpoznávání obličeje, „digitální babičky“, povinné programy na odhalování řízení pod vlivem alkoholu a nepozorného řízení, jakékoli technologie, o nichž „vnuk“ hovořil v článku „Autonomní doručovací robot“, a nositelná záznamová zařízení, která přepisují a zpracovávají osobní rozhovory asociálních a snadno rozptýlených osob, jsou jen některé z realističtějších hrozeb, které vás napadnou. (A to zdaleka není úplný seznam).

Proto si vážím toho, když členové naší vládnoucí třídy věnují dopoledne uvážené diskusi o relativně dobře definovaných hrozbách, které tato technologie (nebo soubor technologií) představuje, jak se stalo 4. června na slyšení podvýboru pro kybernetickou bezpečnost a ochranu infrastruktury Sněmovny reprezentantů USA, věnovaném „bezpečnostní krajině umělé inteligence“. Na první pohled se diskuse dala formulovat otázkou: „Je největší hrozba ze strany umělé inteligence vnější, v podobě zahraničních hackerů, kteří se snaží zneužít zranitelnosti v softwaru ovládajícím kritickou americkou infrastrukturu, nebo vnitřní, pramenící z nedostatku regulace a odpovědnosti za používání umělé inteligence doma?“ Ze sledování diskuse se však zdálo, že odpověď na otázku „buď, anebo“ je méně typická a spíše nesporná: „Ano a…“. Sandra Joyce z Googlu, výkonný ředitel Frontier Model Forum Chris Meserole a generální ředitel a spoluzakladatel Corridor Security Inc. Jack Cable poskytli svědectví o tom, jak umělá inteligence transformuje prostředí kybernetické bezpečnosti. Digitální zbraně se dostávají do rukou kyberbarbarů u bran, kteří je použijí k nalezení zranitelností v naší kritické infrastruktuře a provedení ransomwarových útoků. „Tato technologie má zásadní dopad na kybernetickou bezpečnost jak pro obránce, tak pro útočníka,“ uvedl Joyce.

„[H]ackeři mají silnější nástroje než kdy dříve,“ poznamenal Cable a konkrétně jmenoval Mythos a GPT-5.5. „Tyto modely nejsou jen reklamou,“ varoval. „Skutečně začínají lidi v bezpečnostních úkolech konkurovat nebo je překonávat, a to v nebývalém měřítku.“ Joyce naznačil, že „hrozební aktéři“ něco jako Mythos ani nepotřebují a že i se starším programem mohou být schopni napáchat velké škody. Matthew Guariglia, hlavní politický analytik Electronic Frontier Foundation, zdůraznil hrozby zevnitř a prohlásil: „Otázkou není, jak omezit umělou inteligenci, ale jak omezit agentury, které by umělou inteligenci uvolnily na americkou veřejnost?“ Ve svém svědectví Guariglia zdůraznil, jak americký stát národní bezpečnosti již používá řadu nástrojů, které shromažďují data o lidech bez pravděpodobného důvodu a které mohou „vyvozovat závěry o politice, osobním životě, náboženství a geolokaci dané osoby, někdy nepřesně s vážnými důsledky“.

Guariglia dále uvedl: „AI má také historii chybných úkonů, od falešných citací v právních podáních až po závažnou chybu AI, která poslala rekruty DHS do terénu bez řádného školení.“ „Pravděpodobně existují závažnější příklady, o kterých ani nevíme kvůli klasifikaci, která by zabránila důkladnějšímu zúčtování,“ dodal. Podobně poznamenala i poslankyně Delia Ramirezová (demokratka za Illinois): „Sledujeme, jak se monitorovací systémy založené na AI šíří do škol, do sociálního bydlení a do nemocnic, aniž by bylo možné je napadnout a aniž by bylo možné se odvolat, když se mýlí.“ V pozdější výměně názorů týkající se možného scénáře, kdy program AI označí zásobování vodou ve městě za ohrožené, i když je ve skutečnosti v pořádku, a následně omezí přístup obyvatel města k vodě, Guariglia a Ramirezová naznačili, že v mezích současného amerického práva by transparentnost ohledně toho, jak k problému došlo, pravděpodobně zůstala na uvážení města, které systém zavádí, zatímco otázka, kdo může být pohnán k odpovědnosti, je poněkud mlhavá.

I když to není tak sexy jako boj s T-800 v ulicích o naše životy a živobytí, další útoky ransomwaru, další narušování našeho soukromí a nedostatek požadované transparentnosti a odpovědnosti, když HAL udělá chybu a vypne všem vodu, to vše zní docela vážně, i když věci zcela neopravňují k masové hysterii nebo filmové franšíze. Možná dokonce postačují k rozumným obavám ohledně současného ducha doby, aby se umělá inteligence začlenila do všeho. Možná, jen možná, poskytují důvod k tomu, abychom přehodnotili své rozhodnutí propojit vše v moderním životě s internetem.

Zdroj: https://eraoflight.com/2026/07/02/ai-doomsday-warnings-distract-from-more-imminent-ai-concerns/
Zpět