Prodává apokalypsu a zároveň profituje ze své všemohoucnosti Adhik Arrilucea
Poté, co bývalý zaměstnanec společnosti Anthropic tento týden prohlásil, že AI by nás mohla „všechny zabít“, společnost tvrdila, že identifikovala a zablokovala pokusy o využití Clauda k vytvoření biologických zbraní.
„Společnosti mají zájem prezentovat své systémy jako prakticky všemocné technologie. To může sloužit jak k přilákání investic, tak k tvrzení, že pouze ony mají schopnost je ovládat,“ tvrdí expert Itxaso Domínguez.
Lidé jsou schopni používat technologické pomůcky k dobrému i špatnému. Od vynálezu telefonu až po rozvoj špionáže nebo kybernetických podvodů je tato ambivalence dále umocněna příchodem umělé inteligence. Minulý týden tým vědců pomocí umělé inteligence vytvořil atlas lidského genomu, který umožňuje předpovědět, jak genetické mutace ovlivní molekulární biologii, ale minulý týden také bývalý zaměstnanec společnosti Anthropic varoval, že tato infrastruktura by nás mohla do konce desetiletí všechny zabít. V této souvislosti je vhodné se ptát, jak se společnosti s těmito nebezpečími vyrovnávají a kdo navrhuje řešení. Jde o rizika, která se a priori mohou v dlouhodobém horizontu vyskytnout, i když se v krátkodobém horizontu zdají být daleko od hmatatelné reality. V návaznosti na kontroverzní komentáře bývalého zaměstnance Jacoba Coxona o společnosti Anthropic společnost ve čtvrtek 10. září oznámila, že zmařila několik pokusů o zneužití svých technologií. Speciální, Tvrdil, že použil svou AI k identifikaci a blokování potenciálních plánů na vývoj biologických zbraní.
https://www.publico.es/ciencias/tecnologia/anthropic-alerta-bloqueo-varios-posibles-complots-desarrollar-armas-biologicas-ia.html
Anthropic a OpenAI ve skutečnosti minulou sobotu vyzvaly ke „zpomalení“ vývoje umělé inteligence kvůli riziku ztráty kontroly... V neděli Anthropic toto prohlášení zopakoval a prohlásil, že průmysl lhal o nebezpečích AI. Vláda a občané musí zasáhnout. Ve skutečnosti žádná z pěti případových studií prezentovaných ve zprávě neměla výslovný záměr vyrábět zbraně. Příklady uvedené společností se vztahují k poskytování služeb pro virology provádění adaptovaných experimentů a rozvoji národních programů nebo společností. Z případů zkoumaných ve studii se nejvíce blíží systému biologických zbraní případ výzkumníka financovaného USA, který „vyvinul atlas toxických peptidů a systém generativní optimalizace molekul zaměřených na paralyzující a bolestivé účinky.“
Nárůst kyberkriminality
Tyto extrémní scénáře jsou spekulativní, protože Anthropic nedokáže určit skutečné záměry, které se za těmito případy skrývají. Aniž bychom hned vykreslovali apokalyptické scénáře, realita dgitalizace s sebou přináší řadu rizik. „Současné systémy usnadňují určité úkoly, jako jsou kybernetické útoky, podvody, sledování nebo vyhledávání a zpracování citlivých informací ,“ vysvětlil pro Público. Itxaso Domínguez , člen European Digital Rights ( EDRI ). Ve skutečnosti to ilustruje, že si člověk nemusí představovat dystopické budoucí scénáře, aby si uvědomil devastaci, kterou již způsobuje pokrok AI a její aplikace na trzích, v politice a každodenním životě. „Pokud se příliš zaměříme na extrémní scénáře, můžeme zapomenout na škody, které již existují:“ „Automatizovaná diskriminace, sledování, nejistota zaměstnání, koncentrace moci, dezinformace, environmentální náklady nebo závislost,“ uvádí jako příklady. Právník a expert na digitální strategie Borja Adsuara v rozhovoru pro tuto mediální společnost také upozorňuje na to, že podvodná schémata byla díky AI „zdokonalena“. I když je bylo v minulosti možné identifikovat, „Už je nepoznáte, protože mohou být obsaženy i v audio a video nahrávkách vašeho vlastního šéfa .“ Podle výroční zprávy kanceláře generálního prokurátora státu za rok 2025 „Kyberkriminalita se stává stále rozšířenější a zahrnuje rozmanité formy trestné činnosti .“ Tyto typy událostí již naznačují následující: „19,85 % trestné činnosti v naší zemi s mírou růstu 5,3 % ve srovnání s rokem 2024.“...s odkazem na údaje ze zprávy Ministerstva vnitra o statistice kriminality za čtvrté čtvrtletí roku 2025. „Je proto nepopiratelné, že velká část kriminální činnosti se nezadržitelně přesouvá do digitální sféry,“ varuje dokument.
Závislost na umělé inteligenci (a technologiích)
Vzhledem k těmto údajům existují obavy ohledně křehkosti systémů, které podporují kritickou vládní infrastrukturu a jsou založeny na AI. Domínguez poukazuje na to, že tyto obavy souvisí s procesy digitalizace, kterými společnosti prochází již nějakou dobu, ale nejsou nové. „Naše infrastruktury v oblasti vodního hospodářství, energetiky, dopravy a zdravotnictví jsou již léta závislé na počítačových systémech,“ zdůrazňuje. „Kybernetické útoky na kritickou infrastrukturu jsou proto problémem, který existoval už před současnou vlnou umělé inteligence.“ Podle Adsuary tato dynamika existovala vždy. Vývoj technologií, které umožňují outsourcing kognitivního úsilí, se nakonec stane nezbytným pro provádění každodenních úkolů. „S vynálezem kalkulačky jsme se stali závislými na tomto zařízení a dnes lidé ani nevědí, jak vrátit drobné ,“ říká. To by platilo i pro digitální hodiny - které vedou ke ztrátě schopnosti číst analogové hodiny nebo určovat čas pomocí polohy slunce - nebo pro GPS - což zhoršuje orientaci. Podle experta na digitální strategie tyto závislosti samy o sobě nutně nepředstavují problém, pokud se je člověk naučí používat. „Učení je v cestě,“ zdůrazňuje. V tomto smyslu vnímá AI jako pozitivní a užitečný nástroj, jako asistenta. Varuje však před rizikem delegování všech úkolů na tento nástroj. Lidé by se nevydali „cestou „, jejímž prostřednictvím získají sociální, vzdělávací a technické dovednosti potřebné k integraci na trh práce nebo obecněji do společnosti.
Koncentrovaný trh
I když je tento typ rizika vlastní samotnému technologickému pokroku, „AI může vytvořit nové zranitelnosti, pokud začneme do kritických funkcí zavádět nespolehlivé nebo obtížně ověřitelné systémy,“ připouští Itxaso Domínguez, a tato nejistota se stupňuje, jak závislost nabývá politického rozměru: Kontrola nad těmito nástroji je soustředěna v rukou „několika soukromých společností“. To jsou ti, kteří mají na starosti řízení, „modely, infrastrukturu a výpočetní kapacitu. „Skupina nezávislých expertů zveřejnila v lednu 2025 Mezinárodní zprávu o bezpečnosti AI. „Výzkum a vývoj v oblasti všeobecné AI je soustředěn v několika západních zemích a Číně, „ uvádí dokument. Podle autorů studie by to mohlo zvýšit globální nerovnost. Tato koncentrace však není jen geografická, ale také obchodní. „Tato koncentrace trhu by mohla učinit společnosti zranitelnějšími vůči různým systémovým rizikům. V důsledku toho selhání nebo chyba v kterémkoli z mála dostupných systémů umělé inteligence, "může způsobit rozsáhlé poruchy a narušení." V této otázce Domínguez tvrdí, že „Otázkou by mělo být také to, co se stane, když administrativa nebo nemocnice již nemůže řádně poskytovat služby bez technologie ovládané jinou společností.„
Útěk před katastrofismem
Jde o kritický pohled na zjevné výhody, které technologie přináší. Z tohoto důvodu se Domínguez i Adsuara dívají s podezřením na Coxonova prohlášení o OpenAI a Anthropic , která Anthropic podporuje. „Tytéž společnosti, které tyto systémy prodávají, mají zájem prezentovat je jako téměř všemocné technologie,„ říká člen EDRi. „Může to posloužit jak k přilákání investic, tak k tvrzení, že pouze oni mají schopnost je kontrolovat. „Expert na digitální strategii provádí podobnou analýzu. Přiznává, že těmto projevům naslouchá, „s jistou nedůvěrou. „To neznamená, že jim nevěří. „Ano, myslím si, že to může být velmi nebezpečné„. Má však podezření, že se „používají apokalyptické zprávy „... Touto komunikační politikou, se snaží říct: „Najměte si nás, abychom vás zbavili těch, kteří vás mohou napadnout pomocí naší umělé inteligence, „ analyzuje Adsuara. „Věřím, že se nacházíme ve fascinujícím historickém okamžiku, kdy je možné všechno, to nejlepší i to nejhorší, ale všechno je možné„. Domínguez zdůrazňuje, že „si musíme nejprve ujasnit, kde chceme tyto systémy využívat a kde je riziko příliš vysoké“. To musí jít ruku v ruce s nezávislou regulací, transparentností procesů a možností auditovat všechny nasazené systémy. Itxaso Domínguez dále navrhuje klást si otázky proaktivně, a to ještě předtím, než svět zaplavíme umělou inteligencí - jen abychom si následně museli kupovat bezpečnostní záruky od týchž společností. „Než začneme řešit, jak zajistit bezpečnost aplikace využívající umělou inteligenci, měli bychom si položit otázku, zda ji v dané oblasti vůbec potřebujeme zavádět,“ uzavírá...
