13305 Biologické zbraně svépomocí s AI, mezinárodní právo a problém atribuce Benjamin Bartee

[ Ezoterika ] 2026-06-27

„Několik pokročilých specialistů na LLM nyní překonává většinu expertů na lidskou virologii v řešení praktických problémů v mokrých laboratořích,“ uvádí výzkum AI Frontiers. „Mokré laboratoře“ označují biologické laboratoře, které pracují přímo s živými patogeny. Podle AI Frontiers : „ Virologické znalosti byly dosud dostupné pouze malému počtu expertů. Odborné znalosti v oblastech dvojího užití, jako je virologie, je obtížné získat, protože jednotlivci studují více titulů a věnují svou kariéru dosažení vedoucí pozice ve výzkumu. Tam, kde jsou znalosti veřejně dostupné, je literatura plná žargonu pro většinu outsiderů do značné míry nesrozumitelná. Aby mohli výzkumníci provádět výzkum zahrnující patogeny úrovně biologické bezpečnosti 3 (BSL-3) - jako je SARS, antrax nebo chřipka H5N1 - musí získat řadu schválení, včetně certifikace zařízení, bezpečnostních prověrek, specializovaného školení a průběžného lékařského dohledu. Teprve poté mohou získat přístup k těmto patogenům a začít získávat dovednosti potřebné pro práci s nimi.“

Vysoké překážky omezily okruh jednotlivců s přístupem k silným znalostem s dvojím využitím, čímž se riziko zneužití snížilo. Rychlý rozvoj veřejně dostupných systémů AI však hrozí, že promění amatéry v zdatné aktéry hrozeb. Podle nového srovnávacího testu podávají LLM (Master Law Learning - LLM) lepší výsledky než lidští virologové. Centrum pro bezpečnost umělé inteligence (AI Safety) ve spolupráci se společností SecureBio zveřejnilo zprávu, která podrobně popisuje nový srovnávací test virologických schopností ve veřejně dostupných špičkových modelech. Znepokojivé je, že někteří vysoce kvalifikovaní LLM nyní překonávají většinu lidských virologů v odstraňování problémů v praktické laboratorní práci. Riziko biologických zbraní závisí na různých faktorech: počtu lidí s přístupem k znalostem v oblasti vývoje biologických zbraní, záměru biologickou zbraň vyrobit a závažnosti potenciálních škod. Zatím je riziko nízké, jelikož existuje několik stovek virologů z předních výzkumných institucí, kteří neprojevili žádný zájem o vyvolání pandemie. https://www.virologytest.ai/ (pozn. a co Fauci... stačí jeden upřednostňovaný idiot a je to doma..)

Tyto dovednosti prostřednictvím LLM jsou nyní zpřístupněny stovkám milionů lidí, a pravděpodobnost úmyslného uvolnění se řádově zvyšuje. Expert na biobezpečnost David Relman, najatý k „nátlakovému testování“ různých chatbotů s umělou inteligencí, zjistil, že tyto amorální stroje jsou dychtiví pracanti, připravení diskutovat nejen o tom, jak v pohodlí a soukromí své garáže vyrobit smrtící patogeny, ale také o tom, jak využít bezpečnostních nedostatků v systémech veřejné dopravy k jejich co nejširší distribuci, a také jak následně mařit vyšetřování orgánů činných v trestním řízení.

New York Times : „Jednoho večera loňského léta se Dr. David Relman ocitl zmrazený u svého notebooku, když mu chatbot s umělou inteligencí říkal, jak naplánovat masakr. Dr. Relman, mikrobiolog a expert na biobezpečnost na Stanfordské univerzitě, byl najat společností zabývající se umělou inteligencí, aby provedl nátlakový test jejího produktu před jeho uvedením na trh veřejnosti.“ Tu noc, v domácí kanceláři vědce, chatbot vysvětlil, jak v laboratoři modifikovat nebezpečný patogen, aby byl odolný vůči známým léčebným postupům. Ještě horší je, že bot podrobně popsal, jak uvolnit superbakterii identifikací bezpečnostní chyby ve velkém systému veřejné dopravy. Dr. Relman požádal deník New York Times, aby nezveřejňoval název patogenu a další podrobnosti ze strachu z vyprovokování útoku. Bot nastínil plán, jehož cílem je maximalizovat počet obětí a minimalizovat riziko odhalení. Dr. Relman byl tak šokován, že se šel projít, aby si vyčistil hlavu. „Tohle byly odpovědi na otázky, na které jsem ani nepomyslel, s takovou mírou lstivosti a vychytralosti, že mi to připadalo děsivé,“ řekl Dr. Relman, který také radil federální vládě v otázkách biologických hrozeb. Odmítl prozradit chatbot s odvoláním na dohodu o mlčenlivosti s jeho tvůrcem. Dodal, že společnost po testování do produktu přidala některé bezpečnostní prvky, které však považuje za nedostatečné. Dr. Relman je součástí malé skupiny expertů, které si pověřily společnosti zabývající se umělou inteligencí, aby prověřili jejich produkty z hlediska katastrofických hrozeb.

V posledních měsících někteří z nich sdíleli s deníkem The Times více než tucet rozhovorů s chatboty, které odhalily, že i veřejně dostupné modely dokážou víc než jen šířit nebezpečné informace. Virtuální asistenti podle přepisu jasně a podrobně popsali, jak nakupovat surový genetický materiál, přeměňovat ho na smrtící zbraně a používat ho ve veřejných prostorách. Někteří dokonce vyvinuli způsoby, jak se vyhnout odhalení.

Ptačí chřipka modifikovaná tak, aby infikovala lidi, by mohla být laboratorně vyrobena „během několika měsíců“, říká bývalý ředitel CDC https://pjmedia.com/benbartee/2024/05/10/bird-flu-engineered-to-infect-humans-could-be-lab-produced-in-months-former-cdc-director-says-n4928958
Kromě zjevných existenčních důsledků neznačkové eboly mě napadá jakási analogie s běžným problémem v mezinárodních vztazích, zejména v kontextu státem sponzorovaných kybernetických útoků nestátních aktérů. Když jsou útoky - ať už kinetické, kybernetické nebo biologické - zahájeny jedním národním státem proti druhému, nebo v některých případech nestátním aktérem, jednou z výzev vhodné reakce podle mezinárodního práva je označení viníka: kdo útok spáchal a kdo za něj nese konečnou odpovědnost?

Podle časopisu European Journal of International Law : „Mezinárodní právo prošlo významnými změnami od doby, kdy byl jednotlivec vnímán pouze jako objekt mezistátních vztahů. Státy zůstávají primárními aktéry mezinárodního práva, ale mezinárodní vztahy jsou nyní utvářeny mnoha dalšími aktéry. Navíc se mnoho ustanovení „přímo týká regulace postavení a jednání jednotlivců; a mnoho dalších se jich nepřímo dotýká.“ V regulaci použití síly nestátními aktéry a možných důsledků pro státy, které ji umožňují, však stále existuje mezera …“ Státy mají podle obyčejového a smluvního práva povinnost zabránit porušování práv třetích států jednáním nestátních aktérů. Tyto povinnosti, zejména v oblasti lidských práv a práva životního prostředí, zahrnují přijetí všech opatření, která má stát k dispozici, aby zabránil protiprávnímu jednání nestátních aktérů na svém území a za určitých okolností i za svými hranicemi.

Zdroj: https://eraoflight.com/2026/06/27/artificial intelligence-biological-weapons-international-law-and-the-problem-of-attribution/
Zpět