8707 Sociální inženýrství Logan Washburn

[ Ezoterika ] 2025-02-19

Program "sociálního inženýrství" ministerstva obrany vyvinul boty schopné psychologické války

Ministerstvo obrany financovalo program "rozsáhlého sociálního podvodu", podle zveřejněných veřejných výdajů. Federalista odhalil dokumenty, které ukazují, jak federální vláda používala programy "sociálního inženýrství" k vytvoření sítí podvodných účtů na sociálních sítích schopných porušovat práva Američanů na svobodu projevu a soukromí na internetu - a potenciálně i psychologickou válku.

Ministerstvo obrany udělilo více než 9,1 milionu dolarů společnosti Thomson Reuters Special Services (TRSS) za "AKTIVNÍ OBRANU SOCIÁLNÍHO INŽENÝRSTVÍ... SOCIÁLNÍ PODVOD VE VELKÉM MĚŘÍTKU" od roku 2018, podle zveřejněných vládních finančních informací. Z celkové slíbené částky federální vláda údajně zaplatila -, nebo "utratila" - více než 268 000 dolarů za projekt.

TRSS je dceřinou společností Thomson Reuters, která vlastní levicové médium Reuters. Podle webových stránek společnosti nabízí "škálovatelná řešení vládám a globálním institucím" a její vedení "využívá zkušenosti z reálného světa v americké zpravodajské komunitě, ministerstvu obrany, vymáhání práva a soukromém sektoru". Letectvo zakázku udělilo a Agentura pro pokročilé výzkumné projekty obrany ministerstva obrany (DARPA) - pochybná výzkumná pobočka armády - financovala práci v rámci "rozsáhlého sociálního podvodu".

Dokument o financování DARPA ukazuje, že 711. křídlo lidské výkonnosti letectva, divize lidské efektivity, povolilo tento projekt v roce 2018 - původně slíbilo pouze 1 milion dolarů, než zvýšilo povinnou částku na více než 9,1 milionu dolarů. Divize, podle jejích webových stránek, je "složena z různorodé skupiny vědců a inženýrů, kteří studují vývoj technologií specifických pro lidský prvek boje".

Mnoho dalších kontraktů bylo součástí stejného projektu, zaměřeného na vybudování sítě falešných online účtů, které by vláda údajně používala k obraně proti útokům "sociálního inženýrství". I když se to může zdát neškodné, mechanika systému to nechává otevřené pro potenciální použití proti Američanům.

Financování "obrany sociálního inženýrství"
Kontrakt za 9,1 milionu dolarů byl na "Aktivní obranu sociálního inženýrství" - program DARPA, který je "nyní dokončen", jak uvádí jeho webová stránka. Jeho cílem bylo "vyvinout základní technologii, která umožní schopnost automaticky identifikovat, narušovat a vyšetřovat útoky sociálního inženýrství". Tvrdila, že se zaměřuje hlavně na pokusy o podvod a phishing.

"Programovým manažerem" kontraktu byl vědec DARPA Joshua Elliott, ukazují dokumenty. Podle jeho LinkedIn byl v letech 2017 až 2023 programovým manažerem DARPA. Předtím studoval věci jako "sociálně-technické změny" a 10 let pracoval v akademické sféře na věcech jako "výpočetní ekonomie klimatu". V DARPA mu bylo dovoleno "naprogramovat" 600 milionů dolarů ve federálním financování výzkumu a vývoje, podle Federace amerických vědců. Poté Elliott pracoval pro radikální skupinu Quadrature Climate Foundation a v poslední době pro Renaissance Philanthropy - založenou bývalým zaměstnancem prezidentů Billa Clintona a Baracka Obamy.

Také v roce 2018 v rámci "Programu obrany aktivního sociálního inženýrství" vláda přislíbila financování dalších kontraktů - také pod Elliottem - včetně 2,5 milionu dolarů pro HRL Laboratories, 8,5 milionu dolarů pro SRI International, 7,1 milionu dolarů pro University of Southern California, 4,2 milionu dolarů pro Raytheon BBN, 507,9 milionu pro MITRE Corporation a 2,4 milionu pro Canadian Commercial Corporation (národní vládní dodavatelská agentura).

V roce 2019 podle dokumentu DARPA vláda slíbila financování "aktivní obrany sociálního inženýrství" od dalších skupin, včetně téměř 1 milionu dolarů pro Carnegie Mellon University, 9,5 milionu dolarů pro Northrop Grumman, více než 774 000 dolarů pro Purdue University, téměř 1,9 milionu dolarů pro State University of New York Research Foundation a 1,3 milionu dolarů pro nechvalně známou Kalifornskou univerzitu. Berkeley.

Elliott byl programovým manažerem ve fiskálním roce 2018, ale vládní záznamy ukazují, že programový manažer DARPA Walter Weiss převzal program ve fiskálním roce 2019. Studie Georgetownu z roku 2021 uvedla, že program "aktivní obrany sociálního inženýrství" by "vybudoval systémy, které dokážou detekovat útoky sociálního inženýrství a autonomně reagovat na oklamání protivníků, aby odhalili identifikační informace".

Mnohé z těchto skupin hrály nedílnou roli v projektu "aktivní obrany sociálního inženýrství", který umožnil masivní síti falešných, vládou kontrolovaných online účtů chytit podvodníky, někdy shromažďující informace pro další vyšetřování. Ale zjevně neexistuje nic, co by těmto sítím zabránilo v porušování práv Američanů na soukromí a projev.

Sítě falešných online účtů
HRL vytvořila "obranné systémy proti útočníkům sociálního inženýrství" jako součást programu DARPA "Aktivní obrana sociálního inženýrství". Na webové stránce z roku 2018 se skupina chlubila, že její systém ("CHESS") bude "využívat metody útočníků tím, že je přitáhne automatickými reakcemi" k zachycení jejich dat, a to "napříč různými médii, včetně e-mailu, sociálních médií a textových zpráv".

"CHESS se snaží aktivovat virtuální boty, které jednají jménem obětí a kontrolují komunikaci s útočníkem ve všech médiích," uvádí se na webové stránce. Jeho systém by "shromáždil co nejvíce osobních informací o útočníkovi, včetně identifikace jednotlivých špatných aktérů a všech agentur, které by za nimi mohly stát".

I když se to může zdát neškodné, je to šokující přiznání - vláda sponzorovala masivní síť falešných účtů na sociálních sítích, které mohla manipulovat a které byly schopné zachytit data uživatelů.

"Tato smlouva DARPA zahrnovala vývoj a nasazení technologie pro vytváření a správu falešných účtů na sociálních sítích ve velkém měřítku," napsal generální ředitel The Federalist Sean Davis na X. "To je mnohem zákeřnější než prostá vládní platba tiskové agentuře."
https://x.com/seanmdav/status/1890079772576972972


Jako součást programu vyvinula SRI podobný systém, ale s zlověstnější přezdívkou - "Projekt NEMESIS". Podle Centra obranných technických informací byl systém "schopen integrovat více strategií generování dialogů pro ... integrace do živé obranné služby." Skupina byla "řízena DARPA" k vývoji systému NEMESIS, který se ukázal být "srovnatelný s tím, čeho mohou dosáhnout lidští testovači, ale škálovatelný na mnohem větší populaci".

NEMESIS - ke kterému přispěla datová firma Jataware - "integruje všechny prvky našich detekčních, dialogových a atribučních služeb," uvádí dokument Air Force Research Laboratory. "Náš tým prokázal vytvoření a správu systému interakce na sociálních sítích s více virtuálními osobami, který poskytuje silný základ pro naše pochopení toho, jak vytvořit klíčové prvky správy virtuálních osobností Nemesis," uvádí se v jednom dokumentu. "Náš rámec pro správu dialogů byl integrován se sadou služeb, které spravovaly syntetické účty sociálních médií."

Opět, zatímco lákání na podvodníky, nebo zahraniční protivníky za účelem získání jejich informací zní lákavě, systém zjevně umožňuje vládě používat svou falešnou online síť k cílení na Američany. NEMESIS zapojuje "protivníky", kteří dělají věci jako sdílení takzvaných "dezinformací" -, nebo projevů neschválených režimem.
https://x.com/seanmdav/status/1890095204868260299

Univerzita Jižní Kalifornie vytvořila další systém jako součást tohoto programu - nazvaný PIRANHA, podle dokumentu Air Force Research Laboratory. "Tým PIRANHA se zaměřil na metody pro rozšíření přístupů k neuronovému dialogu, na kterých pracovaly jiné týmy v programu A[ctive] S[ocial] E[ngineering] D[efense]."

PIRANHA "shromažďuje informace a provádí externí prověřování" k identifikaci cílů považovaných za ohrožující, a to pomocí "vodítek z obsahu zprávy a... informace získané z vyhledávačů a sociálních médií." Zkoumá všechny adresy URL propojené ve zprávě, "zkoumá styl zprávy" a "podporuje prosazování agendy v automatických odpovědích", aby pomohl se "shromažďováním více informací, které se vrátí zpět do externího prověřování".

Raytheon vyvinul ještě další podobný systém, nazvaný SIENNA - který výslovně nasadil síť falešných online účtů ke shromažďování informací o uživatelích.

SIENNA použila "konstrukci a nasazení bota řízeného konverzační technologií", který členové Raytheonu původně vyvinuli pro videohry, podle popisu online projektu. Když systém zaznamená interakci považovanou za nepřátelskou, "nasadí sadu botů, aby se zapojili a vyšetřili útočníky".

"Každý bot má svou roli, cíle a styl mluvení (svou osobnost)... aby využil toho, co dosud ví o povaze a cílech každého útočníka," uvádí se v popisu projektu. "Skutečným účelem botů je zapojit, vybudovat důvěru, poskytovat falešné informace, a co je nejdůležitější, vylákat z útočníka informace a plýtvat jeho časem a zdroji."

Raytheon vytvořil dvě technologie, podle dokumentu Air Force Research Laboratory. "SIENNA-Bot", "chatbot navržený ke konverzaci s partnerem", a "Cervantes", který se zabývá "vývojem dialogu specifického pro doménu" a používá "úkoly, tj. řadu otázek se zvyšující se složitostí, jejichž cílem je získat informace od partnera".

Vláda také spolupracovala s MITRE na "aktivní obraně sociálního inženýrství" - ale zatímco byla stále pod vedením programového manažera DARPA Joshuy Elliotta, na tento kontrakt dohlíželo Velitelství armádní komunikační elektroniky namísto letectva, podle dokumentu o financování DARPA.

Prezentace MITRE z května 2023 - publikovaná Námořní postgraduální školou - pojednává o "dopadech sociálního inženýrství na vládní akvizice". Uvedla že "útok sociálního inženýrství" na dodavatele by mohl způsobit "nepříznivý dopad na budoucí vládní akvizice" a doporučila "využití nástrojů umělé inteligence a strojového učení".

MITRE publikoval na toto téma článek v říjnu 2022. Doporučoval taktiky včetně "AI a ML" a "partnerství s vládou a technologiemi soukromého sektoru..."

"Využití automatizované detekce, hlášení a zmírňování hrozeb s podporou AI a ML... může mít podobu nasměrování útočníků do prázdné Potěmkinovy sítě, tj. zranitelného a veřejně přístupného chatbota, který se vydává za akvizičního důstojníka," uvádí se v dokumentu. Autoři článku jej představili na sympoziu o výzkumu akvizic na Námořní postgraduální škole v květnu 2023. MITRE "úzce spolupracoval" s Cogsec Collaborative, "která vytvářela a propojovala skupiny reagující na domnělé dezinformace zdarma," uvádí InfluenceWatch. Mezitím MITRE údajně "vyvinul paralelní rámec... který používal podobné techniky a taktiky." Zdá se, že pro slíbený kontrakt na 2,4 milionu dolarů s Canadian Commercial Corporation (uvedený ve veřejných grantových přiznáních a v dokumentu o financování DARPA) existuje další kontrakt se stejným identifikačním číslem - ale s jiným příjemcem.

Druhý kontrakt - také s číslem kontraktu FA865018C7889 - byl uzavřen s kanadskou společností Uncharted Software z Toronta a platil od září 2018 do října 2018. Byla ale také součástí projektu "Aktivní obrana sociálního inženýrství". Uncharted spolupracoval s "osvědčenými spolupracovníky Agentury pro pokročilé výzkumné projekty obrany (DARPA)" a na projekt dohlíželo 711. křídlo lidské výkonnosti letectva. Uncharted vytvořil systém nazvaný "ReCourse", který by "koordinoval, monitoroval a selektivně moderoval automatizované, konverzační roboty v podnikovém měřítku pro obranu proti sociálnímu inženýrství," uvádí se ve smlouvě. Společnost navrhla systém "human-in-the-loop" a ReCourse měl "formovat taktiku botů na globální podnikové úrovni".

Uncharted dokonce vyvinul falešný online profil s názvem "Gabby" a vysvětlil proces nastavení falešných online profilů.

Různé systémy sociálního inženýrství - včetně NEMESIS - byly testovány proti sobě z hlediska přesnosti. Testy zahrnovaly výše zmíněný systém PIRANHA Univerzity Jižní Kalifornie. Test "přítel/nepřítel", uvedený v záznamech letectva, byl obzvláště znepokojivý.

Nejvyšší míra přesnosti pro klasifikaci přátelských, nebo škodlivých účtů byla ReCourse - pouhých 35 procent, která měla stále šestiprocentní míru "falešného poplachu". Nejnižší přesnost byla NEMESIS - na nule procent, s 19procentním "falešným poplachem". Jeden systém dokonce vedl k 49% míře "falešných poplachů".

Takže i když - vzhledem k výhodě pochybnosti - tyto systémy jednoduše zapojí podvodníky a škodlivé zahraniční aktéry, nemusí ani fungovat tak, jak bylo zamýšleno. Ale bez ohledu na to vláda utratila miliony za vytvoření falešné, režimem kontrolované online sítě, která je schopna přistupovat k informacím Američanů, potlačovat jejich svobodu projevu a zapojit se do psychologické války.

Zdroj: https://eraoflight.com/2025/02/19/dod-social-engineering-program-developed-bots-capable-of-psychological-warfare/

---

Zpět