11047 Prohlížeč OpenAI vyvolává "nepřekonatelně vysoké" obavy o bezpečnost AI Dellinger

[ Ezoterika ] 2025-10-23

Včera OpenAI spustila svůj prohlížeč ChatGPT Atlas - údajně přepracovaný webový prohlížeč, který ve skutečnosti vypadá mnohem více jako rozvětvená verze Chromia s přišroubovaným chatbotem - ve snaze předefinovat způsob, jakým se lidé pohybují na internetu. Není jasné, zda toho dosáhne, ale v jednom ohledu už byl inovativní: Vyvolal zcela novou sadu obav o online soukromí a bezpečnost.

Není příliš těžké si představit, proč chtěla OpenAI vytvořit webový prohlížeč: jsou to data. Prohlížeče obsahují obrovské množství informací, od webů, které lidé navštěvují, přes jejich hesla a platební údaje až po telemetrická data o tom, kam kliknou.

OpenAI to umístila jako funkci. "Vzpomínky" jsou jako vaše webová historie na steroidech, schopné vyvolat kontextové informace o navštívených stránkách, dokumentech, se kterými pracujete, a další. Myšlenka spočívá v tom, že uživatelé budou moci procházet web prostřednictvím konverzačního rozhraní, které dokáže najít informace popsané v lidském jazyce, nikoli přesné adresy URL nebo klíčová slova. Jak však zdůrazňuje Washington Post, ovládací prvky prohlížeče pro ochranu soukromí a dat odhalují více o tom, co společnost shromažďuje a ukládá, a vyvolává to více než několik znepokojivých důsledků.

Vzpomínky jsou ve výchozím nastavení zapnuté, takže OpenAI ukládá podrobnosti o navštívených webech, způsobu interakce s nimi a vašich preferencích hned po vybalení. Neměl by si pamatovat určité informace, včetně osobně identifikovatelných informací, jako jsou vládní průkazy totožnosti, čísla sociálního pojištění, údaje o bankovním účtu, online přihlašovací údaje, obsah pro obnovení účtu a adresy. Má také filtry pro vyloučení soukromých dat, jako jsou lékařské záznamy a finanční informace. I když uchovává souhrny navštívených stránek, nezachrání je od "určitých citlivých webových stránek (jako jsou stránky pro dospělé)", což pokračuje v pokračujícím zobrazování pornografického mozku OpenAI. Uživatelé se také mohou rozhodnout jednotlivě vyloučit určité stránky kliknutím na tlačítko "viditelnost stránky" v adresním řádku.

To samozřejmě předpokládá, že vše funguje tak, jak je zamýšleno - což není vždy pravda. ChatGPT Atlas také obsahuje agenta AI, který může procházet web a plnit úkoly jménem uživatele. Předchozí prohlížeče se s tím dostaly do skutečných problémů. Začátkem tohoto roku se prohlížeč Comet od společnosti Perplexity stal obětí jednoduchých útoků pomocí prompt injection, při kterých mohl skrytý text na webové stránce účinně unést agenta. V ukázce byli bezpečnostní výzkumníci schopni přimět agenta, aby odhalil přihlašovací údaje osoby a získal a sdílel ověřovací kód.

Programátor Simon Willison v tomto ohledu bil na poplach. V příspěvku na blogu napsal: "Rád bych viděl hluboké vysvětlení kroků, které Atlas podniká, aby se vyhnul okamžitým útokům injekcí. Právě teď to vypadá, že hlavní obrana očekává, že uživatel bude neustále pečlivě sledovat, co režim agenta dělá!" Označil také bezpečnostní rizika a rizika soukromí spojená s agenty prohlížeče za "nepřekonatelně vysoká".

Nejméně jeden hacker již tvrdil, že Atlas srazil z jeho stop. Uživatel Twitteru @elder_plinius ukázal, jak je agent Atlas náchylný k "injekci schránky", což agenta přiměje, aby zkopíroval škodlivý odkaz, který později uživatele přivede na phishingovou stránku, která krade přihlašovací údaje. Společnost Eight Sleep na žádost o komentář okamžitě neodpověděla. Gizmodo tento příspěvek aktualizuje, jakmile obdržíme odpověď.

Trvalo méně než 24 hodin, než někdo našel trhlinu, jakkoli malou, v Atlasu. Odborníci varují, že v prohlížečích umělé inteligence, jako je Atlas, mohou být díry v soukromí a zabezpečení o velikosti kaňonu. Atlas mezitím shromažďuje více informací o uživatelích a jejich zvycích a vytváří kolem nich ještě sofistikovanější sledovací aparát ve jménu personalizace. Vypadá to jako potenciálně katastrofální kombinace.

Zdroj: https://eraoflight.com/2025/10/23/openais-new-browser-raises-insurmountably-high-security-concerns/
Zpět