6403 Největší vnímaná nebezpečí AI Tyler Durden

[ Ezoterika ] 2024-04-22

Jako u každého technologického pokroku, Generativní umělá inteligence jako je ChatGPT od OpenAI, generátor obrázků Midjourney, nebo Claude, chatbot vytvořený startupem Anthropic,jsou využívány k produktivitě a tvorbě, stejně jako stále častěji k podvodům a zneužívání. Mezi touto novou vlnou škodlivého obsahu stojí za zmínku zejména deepfakes. Mezi uměle vytvořené audiovizuální obsahy patří podvody s voliči prostřednictvím vydávání se za politiky, nebo vytváření nekonsensuálních pornografických snímků celebrit.

Nicméně, jak uvádí Florian Zandt ze Statista, a nedávný průzkum společnosti Microsoft, pořady, padělky, podvody a zneužívání jsou to, čeho se uživatelé online po celém světě nejvíce obávají.

71 procent respondentů ze 17 zemí dotazovaných společností Microsoft v červenci a srpnu 2023 se velmi, nebo poněkud obávalo podvodů s podporou umělé inteligence. Aniž bychom dále objasňovali, co tento druh podvodu představuje, s největší pravděpodobností souvisí s vydáváním se za osobu na očích veřejnosti, vládního úředníka, nebo blízkého známého respondentů.

Na druhém místě jsou deepfakes a sexuální, nebo online zneužívání s 69 procenty.

Halucinace umělé inteligence, které jsou definovány jako chatboti jako ChatGPT, kteří kvůli problémům s výukovým materiálem prezentují nesmyslné odpovědi jako fakta, jsou na čtvrtém místě, zatímco obavy o ochranu osobních údajů, které souvisejí s velkými jazykovými modely, které jsou trénovány na veřejně dostupných datech uživatelů bez jejich výslovného souhlasu, zaujímají páté místo s 62 procenty. Celkově se 87 % respondentů alespoň trochu obávalo jednoho problematického scénáře umělé inteligence.

Navzdory obrovskému trhu s umělou inteligencí, který se podle různých zdrojů odhaduje na 300 až 550 miliard dolarů v roce 2024, výsledky průzkumu naznačují, že ignorování jejích potenciálních nástrah a nebezpečí by se mohlo ukázat jako škodlivé pro společnost jako celek. To platí zejména v citlivých oblastech, jako je politika. S blížícími se podzimními prezidentskými volbami v USA bude prostředí sociálních médií plné uměle vytvářených dezinformací.

Na nedávném slyšení na téma deepfakes a umělé inteligence používané ve volebních cyklech, generální ředitel společnosti Reality Defender, která se zabývá detekcí deepfake Ben Colman, ocenil některé aspekty generativní umělé inteligence a zároveň zdůraznil její nebezpečí:

"Nemohu zde sedět a vyjmenovávat každé zlomyslné a nebezpečné použití deepfakes, které bylo vypuštěno na Američany, ani nemohu jmenovat mnoho způsobů, jak mohou negativně ovlivnit svět a narušit hlavní aspekty společnosti a demokracie," řekl Colman.

"Koneckonců mám vyhrazeno jen pět minut. Co mohu udělat, je bít na poplach ohledně dopadů, které mohou mít deepfakes nejen na demokracii, ale na Ameriku jako celek."

Stane se tato nová cesta pro dezinformace "regulovaná", aby odpovídala vládním definicím "pravdy"? "Pro naše vlastní dobro?"

Zdroj: https://eraoflight.com/2024/04/22/what-are-the-biggest-perceived-dangers-of-ai/
Zpět