Zprávy

13374 Pokud je AI návyková, kde leží odpovědnost Lucía Caballero [ Ezoterika ] 2026-07-08
... na velkých technologických společnostech, nebo na jejich uživatelích?

Když mluvím se svým synem, studentem inženýrství, a máme otázku nebo se s něčím neshodneme, okamžitě se obrací na ChatGPT jako na svůj primární zdroj informací a potvrzení. Není v tom sám. Používání generativních nástrojů umělé inteligence explodovalo napříč různými demografickými skupinami. Pro mnoho lidí mohou být tyto nástroje zábavné, informativní a užitečné. Mají však i svou temnou stránku. Generativní umělá inteligence zatím není oficiálně považována za návykovou - lékařské důkazy se stále shromažďují. Existuje však množství dat, která ukazují, že intenzivní používání chatbotů a dalších systémů, které generují text, obrázky a videa, vede k neuronovým vzorcům a chování spojeným se závislostí.

Vzhledem k nedávné právní porážce společností Meta a YouTube v přelomovém případě závislosti na sociálních médiích si myslím, že je čas se zeptat, zda se podobná logika vztahuje i na generativní umělou inteligenci - a jak bychom jí mohli čelit. Prvním krokem by bylo stanovit odpovědnost za nadměrné používání generativní umělé inteligence. Vědecký konsenzus v tomto ohledu je stále nejasný a někteří doporučují opatrnost při používání termínu „závislost“ a navrhují alternativní termíny, jako je „problematické užívání“. V nedávné studii však náš výzkumný tým naznačuje silné důkazy o tom, že generativní umělá inteligence má návykové vlastnosti. Mezi často diskutované příklady patří emoční závislost na společnících chatbotů, jejich kompulzivní užívání a ztráta skutečných známých a přátel. Klíčovým faktorem je, že stejně jako u jakékoli závislosti má toto chování negativní důsledky pro uživatele a potenciálně ovlivňuje jeho osobní i profesní život. Pokud přijmeme argument, že generativní umělá inteligence má návykový potenciál, je třeba zvážit i otázku odpovědnosti. Společnosti mají tendenci řešit škody tím, že volají jednotlivce nebo skupiny k odpovědnosti za jejich nápravu. Mezi potenciálně odpovědné strany patří zákonodárci, regulační orgány, průmysl a sektor zdravotnictví.

Historické příklady, jako je kouření, by mohly nabídnout vhled do toho, jak by se mohl vyvíjet výzkum závislostí založený na generativní umělé inteligenci. Starší čtenáři si možná vzpomenou na Marlboro Mana, který se objevoval před každým filmem v jejich místních kinech. Nakonec se ukázalo, že kouření je nejen návykové a škodlivé pro zdraví, ale že to tabákové společnosti věděly, nicméně to bylo veřejně popíráno. Vedlo to k dlouhým a medializovaným právním bitvám, které nakonec vyústily v značné finanční vyrovnání a změny v tomto odvětví. Mezi tyto změny patřily standardizované obaly tabákových výrobků a ostré varovné štítky. Hazardní hry by se mohly vydat podobnou cestou - a společnosti provozující sociální média již možná podnikají první kroky podobným směrem. Klíčovou otázkou je, zda si výrobci produktu - ať už se jedná o tabák, hazardní hry nebo sociální média - uvědomují jeho návykový potenciál. Dalším důležitým faktorem je, zda některé společnosti údajně návykovou povahu svých produktů zneužívají ve svůj vlastní prospěch.

Umělá inteligence samozřejmě není tabák, ale mohou existovat paralely, které stojí za prozkoumání. V našem výzkumu jsme identifikovali čtyři skupiny zúčastněných stran, které jsou nyní vyzývány k řešení problémů spojených s návykovým potenciálem generativní umělé inteligence.
🎯 První skupinu tvoří vlády a regulační orgány. Hrají klíčovou roli v upozorňování na problémy, stanovování pravidel hry a vytváření pobídek pro ostatní aktéry, aby se touto problematikou zabývali. Toho mohou dosáhnout prostřednictvím požadavků na označování, omezení reklamy, zákonů o odpovědnosti a financování výzkumu - mimo jiné mnoha dalšími mechanismy.
🎯 Nejdůležitější roli v boji proti potenciálně návykovému chování souvisejícímu s generativní umělou inteligencí však hrají velké technologické společnosti, které tyto technologie vyvíjejí a vlastní - a finančně z nich profitují. Tyto společnosti vlastní a mají přístup k uživatelským datům potřebným k identifikaci charakteristik, které závislost podporují nebo zmírňují. Jsou to také ony, které by ze závislosti finančně profitovaly zvýšením počtu uživatelů a jejich zapojení - nejdůležitější měny digitálního věku.
🎯Kromě těchto dvou skupin hrají důležitou roli akademičtí výzkumníci při shromažďování a interpretaci dat a při poskytování nezbytných důkazů k identifikaci závislosti a návykových charakteristik - takovým způsobem, aby byla možná politická nebo právní debata založená na důkazech.
🎯 Organizace občanské společnosti, jako jsou uživatelské nebo pacientské skupiny, mohou pomoci poskytováním podpory, obhajobou svých členů a budováním systémů včasného varování.
Rozhodující je, že žádná z těchto zájmových skupin nemůže problém vyřešit sama. Musí spolupracovat.

Problém jiného člověka
Klíčovým problémem v současnosti je nedostatek strukturované debaty o odpovědnosti - každý se domnívá, že je to problém někoho jiného. Existuje však řada příkladů, které ukazují, jak lze dosáhnout většího zapojení dotčených osob. V případě tabáku Světová zdravotnická organizace ( WHO ) zahájila Rámcovou úmluvu o kontrole tabáku - mechanismus založený na smlouvě, který spojil vlády, zdravotnické orgány, výzkumníky a občanskou společnost za účelem posouzení důkazů a vytvoření společných pravidel. Mezinárodní zpráva o bezpečnosti umělé inteligence ukazuje, že podobné mezinárodní aktivity zaměřené na budování konsensu již probíhají i v jiných oblastech umělé inteligence.

Uživatelé umělé inteligence také nesou určitou odpovědnost a měli by se snažit vyhnout se svému potenciálně škodlivému chování nebo ho kontrolovat. Apely na individuální umírněnost nebo všímavost se však u jiných závislostí ukázaly jako nedostatečné.

Navzdory dobře známým škodám spojeným s kouřením nebo zneužíváním alkoholu se společnost nadále spoléhá na věkové limity, předpisy týkající se balení a omezení reklamy. Generativní umělá inteligence se integruje do každodenního života naší společnosti. Rozhodnutí, která nyní učiníme, určí, jak bude přijatelné užívání vypadat v nadcházejících letech.

Zdroj: https://www.bibliotecapleyades.net/ciencia4/ai85.htm

Zpět