5576 Umělá inteligence a zákon: Kde je hranice? Derrick Broze
[ Ezoterika ] 2023-12-10
Využití umělé inteligence se v právní oblasti rychle rozšiřuje, ale jaké jsou důsledky ˝robotických˝ advokátů a žalobců a soudců využívajících ChatGPT? Při nedávné návštěvě Mexika jsem hovořil s dvacetiletým mexickým kryptoměnovým nadšencem, který říká, že použil ChatGPT od OpenAI k psaní právních spisů, z nichž některé mexičtí advokáti použili u soudu. V současné době neexistují žádná pravidla nebo předpisy, které by takové jednání zakazovaly, ale Mexiko je jedním z desítek států, které nedávno oznámily záměr regulovat umělou inteligenci.
˝Ta věc (ChatGPT) je odborníkem na jakýkoli právní kodex dostupný na internetu a dokáže snadno zpracovat, jaké zákony, judikáty, smlouvy, mandáty atd. je třeba vzít v úvahu,˝ řekl mi dvacetiletý Mexičan Roy. Podle jeho slov ChatGPT nejen zohledňuje různé právní precedenty, které je třeba vzít v úvahu, ale také na jejich základě vypracovává právní strategii. Roy také říká, že jakmile se naučíte ChatGPT ˝efektivněji pobízet˝, může uživatel ˝vytvořit několik modelů spisů pro konkrétní případ ˝a pak vytřídit to, co nepotřebujete. Na otázku, zda se domnívá, že by nějaký soudce nebo advokát mohl odhalit přítomnost právních spisů s podporou umělé inteligence, se zdálo, že ho spíše zajímá, že mluví o kvalitě práce ChatGPT. ˝Možná je příliš brzy na to říci, zda soudy mohou zaznamenat rozdíl, ale jedno je jisté: práci odvádí rychleji, v mnohem vyšší kvalitě a za velmi nízké náklady,˝ řekl Roy.
Zatímco mladé generace v Mexiku zkoumají nástroje umělé inteligence, jako je ChatGPT, v zemi se začalo hovořit o regulaci používání umělé inteligence v soukromém sektoru a ve státní správě. V dubnu navrhl poslanec Ignacio Loyola Vera přijetí ˝zákona o etické regulaci umělé inteligence a robotiky˝. Loyola tvrdil, že umělou inteligenci je třeba regulovat okamžitě. Až bude umělá inteligence všude, ˝bude pozdě˝.
V květnu 2022 vydal mexický INAI (Národní institut pro transparentnost, přístup k informacím a ochranu osobních údajů) doporučení týkající se AI, která se týkají ˝ vhodného a etického využívání osobních údajů prostřednictvím˝ různých aplikací umělé inteligence a ˝dodržování povinností v oblasti bezpečnosti osobních údajů˝. Dotýká se témat, jako je AI ve vzdělávání, veřejném a soukromém sektoru a cloud computingu. Navrhovaný zákon ani doporučení INAI se však konkrétně nezabývají tím, jak se může AI a právo vzájemně ovlivňovat v blízké budoucnosti, nemluvě o současnosti.
Nedávno jsem informoval o nejnovější snaze americké vlády regulovat AI prostřednictvím Bidenova dalekosáhlého exekutivního příkazu. Ve výnosu se uvádí, že jde o ochranu soukromí a bezpečnosti Američanů před hrozbami souvisejícími s AI, ale konkrétně se nezmiňuje o žádných příkladech týkajících se AI, která vypracovává právní spisy pro použití u soudů. Takzvaný robotický advokát neboli právník s umělou inteligencí se pravidelně dostává na titulní stránky novin od roku 2015, kdy se služba známá jako DoNotPay proslavila jako první právník s umělou inteligencí na světě. DoNotPay slibovala, že pomůže obyvatelům Londýna odvolat se proti pokutám za parkování. Služba byla údajně úspěšná ve více než polovině případů: byly zrušeny pokuty za parkování ve výši více než 4 miliony dolarů. Zdá se nevyhnutelné, že AI bude v určité míře zapojena do právního procesu. Ať už se bude jednat o lidi využívající ChatGPT k psaní právních spisů, nebo o právníky s umělou inteligencí, kteří zcela nahradí lidi, pravděpodobně se dočkáme dalších příkladů, které budou stírat hranici mezi interakcí člověka a umělé inteligence. (pozn. možná nastal čas zrušit zákony a řídit se spravedlností)
V květnu 2019 přinesl časopis Wired zprávu o tom, že AI byla využívána jako ˝soudce˝ při řešení drobných sporů u některých estonských soudů. V roce 2022 však estonská vláda vydala prohlášení, v němž článek označila za zavádějící. ˝Existuje plán automatizace estonského vnitrostátního řízení o platebním rozkazu, který je rozhodován pouze na jednom konkrétním oddělení jednoho konkrétního soudu,˝ uvádí se v prohlášení.
Nedávno, v únoru 2023, použil kolumbijský soudce ChatGPT, když rozhodoval o tom, zda má pojišťovna hradit veškeré náklady na léčbu autistického dítěte. S každým novým incidentem vyvstávají otázky, zda je používání umělé inteligence etické nebo legální. ˝Na obou stranách existují argumenty v tom smyslu, že umělá inteligence může díky přístupu založenému na datech překonat lidské předsudky nebo se jim vyhnout, a také, že samotná AI může z mnoha různých důvodů přinášet neobjektivní nebo nevhodné výsledky či výstupy,˝ uvedla Dr. Felicity Bellová, výzkumná pracovnice právnické společnosti na univerzitě v Novém Jižním Walesu.
Esej z července 2020 s názvem ˝Je lidský úsudek nezbytný?
Artificial Intelligence, Algorithmic Governance, and the Law˝ (Umělá inteligence, algoritmické řízení a právo) varuje, že ˝i slibné systémy umělé inteligence, které mají zlepšit lidský úsudek, zahrnují jemné formy vytěsnění˝. Esej vyzývá k zachování ˝podmínek lidského úsudku v příslušných oblastech společenského a právního jednání˝.
Zpět k Mexiku: Roy připomíná, že lidstvo musí být opatrné s nástroji, které používáme, zejména, ˝pokud si jimi nechcete ublížit˝. ˝Past vidím v tom, že si zvyknete nechat tuhle věc myslet a tvořit za vás. Možná by se to mohlo stát nutkavým nebo návykovým, podobně jako sociální média.˝
