Následuje překlad článku, který můžete najít v původním znění na blogu autorky. Paní profesorce tímto srdečně děkuji za poskytnutí souhlasu. Za provedení překladu děkuji překladateli Filipu Drlíkovi. Při překladu do češtiny nebyla použita generativní AI.

Umělá inteligence a lidský faktor

prof. Joanna Bryson

Generativní AI je typ umělé inteligence, která v datech rozpoznává vzory a následně dokáže vytvářet jim podobná, nová data. Jako příklady lze uvést ChatGPT a mistral. Existuje ale mnoho dalších druhů AI; typicky vyhledávání na internetu. Pokud níže uvádím pouze „AI“, mám na mysli nejen generativní AI, ale i všechny ostatní typy umělé inteligence.

1. Generativní AI nemusíte používat. Možná potřebujete zkontrolovat překlepy a stylistiku, což generativní AI zvládne geniálně; ale ve většině případů to nutné není.
2. Generativní AI nemůže být zdrojem faktů a dat. Výjimkou je zvláštní případ, kdy zkoumáme, co generativní AI sama vyprodukovala. Výstupem generativní AI jsou pouze predikce. Tyto predikce je nutné ověřit.
3. Výstup generativní AI je často chybný a její predikce nesmyslné. Nejvíc ji tak využije odborník v dané oblasti – a to díky tomu, že sám umí chyby rychle zpozorovat a opravit. Výstup generativní AI bude vždy znít plynule, přesvědčivě a kompetentně, pokud takový tón převládá na jejím vstupu – v tzv. tréningových datech. Je proto extrémně nebezpečné používat generativní AI na problematiku, kterou nemáte do hloubky probádanou.
4. AI nenese žádnou zodpovědnost a nepodléhá zákonu a trestu. Odpovědnost za AI nesou zástupci firem, které AI vyvíjejí nebo nasazují. Umělá inteligence tudíž nikdy sama o sobě není aktérem hodným ocenění či zatracení. Podobně jako v případě umění – které může být dobré nebo špatné – jej nelze zaměnit s umělcem, který jej vytváří.
5. Používáte-li AI, nesete odpovědnost za to, co s její pomocí vytvoříte. Musíte se ujistit, že to, co jste vytvořili, je správné. Nemůžete se na to ale zeptat samotného systému. Správnost výstupů musíte zhodnotit buď sami vlastní odborností na danou problematiku nebo to musíte ověřovat jinými způsoby.
6. V některých kontextech je použití generativní AI nemorální. Pokud jste například soudce a nesete odpovědnost za zakotvení rozhodnutí do právních norem, nemůžete se opírat o aproximace minulých případů, které podrobně neznáte. Namísto AI, která aproximací vytváří fiktivní případy, potřebujete nástroj na vyhledávání skutečných, dobře zdokumentovaných případů. Každý profesionální uživatel musí dbát na to, aby na danou činnost používal správný druh umělé inteligence. A tato „správnost“ do značné míry závisí na míře vaší odpovědnosti.
7. Pokud při sporu nebo i běžné diskusi cítíte potřebu svést vinu na AI, protože něco udělala nebo vám něco řekla, chyba je na vaší straně. Obviňování AI za chybu ve vlastní domněnce, názoru či v napsaném příspěvku je stejně chybné jako obviňování notebooku, psacího stroje či tužky. Generativní AI je pouze další ze způsobů generování obsahu, a nehodí se úplně na všechno. K sousedům odvedle necestujete tryskáčem ani autem. K zapíchnutí připínáčku do nástěnky nepoužíváte hydraulické beranidlo.
8. Účelem vzdělávání je osobní rozvoj – zlepšení dovedností a obohacení znalostí. Nadužívání generativní AI vám může zabránit v dosažení těchto cílů.
9. Ve srovnání s tím, co dokáže většina lidí, produkuje generativní AI sice nadprůměrný, ale jen zřídkakdy špičkový výstup. Budete-li generativní AI  nadužívat, možná vytvoříte průměrnější věci, než jaké dokážete vytvořit sami.
10. Nadužívání může dospět do stavu, kdy budete bez pomoci AI zranitelní a neschopní. Žádná organizace by ve svých procesech neměla spoléhat na generativní AI. Všechny organizace by měly být schopné fungovat v přiměřené míře efektivně i při výpadku elektřiny nebo telekomunikací, ačkoli „přiměřená míra“ se může lišit podle významnosti organizace. Každá organizace by také v zájmu bezpečnosti měla rozvíjet kritický přístup a pečovat o vnitřní hranice nasazení generativní AI ve svých procesech.
11. Opravování nebo ověřování pravdivosti výstupů generativní AI může trvat déle, než kdybyste daný úkol dělali sami nebo pomocí konvenčních nástrojů AI.
12. Generativní AI nemusíte používat. 

Obviňování AI za chybu ve vlastní domněnce, názoru či v napsaném příspěvku je stejně chybné jako obviňování notebooku, psacího stroje či tužky.

Generativní AI (stejně jako auta, tryskáče a hydraulická beranidla) spotřebovává spoustu energie. Není to tedy jen veliký a tupý nástroj; genAI jsou často veliké tupé neudržitelné nástroje. Možná se tento problém časem podaří vyřešit pomocí odlehčenějších modelů a udržitelnějších zdrojů energie. Výše uvedené body však platí nezávisle na vývoji a provozu generativní AI. Mnoho proslulých genAI enginů zcela pošlapává držitele autorských práv. Kampaně za odškodnění držitelů práv duševního vlastnictví a datových subjektů velmi aktivně podporuji, ale i kdyby se situace v tomto ohledu napravila, zmíněné body stále platí.

Byla jsem rovněž v pokušení přidat v bodě 9 někam doprostřed větu: „Vezměte v potaz, že pokud se nacházíte v elitním kontextu, například studujete-li vysokou školu, pak to, co je nadprůměrné pro lidstvo, může být ve vašem kontextu podprůměrné.“ Je to pravda a asi je důležité, aby si to přečetli studenti. Nicméně 9. bod je zcela platný i bez této skutečnosti a v aktuální podobě se vztahuje na každého.

Další texty o umělé inteligenci a právní odpovědnosti (odkazované v původním článku autorkou, pozn. red.):

• Evans, Katie D., Scott A. Robbins, and Joanna J. Bryson. „Do we collaborate with what we design?” Topics in Cognitive Science (2023).
• Bryson, Joanna J., Mihailis E. Diamantis, and Thomas D. Grant. „Of, for, and by the people: the legal lacuna of synthetic persons.” Artificial Intelligence and Law 25, no. 3 (2017): 273-291.

Další texty na autorčině blogu věnované principu fungování generativní AI (zejména LLM):

• 2024 BRIEF overview on LLM / "foundation models" / 2023's version of "AI"
• Generative AI is a magic 8 ball, not AGI. (Původní text jsem napsala v květnu 2023.)
• Technologies with and without natural scaling limits (re: quantum, AI, weapons)
• Viz také štítek genAI. Další texty o středění člověka a odpovědnosti viz štítek fragility.

Texty od jiných autorů:

• Automatic Against the People: Reading, Writing, and AI – unemployed negativity (to je jméno) předkládá argumenty proti jakémukoli používání genAI na univerzitách. Prostřednictvím Lorenza@dallacorte.bsky.social.

Děkuji Melisse McCradden za připomínku ohledně energetiky, n. splendorr za připomínku ohledně autorských práv a Eerkemu Boitenovi za připomínku ke komunikačnímu tónu generativní AI. Děkuji Andrewu Daviesovi a Simonu Willisonovi za připomenutí, že výstupy generativní AI lidé zneužívají s větší pravděpodobností, když jim rozumí nejméně. Důraz na rozhodnutí ohledně toho, kdy AI vůbec nepoužívat, vzešel na AI Policy Summitu pořádaném Virginií Dignum, o němž bych už konečně měla napsat na svém blogu také. Psala jsem o něm nicméně v příspěvku na LinkedInu.

– 20. 2. 2025