Etika v době umělé inteligence

Co (zatím) znamená „umělá inteligence“

Je důležité hned na úvod poznamenat, že v současné době ve skutečnosti ještě nemáme co do činění s „plnohodnotnou“ umělou inteligencí, jak si ji představujeme například ve sci-fi literatuře. V praxi pracujeme převážně s velkými jazykovými modely (Large Language Models, LLM), které se učí na rozsáhlých datových souborech pomocí procesu zvaného strojové učení. Tyto generativní systémy jsou schopny na základě vzorců v datech vytvářet nové výstupy — texty, hudbu, obrazy, a dokonce i videa.

Přestože nejde o „myslící“ bytosti, technologie dosahuje úrovně, která budí respekt — a zároveň obavy. Málokdo si dnes troufne předpovědět, jak bude svět vypadat za 10, 20 či 30 let. Dokonce i pět let může znamenat zásadní proměnu. Než však budeme spekulovat o budoucnosti, je užitečné zastavit se u současných etických a morálních dilemat, která umělá inteligence vyvolává.

Umělá inteligence jako nástroj

Dnes většina profesionálů považuje nástroje využívající AI – ať už mají fyzickou podobu, nebo fungují jako softwarové aplikace – prostě za nástroje. A jak známo, každý nástroj může být použit k dobru i ke zlu. Aplikace jako ChatGPT, Google Gemini nebo Claude mohou sloužit jako pomocníci ve vzdělávání, inspirace pro každodenní činnosti nebo jako efektivní nástroje v profesích od práva přes medicínu až po programování.

AI umožňuje automatizaci rutinních činností a tím zefektivňuje práci. Tento trend je zřejmý už dnes a bude se dále prohlubovat.

Rizika a etické výzvy

Jedním z hlavních problémů je skutečnost, že legislativa a politika nestíhají držet krok s rychlým technologickým vývojem. Vlády a regulační orgány se pohybují pomaleji než vývojáři, investoři a startupy. Mnozí politici navíc postrádají dostatečné porozumění problematice nebo se jí nevěnují. A právě právní rámec je nezbytný pro vymezení hranic — např. ve věcech autorských práv, ochrany osobních údajů nebo obrany před zneužitím AI k neetickým nebo kriminálním účelům.

Dalším rizikem je rostoucí závislost člověka na technologiích. Nadměrné používání digitálních zařízení – jako jsou chytré telefony – má již nyní prokazatelné negativní dopady na schopnost koncentrace a hlubšího učení. Výzkumy ukazují, že pozornost dětí, dospívajících, ale i dospělých dramaticky klesá. Proto je důležité, aby technologie zůstala sluhou člověka – nikoli naopak.

První regulace: AI Act

Evropská unie udělala průlomový krok směrem k právnímu zakotvení používání AI. Nařízení o umělé inteligenci (AI Act) bylo oficiálně zveřejněno 12. července 2024. Stanovuje pravidla pro vývoj, implementaci a užívání AI v rámci EU. Z důvodu složitosti bude vstup jednotlivých ustanovení v platnost postupný, ale dopadne i na členské státy včetně České republiky.

Jednou z klíčových částí je výčet zakázaných praktik (kapitola II, čl. 5), tedy takových, které Evropská unie považuje za neakceptovatelné z hlediska ochrany lidských práv a svobod. Od 2. února 2025 bude na území EU zakázáno provozovat a uvádět na trh systémy AI, které například:

• využívají podprahové nebo manipulační techniky,

• zneužívají zranitelnosti určitých skupin (např. dětí, seniorů, osob s postižením nebo v tíživé sociální situaci),

• zavádějí tzv. sociální skórování (hodnocení osob na základě jejich chování),

• umožňují biometrickou identifikaci v reálném čase na veřejných místech (s omezenými výjimkami),

• používají se k tzv. prediktivnímu profilování kriminality (predictive policing).

Za porušení pravidel hrozí pokuty až 35 milionů eur nebo 7 % celosvětového obratu společnosti – podle toho, která částka je vyšší.

V únoru 2025 zveřejnila Evropská komise podrobné pokyny, jak vyhodnocovat soulad AI systémů s těmito ustanoveními. Zohledňuje se například výzkumné využití, národní bezpečnost nebo osobní nekomerční aktivity.

Výzvy pro společnost a církev

Umělá inteligence má potenciál dramaticky změnit pracovní trh – některé profese zaniknou, jiné se radikálně promění. Klíčovým úkolem budoucnosti bude rekvalifikace a celoživotní vzdělávání. Společnost si bude muset osvojit nové přístupy ke vzdělávání a práci.

Zvláštní odpovědnost v tomto směru mají i křesťané. Ti jsou zváni být „solí země a světlem světa“ (Mt 5,13–16), a tedy i hlasem těch, kdo jsou marginalizováni. Je důležité, aby technologie sloužila širokému spektru lidí – a ne pouze privilegované menšině. Nové nástroje by měly podporovat především ty, kdo čelí každodenním omezením nebo nerovnostem.

Zajímavý vývoj nastal i ve Vatikánu: nový papež Lev XIV., který se hlásí k sociálnímu odkazu Lva XIII. (autor encykliky Rerum novarum, 1891), se v květnovém projevu ke kardinálskému kolegiu výslovně vyjádřil k výzvám spojeným s AI:

„Dnes církev sdílí se světem své dědictví sociální nauky, aby mohla odpovědět na další průmyslovou revoluci a na vývoj umělé inteligence, které přinášejí nové výzvy v oblasti obrany lidské důstojnosti, spravedlnosti a práce.“

K problematice AI se vyjádřil i dokument Antiqua et nova, který v lednu vydala Dikasterie pro nauku víry společně s Dikasterií pro kulturu a vzdělávání.

Etika musí držet krok s vývojem

Na závěr připomeňme prorocká slova sv. Jana Pavla II. z encykliky Redemptor hominis:

„Rozvoj techniky a technikou poznamenaný rozvoj současné civilizace si vyžaduje odpovídající rozvoj morálky a etiky.“ (RH, čl. 15)

Buďme tedy hlasem morálky a etiky všude tam, kde bude hrozit jejich umlčení – ve školách, v práci i v každodenním životě.