Magnifica Humanitas: 10 překvapivých pohledů papeže Lva XIV. na člověka a AI

Umělá inteligence dnes vstupuje téměř do každé oblasti života. Píše texty, vytváří obrázky, pomáhá lékařům při diagnostice, řídí doporučování obsahu na internetu a postupně mění způsob, jakým pracujeme, studujeme i komunikujeme. Jedni v ní vidí začátek nové éry, druzí se obávají světa, ve kterém stroje převezmou stále více lidských činností. Debaty se často soustředí na otázky výkonu, technologií a budoucích možností.

Právě do této diskuse vstupuje nová encyklika papeže Lva XIV. Magnifica Humanitas. Mnozí možná očekávali dokument plný technických úvah o algoritmech nebo robotech. Po otevření textu však člověk rychle zjistí něco překvapivého – papež ve skutečnosti nepíše především o technologiích. Píše o člověku.

Neptá se jen, co umělá inteligence dokáže. Ptá se na něco mnohem hlubšího:

Co se stane s člověkem ve světě stále chytřejších technologií?

Právě zde papež Lev přináší deset velmi zajímavých pohledů.

1. Největším nebezpečím nemusí být samotná AI

Když lidé slyší pojem umělá inteligence, často si představí roboty přebírající kontrolu nad světem nebo scénáře známé ze science fiction filmů. Jiní se obávají ztráty zaměstnání či situace, kdy budou stroje rozhodovat za člověka.

Papež Lev XIV. však upozorňuje na něco mnohem nenápadnějšího. Největším problémem nemusí být samotná technologie, ale způsob, jakým začne měnit naše myšlení. Dnešní společnost stále více hodnotí člověka podle výkonu, výsledků a efektivity.

Člověk tak může být postupně vnímán podobně jako stroj:

• Kolik toho zvládne?
• Jaký podává výkon?
• Jak je užitečný?
• Co dokáže vytvořit?

Jenže člověk není zařízení, které lze vyměnit za novější model. Jeho hodnota nespočívá ve výkonu.

2. Technologie není tak neutrální, jak si myslíme

Velmi často slýcháme větu: „Technologie je jen nástroj. Záleží pouze na tom, jak ji použijeme.“

Encyklika upozorňuje, že skutečnost je složitější. Za každou technologií stojí konkrétní lidé, kteří určují její směr, cíle a způsob fungování.

Algoritmy sociálních sítí například nerozhodují náhodně. Jsou navržené tak, aby člověk zůstal co nejdéle online. Reklamní systémy často sledují ekonomický zisk a doporučovací systémy určují, co člověk uvidí a co zůstane skryté.

Otázka proto nezní pouze:

Co AI umí?

Možná je důležitější ptát se:

Komu AI slouží a kdo ji řídí?

3. Budoucnost nebude určovat jen technologie, ale moc

Jedna z nejzajímavějších částí encykliky se soustředí na otázku moci. Dnes obrovské množství dat, digitálních nástrojů a informací vlastní poměrně malý počet společností.

Tyto firmy mají přístup k miliardám osobních údajů a mohou významně ovlivňovat způsob, jakým lidé komunikují, přemýšlejí nebo se rozhodují.

Papež proto obrací pozornost jiným směrem. Skutečná otázka budoucnosti možná nebude:

Budou stroje jednou myslet?

Ale spíše:

Kdo bude rozhodovat o tom, jak budou myslet?

4. Slabost není chyba systému

Dnešní kultura často člověka tlačí k neustálému zlepšování. Všude slyšíme výzvy:

• Buď rychlejší
• Buď výkonnější
• Buď efektivnější
• Buď lepší verzí sebe sama

Některé současné směry dokonce tvrdí, že technologie jednou odstraní lidské limity, nemoci nebo stárnutí.

Papež Lev XIV. přináší úplně jiný pohled. Tvrdí, že lidská slabost není chyba programu. Není vadou systému, kterou musíme opravit.

Právě naše omezenost nás totiž učí soucitu, pomoci druhým a skutečné lásce.

5. Člověk není cenný proto, že něco vytváří

Jedna z nejsilnějších myšlenek celé encykliky připomíná, že lidská hodnota není založena na výkonu.

Moderní společnost často spojuje hodnotu člověka s jeho úspěchem, vzděláním, kariérou nebo příjmy. Jenže co dítě? Co nemocný člověk? Co starý člověk nebo někdo, kdo už pracovat nemůže?

Mají menší hodnotu?

Křesťanská odpověď je jednoduchá: ne.

Člověk není důležitý proto, že něco vytváří. Je důležitý proto, že existuje. Není jen stvořen ze země – je obrazem samotného Boha.

6. Babel znovu stojí před námi

Encyklika používá zajímavý biblický obraz Babylonské věže. Lidé tehdy chtěli vybudovat stavbu až do nebe a ukázat vlastní sílu a soběstačnost.

Místo jednoty ale přišlo rozdělení.

Papež upozorňuje, že podobné pokušení existuje i dnes. Technologie mohou člověku dávat pocit, že dokáže všechno ovládnout a že už nikoho nepotřebuje.

Historie však opakovaně ukazuje, že technická síla sama nestačí.

7. Druhou možností je Jeruzalém

Vedle Babylonské věže encyklika připomíná také obnovu Jeruzaléma.

Lidé zde nebudují něco pouze pro sebe. Každý přispívá svým dílem práce a společně vzniká něco většího. Tento obraz podle papeže může ukazovat i směr pro budoucnost digitální společnosti.

Ne svět založený na:

• kontrole,
• soutěži,
• moci,

ale svět založený na:

• spolupráci,
• odpovědnosti,
• vztazích.

8. Umělá inteligence může pomáhat, ale nemůže milovat

AI dnes dokáže napsat článek, vytvořit obrázek nebo analyzovat obrovské množství informací během několika sekund.

Přesto existují věci, které zůstávají čistě lidské.

Stroj:

• neumí skutečně milovat,
• neumí odpouštět,
• neumí se obětovat,
• neumí nést odpovědnost.

Technologie může být pomocníkem, ale nikdy nemůže nahradit lidské srdce.

9. Pokrok nemusí znamenat skutečný růst

Moderní společnost často předpokládá, že novější automaticky znamená lepší.

Jenže více informací nemusí znamenat více moudrosti. Rychlejší komunikace nemusí vytvářet hlubší vztahy a více možností nemusí přinášet více štěstí.

Encyklika připomíná, že skutečný pokrok se měří jinak – podle toho, zda člověk roste v důstojnosti a zda společnost chrání slabší.

10. Největší otázkou budoucnosti možná nebude AI

Po přečtení celé encykliky člověk získá zvláštní dojem. Přestože se dokument věnuje umělé inteligenci, ve skutečnosti se mnohem více věnuje člověku.

Možná největší otázka příštích desetiletí nebude:

„Co všechno dokáže umělá inteligence?“

Ale:

„Dokážeme zůstat lidmi?“

Závěr

Magnifica Humanitas nepřináší strach z technologií ani jejich nekritickou oslavu. Nepředstavuje boj proti vědě ani odmítání pokroku. Připomíná něco mnohem důležitějšího: technologie mohou být stále dokonalejší, stroje stále rychlejší a algoritmy stále chytřejší.

Lidské srdce však zůstává nenahraditelné.

Encyklika Rerum novarum – základ katolického sociálního učení

Naděje jako zdroj spásy: Encyklika Spe Salvi papeže Benedikta XVI.

Encyklika Redemptoris Mater: Úloha Panny Marie v životě církve podle sv. Jana Pavla II.