Pápež Lev XIV. varuje pred smrteľnou mocou AI a žiada zákaz autonómnych zbraní

Pápež Lev XIV. varuje pred smrteľnou mocou umelej inteligencie

Vatikán hostil konferenciu venovanú rizikám umelej inteligencie a vojen. Pápež Lev XIV. na nej v piatok vyhlásil, že rozhodnutia o použití zbraní a kontrole hraníc sa nesmú nikdy prenechať umelej inteligencii. Informovali o tom agentúra ANSA a portál Vatican News.

„Niektoré rozhodnutia sa nikdy nesmú delegovať,“ povedal pápež. V opačnom prípade podľa neho hrozí, že umelá inteligencia ohrozí spoločné dobro a zredukuje ľudí na údaje.

„Keď sa človek ocitne na zozname cieľov alebo v databáze určenej na kontrolu hraníc, hrozí, že sa z neho stane len údaj. Rozhodnutia, ktoré ovplyvňujú ľudský život, slobodu a použitie sily, musia vždy podliehať účinnému dohľadu ľudí, ktorí sú o veci informovaní a nesú za svoje rozhodnutia zodpovednosť,“ uviedla hlava katolíckej cirkvi.

Lev XIV. zdôraznil, že Pápežská akadémia pre život a Inštitút budúcnosti života, ktoré stretnutie s medzinárodnými odborníkmi na umelú inteligenciu zorganizovali, si dobre uvedomujú výzvy vznikajúce všade tam, kde je ohrozená ľudská dôstojnosť.

Stroj nesmie rozhodovať o živote

Pápež pripomenul posolstvo pápeža Františka z roku 2024 lídrom skupiny G7. Umelú inteligenciu vtedy označil za „vzrušujúci a zároveň desivý nástroj“ a zdôraznil, že žiadny stroj by nemal nikdy rozhodovať o tom, či niekoho pripraviť o život.

„AI preto musí byť odzbrojená. Vyzývam štáty, ktoré sa v novembri stretnú v Ženeve, aby podnikli konkrétne kroky smerujúce k zákazu autonómnych smrtiacich zbraní,“ povedal pápež.

Ide o hodnotiacu konferenciu Dohovoru OSN o zákaze alebo obmedzení používania určitých konvenčných zbraní (CCW), ktorá sa uskutoční 16. až 20. novembra 2026. Témou konferencie vo Švajčiarsku budú autonómne zbraňové systémy schopné samostatne vyhľadávať, vyberať a útočiť na ciele bez priameho zásahu človeka. Zúčastnené štáty budú rozhodovať o ďalšom postupe vrátane možnosti začať rokovania o medzinárodnom právne záväznom nástroji, ktorý by takéto zbrane reguloval alebo zakazoval.

Päť zásad pre umelú inteligenciu

Pápež s odkazom na svoju prvú encykliku Magnifica Humanitas, ktorú vydal koncom mája, predstavil päť zásad pre umelú inteligenciu. Ich budúcnosť nie je vopred určená, stroje sú nástroje a nie osoby, niektoré rozhodnutia nemožno nikdy prenechať strojom, inteligentné technológie musia slúžiť spoločnému dobru a na uplatňovanie etických zásad pri vývoji umelej inteligencie sú potrebné inštitúcie.