AI potrzebuje człowieka, jego inteligencji i serca

Sztuczna inteligencja stwarza nowe wyzwania w służbie zdrowia, w obliczu końca życia, czy na wojnie. „Potrzebna jest samoregulacja” – mówi w wywiadzie dla miesięcznika „Tracce” abp Renzo Pegoraro. Przewodniczący Papieskiej Akademii Życia podkreśla, że „prawdziwą inteligencję, podobnie jak serce, musi wnieść człowiek, ponieważ wszyscy jesteśmy wezwani do odpowiedzialności, każdy ze swojej strony: naukowcy, teolodzy, filozofowie, pracownicy służby zdrowia, pedagodzy”.

Abp Pegoraro ukończył medycynę na Uniwersytecie w Padwie, specjalizując się w chirurgii, po czym wstąpił do seminarium i podjął studia bioetyczne. Od 2000 roku jest profesorem etyki pielęgniarskiej w watykańskim szpitalu pediatrycznym Bambin Gesù, a od maja ubiegłego roku stoi na czele Papieskiej Akademii Życia, której był długoletnim członkiem. Akademia została powołana do życia przez św. Jana Pawła II w 1994 roku. Jej celem jest obrona i promowanie wartości ludzkiego życia oraz godności osoby ludzkiej.

„Tracce”: Skąd wzięło się tak szybkie zainteresowanie Kościoła sztuczną inteligencją?

Abp Renzo Pegoraro: Kościół od samego początku dostrzegał potencjał sztucznej inteligencji, stymulowany przez niektóre przedsiębiorstwa technologiczne oraz część środowiska naukowego zaangażowanego w różne projekty związane ze sztuczną inteligencją, które zwróciły się do Papieskiej Akademii Życia. Wśród tych, którzy ją tworzą i rozwijają, są tacy, którzy odczuli potrzebę refleksji etycznej w celu oceny korzyści, ale także zagrożeń, jakie mogą wynikać z AI w różnych dziedzinach. Doprowadziło to już w 2020 roku do powstania „Rome Call for AI Ethics”, dokumentu, który zaproponował sojusz między społeczeństwem obywatelskim, instytucjami, firmami technologicznymi i rządami, określając sześć kluczowych zasad: przejrzystość, inkluzywność, odpowiedzialność, bezstronność, wiarygodność oraz bezpieczeństwo i prywatność. Dokument ten podpisał ówczesny przewodniczący Papieskiej Akademii Życia abp Vincenzo Paglia oraz prezes Microsoftu Brad Smith, wiceprezes IBM John Kelly i dyrektor generalny FAO Qu Dongyu. W październiku ubiegłego roku dołączył do nich gigant technologiczny Salesforce, reprezentowany przez prezesa Sabastiana Nilesa. Z czasem dołączyli do nich przedstawiciele wielkich religii monoteistycznych i religii wschodnich, a także setki uniwersytetów. W ten sposób ugruntowało się wielkie porozumienie wokół etyki sztucznej inteligencji, którą papież Franciszek nazwał „algoretyką”, czyli etyką algorytmu.

Co skłoniło tak różnorodne podmioty do przyłączenia się?

Przekonanie, że potrzebna jest etyka samoregulacji i ochrony bezpieczeństwa, w świetle ogromnego rozwoju, jaki sztuczna inteligencja osiągnęła w ostatnich latach. Samo prawo z trudem nadąża za ewolucją technologii, podczas gdy etyka ma na celu wspieranie większej odpowiedzialności wszystkich zaangażowanych podmiotów, przede wszystkim dużych firm z branży, w atmosferze dialogu i współpracy.

Nie chodzi więc o wyznaczanie granic i zakazów.

Nie, perspektywą jest samoregulacja, aby te wspólnie określone kryteria etyczne mogły zapewnić wiarygodność i rzetelność użytkownikom i konsumentom, jako uzupełnienie przyjętych przepisów. Ustawa o sztucznej inteligencji (AI Act) przyjęta przez Unię Europejską w maju 2024 r. jest pozytywnym i interesującym krokiem, ale ma trudności w nadążaniu za przyspieszeniem, jakie przechodzi technologia. Dodatkowym problemem jest konieczność dialogu z firmami amerykańskimi lub chińskimi.

Przejdźmy do konsekwencji w różnych obszarach, zacznijmy od służby zdrowia.

W listopadzie ubiegłego roku wraz z Międzynarodową Federacją Lekarzy Katolickich zorganizowaliśmy spotkanie na temat „Sztuczna inteligencja a medycyna – wyzwanie godności ludzkiej”. Było to interdyscyplinarne spotkanie, które posłużyło podsumowaniu implikacji już obecnych w służbie zdrowia. Korzyści są już widoczne na poziomie diagnostyki – prześwietlenia, tomografia komputerowa, biopsje i materiał histologiczny – dzięki czemu sztuczna inteligencja stanowi istotną pomoc w szybkim i dokładnym diagnozowaniu. Można ją również wykorzystać w prognozowaniu. Natomiast zastosowanie w terapii wymaga jeszcze weryfikacji.

Czy są to możliwości „demokratyczne”, dostępne dla wszystkich?

Tutaj dochodzimy już do zagrożeń. Pierwszym z nich jest niewielka przejrzystość systemów: nie zawsze jest jasne, z jakich źródeł czerpią one informacje przy formułowaniu diagnoz i prognoz, brakuje przejrzystości stosowanych algorytmów. W Szwajcarii, na przykład, zaczyna się już ujawniać, do jakiej literatury się odwołano, ale jest to rzadki przypadek. Jeśli chodzi o niezawodność, nastąpiła pewna poprawa, ale nadal możliwe są błędy.

Czy jednak prawdziwym ryzykiem nie jest centralna rola maszyny lub algorytmu kosztem relacji międzyludzkich i zawodowych?

Istnieje problem antropologiczny: systemy te powinny służyć pomocą, a nie zastępować lub nadmiernie wpływać na relacje w zakresie opieki i pomocy. Muszą pozostać „antropocentryczne”. Kluczowa musi pozostać relacja między lekarzem a pacjentem. Sztuczna inteligencja musi działać w kontekście decyzji zawodowych. To jest wielkie wyzwanie. Im będzie szybsza i bardziej wyrafinowana, tym bardziej będzie miała tendencję do wpływania na decyzje lekarza, a także samego pacjenta. Będzie to kwestia tego, czy pacjent bardziej wierzy sztucznej inteligencji, czy lekarzowi. Należy chronić sojusz, empatię między lekarzem a pacjentem. Pacjent nie może być sprowadzony do zbioru danych, jakby był równaniem.

Czy może to mieć wpływ na koniec życia?

Jeśli osoba jest tylko zbiorem danych, dominuje perspektywa życia „wyliczonego”, a to może wpłynąć na organizację usług pod względem priorytetów i prowadzić do stopniowej marginalizacji niektórych pacjentów, aby skupić się tylko na wybranych i porzucić innych: osoby starsze, niepełnosprawne, przewlekle chore. Byłaby to „kultura odrzucenia”, jak nazwał ją papież Franciszek, zaplanowana za pomocą algorytmu. Nie jest to jeszcze eutanazja, ale jest to już porzucenie.

Czy poczucie bycia ciężarem może być przesłanką do zwrócenia się o pomoc w samobójstwie?

Jeśli sztuczna inteligencja pogłębia nierówności, prowadzi do porzucenia i odrzucenia, może oczywiście przyczynić się do popchnięcia w kierunku eutanazji lub wspomaganego samobójstwa.

Z drugiej strony to właśnie ta sama technologia pozwala dziś utrzymywać przy życiu osoby z poważnymi schorzeniami. Kiedy może stać się nadmiernym leczeniem?

Rozwój medycyny i technologii to coś bardzo pozytywnego. Istnieje jednak problem kulturowy dotyczący tego, jak radzić sobie z bólem, a także ze śmiercią: nie jesteśmy przygotowani na nowe możliwości, jakie oferuje dziś medycyna w zakresie intensywnej terapii, chirurgii i leczenia chorób przewlekłych. Nie można jednak popadać w nadmierną terapię, należy odzyskać poczucie granicy, akceptację naszej śmiertelności. Kościół oferuje bardzo wartościowe kryteria rozeznania. Już Pius XII wypowiedział się na temat resuscytacji, a następnie Jan Paweł II w „Evangelium vitae” dobrze wyjaśnił, co rozumie się przez uporczywą terapię. Opieka paliatywna, to kompleksowa opieka nad osobą, również na płaszczyźnie psychologicznej i duchowej. Jak towarzyszyć, gdy nie można wyleczyć – to jest kolejne wielkie wyzwanie. Nie istnieje tylko ból czy samobójstwo, istnieje również skuteczna terapia przeciwbólowa, aż po głęboką sedację, gdy jest to konieczne. Jednak wyzwanie solidarności i ochrony prywatności nie dotyczy wyłącznie instytucji opieki zdrowotnej. Sztuczna inteligencja angażuje wolność i odpowiedzialność każdego: lekarzy, pacjentów, członków rodziny.

To człowiek musi włożyć w AI swą inteligencję i serce.

Sztuczna inteligencja nie jest prawdziwą inteligencją, termin ten jest mylący, jest to metafora, to tylko ogromna i potężna zdolność obliczeniowa w odniesieniu do ogromnej ilości danych; ale maszyna nie rozróżnia, nie potrafi powiedzieć „słusznie/niesłusznie”, „dobro/zło”. Jest w stanie jedynie dostarczyć odpowiedzi o wysokim prawdopodobieństwie na podstawie ilości i jakości dostępnych danych. Brakuje jej wymiaru cielesnego oraz całego komponentu afektywnego i emocjonalnego, który charakteryzuje człowieka. Brakuje jej również interakcji ze środowiskiem społeczno-kulturowym.

Północ i Południe świata, jakie mogą być dalsze implikacje?

Istnieje ryzyko pogłębienia różnic, ponieważ tylko niektóre obszary geograficzne mają dostęp do najbardziej zaawansowanych systemów czy też dlatego, że systemy te nie są odpowiednie w niektórych krajach: jeśli zostały stworzone w kontekście „Zachodnim”, nie można ich automatycznie przenieść do innej rzeczywistości i mogą one powodować błędy oraz rozbieżności. Nie zapominajmy też, że te systemy, ich centra danych, charakteryzują się wysokim zużyciem energii i mają duży wpływ na środowisko, również z powodu problemów z przegrzaniem.

Problem technologicznej dezinformacji dotyczy dziś również sektora wojskowego. Zabijać może nawet dron.

Podobnie jak w medycynie, gdzie lekarz może mieć skłonność do oddania sztucznej inteligencji diagnozy i prognozy, problem ten może pojawić się również w konflikcie zbrojnym.

Czy można poddać się dronowi? Czy i tak zostanie się trafionym?

Zależy to od tego, jak został zaprogramowany, czy przewidziano sytuacje, w których system się zawiesza.

Znowu chodzi o człowieka…

Jeśli chodzi o wojnę, od czasu konwencji genewskiej zawsze starano się ustanowić zasady, choć w kontekście, który w ogóle nie powinien istnieć. Również tutaj chodzi o rozróżnienie, czy sztuczna inteligencja w dziedzinie wojskowości może być wykorzystywana wyłącznie do celów obronnych lub wywiadowczych, czy też również do ataku.

Ostatecznie, co leży na sercu Kościołowi w erze sztucznej inteligencji?

Kościół dostrzega pozytywne aspekty, na przykład w ochronie środowiska, transporcie czy edukacji. Pojawia się jednak fundamentalny problem antropologiczny: kim jest człowiek w erze sztucznej inteligencji i w jaki sposób może ona wpływać na wolność i odpowiedzialność jednostek, instytucji czy samych rządów. Należy postawić na informację, aby poznać sztuczną inteligencję i rozwinąć krytyczne myślenie. Potrzebne jest zaangażowanie na poziomie świadomości, sojusz między tymi, którzy ją tworzą, a tymi, którzy z niej korzystają. Kościołowi przyznano autorytet moralny, z korzyścią nie tylko dla wierzących, już od poszerzonego szczytu G7, do udziału, w którym został zaproszony papież Franciszek w 2024 roku. Trzeba być obecnym, do czego zachęca nas również papież Leon.