Zachować zdrowy dystans

Z cyklu "Czytając Magnifica humanitas"

Paradoksy, prawda? O co w tym wszystkim chodzi? Żeby było lepiej? Tylko czy naprawdę jest lepiej? I w jakim wymiarze lepiej, a w jakim gorzej? To pytania dość często cisnące się na usta, kiedy patrzymy na to, co nazywamy postępem. Człowiek wynalazł samochód? Zaraz pojawił się i czołg. Samolot? Zaraz użył go na wojnie do bombardowania. Rozszczepił atom? Podobnie... Rozwój medycyny? Eksplozja chorób, których dawniej ludzie nie tak często dożywali; na coś przecież trzeba umrzeć. Internet mocno ułatwiający zdobywanie wiedzy? Ale i internet łatwo rozprzestrzeniający dezinformację.... Kij ludzkiego postępu ma zawsze co najmniej dwa końce. I nie inaczej wydaje się być, gdy chodzi o sztuczną inteligencję.

Uwaga na degradację człowieka

W szerokiej gamie zagrożeń, na jakie wskazuje w swojej encyklice Magnifica humanitas papież Leon XIV zwróćmy dziś uwagę na dwa punkty, Najpierw na punkt 100

100. W świetle tego, co zostało powiedziane, możemy lepiej zrozumieć, dlaczego AI może być cenną pomocą, a zarazem wymagać podejścia trzeźwego i czujnego. W ostatnich latach jej prywatne wykorzystanie znacznie wzrosło i z wielu stron podejmuje się refleksję nad możliwościami i zagrożeniami związanymi z jej szybkim upowszechnieniem. W przypadku użycia osobistego należy zwrócić szczególną uwagę na trzy aspekty: łatwość uzyskania wyniku, wrażenie obiektywności oraz symulację komunikacji ludzkiej. Szybkość i prostota, z jakimi można uzyskać wskazówki, złożone opracowania, treści medialne oraz formy konkretnej pomocy upraszczają nasze życie, mogą jednak także przyzwyczajać nas do zbyt daleko idącego delegowania zadań i do szukania gotowych odpowiedzi, osłabiając osobisty osąd i kreatywność. (...)

I tu się na razie zatrzymajmy. Łatwość uzyskania wyniku... Ciekawe spostrzeżenie, prawda? Problem nie pojawił się dziś. Podobny dotyczył np. używania kalkulatorów. Gdy człowiek do każdego działania bardziej skomplikowanego niż dodanie dwóch niewielkich liczb używa kalkulatora, zatraca powoli umiejętność dokonywania samodzielnych obliczeń. Gdy przyzwyczai się, że rozwiązanie jakiegoś problemu znajdzie łatwo dzięki sztucznej inteligencji, też stanie się bezradny. Będzie jak z przepisanymi z intrenetu zadaniami domowymi uczniów: owszem, znajdzie rozwiązanie; ale czy je zrozumie? Stwierdzenie papieża, że z powodu korzystania ze sztucznej inteligencji osłabiona zostać może zdolność człowieka do osobistego osądu i kreatywności wydaje się jak najbardziej słuszna...

Dalej zaś w tym samym punkcie czytamy:

Wrażenie obiektywności, jakie mogą wywoływać odpowiedzi i propozycje tych systemów, niesie ryzyko, że zapomnimy, iż odzwierciedlają one parametry kulturowe tych, którzy je zaprojektowali i wytrenowali, ze wszystkimi ich zaletami i wadami.

I tu znów się zatrzymajmy... Jeśli zapytamy sztuczną inteligencję jak zarejestrować kartę eSIM u tego czy innego operatora, jej podpowiedź na pewno będzie pomocna. Ale gdy zapytamy np. o przyczyny jakiejś wojny, o wpływ jakiegoś prądu umysłowego na kulturę, albo gdy zapytamy o moralność, to czy możemy wolno nam traktować jej odpowiedź tak, jakby była nieomylną wyrocznią? Czy nie będzie oddawała poglądów tych, którzy ja „zaprojektowali i wytrenowali”? Gdy spotykamy człowieka inaczej niż my myślącego, zachowujemy sceptyczny dystans, wiemy, że niekoniecznie musimy się z nim zgodzić. Korzystając ze wskazań sztucznej inteligencji łatwo zapomnieć, że prezentuje najpewniej poglądy „uśrednione”; nie pójdzie pod prąd, nie sprzeciwi się obowiązującym powszechnie poglądom, nie wymyśli niczego oryginalnego... Będzie powtarzała to, „co się mówi”....

I trzecia uwaga papieża:

Sztuczne naśladowanie pozytywnej komunikacji ludzkiej – słów rady, empatii, przyjaźni, miłości – może być satysfakcjonujące, a nawet użyteczne, ale niewystarczająco świadomych użytkowników może wprowadzać w błąd i stwarzać złudzenie, że pozostają oni w relacji z autentycznym podmiotem osobowym. Gdy słowo jest symulowane, nie buduje relacji, lecz jedynie jej pozór. Sztuczne naśladowanie relacji opiekuńczej lub towarzyszenia może stać się niebezpieczne, gdy wkrada się w kontekst ubogi w realne relacje i uczucia: wówczas istnieje ryzyko nie tylko tego, że jakaś osoba uwierzy, iż rozmawia z inną osobą, lecz tego, że utraci samo pragnienie rzeczywistego szukania drugiego człowieka.

To wskazanie papieża zostawmy już bez komentarza...

Uwaga na zmianę nastawienia wobec zagrożeń zmiany klimatu

Wskazanie papieża z kolejnego punktu encykliki dotyczy już innego problemu. Pamiętamy, prawda? Zastąpienie żarówek ledami, domaganie się na każdym kroku większej energooszczędności, żyłowanie mocy silników, lament nad krowami wydzielającymi powodujące ocieplanie planety gazami...  No to przeczytajmy, co papież napisał:

Poszerzając spojrzenie na zastosowanie AI w naszych społeczeństwach, stwierdzamy, że jest ona już obecna w procesach decyzyjnych we wszystkich dziedzinach i na różnych poziomach: w komunikacji, zarządzaniu i kontroli. Korzyści w zakresie efektywności oraz potencjał poprawy niektórych usług są oczywiste; jednak szybkie i bezkrytyczne wdrażanie naraża nas na różne ryzyka, w tym także na ryzyko niedocenienia jej wpływu na środowisko. Obecne systemy AI wymagają wielkich ilości energii i wody, w sposób znaczący wpływają na emisję dwutlenku węgla i intensywnie zużywają zasoby. Wraz ze wzrostem złożoności, zwłaszcza w przypadku wielkich modeli językowych, rosną także potrzeby w zakresie mocy obliczeniowej i zdolności przechowywania danych, opierające się na całym zespole maszyn, przewodów, centrów danych i energochłonnej infrastruktury. Dlatego niezbędne jest rozwijanie bardziej zrównoważonych rozwiązań technologicznych w celu zmniejszenia wpływu na środowisko i ochrony naszego wspólnego domu.

W sumie zdumiewające, jak świat, tak mocno stawiający na ekologię, błyskawicznie zaczął uwielbiać mocno zasobożerną sztuczną inteligencję... Papież zdaje się martwić o środowisko. Ale można z opisywanego przezeń zjawiska wysnuć i inny wniosek: to wszystko ściema. To znaczy ta troska rządzących o ochronę środowiska, to tylko ściema. ETSy pierwsze, ETSy drugie są tylko po to, żeby ktoś łatwo zarobił. Nie po to, żeby chronić rzekomo płonącą planetę...

Uwagi papieża uświadamiają nam, że trzeba zachować dystans. Nie tylko wobec sztucznej inteligencji. Także tego wszystkiego, czym zachwyca się dzisiejszy świat. Bo miałkie to, co proponuje. Mocne fundamenty...  No wiadomo, na czym warto budować.

Całą encyklikę możesz znaleźć TUTAJ