Profesor z Sapienzy: Magnifica humanitas pogłębia debatę o AI

Walter Quattrociocchi, profesor zwyczajny informatyki na Uniwersytecie Sapienza w Rzymie, określa pierwszą encyklikę Leona XIV jako bardzo przenikliwą i zdolną do przeniesienia debaty o sztucznej inteligencji na znacznie bardziej dojrzały poziom niż dotychczasowe dysputy. Naukowiec przestrzega przed społeczeństwem, które przekazuje maszynom zdolność osądu.

„(…) tak zwane sztuczne inteligencje nie przeżywają doświadczeń, nie posiadają ciała, nie doświadczają radości ani cierpienia, nie dojrzewają w relacjach (…)”. Te słowa Leona XIV z punktu 99 encykliki Magnifica humanitas stanowią, zdaniem Waltera Quattrociocchiego, jeden z najważniejszych fragmentów pierwszej encykliki poświęconej sztucznej inteligencji.

W wywiadzie dla mediów watykańskich profesor informatyki na Uniwersytecie Sapienza w Rzymie oraz dyrektor Center of Data Science and Complexity for Society podkreśla, że dokument papieski pomaga przenieść debatę publiczną na głębszy poziom.

>>> DwieNawy – Pierwsza encyklika Leona XIV: Magnifica humanitas

Poza debatą między entuzjazmem a strachem

Zdaniem Quattrociocchiego encyklika „przesuwa wskazówkę debaty, która dotąd oscylowała między naiwnym entuzjazmem a katastroficznymi wizjami”, podejmując temat z perspektywy metodologicznej i epistemologicznej. Zachęca bowiem do refleksji nad tym, czym jest wiedza, jak powstaje i jakie są jej granice.

Kluczową kwestią – zauważa uczony – nie jest rozstrzyganie, czy maszyny myślą, czy nie, lecz zrozumienie, „w jakim stopniu technologie te zmieniają warunki i kryteria, dzięki którym społeczeństwo buduje wiedzę, osąd, prawdę, a także relacje międzyludzkie”.

Jego zdaniem tekst Leona XIV jest szczególnie trafny, ponieważ dostrzega, że wyzwanie nie ma wyłącznie charakteru technicznego ani antropologicznego, lecz dotyczy samego procesu uczenia się.

„Dzisiaj – wyjaśnia – wiarygodność językowa, czyli to, co optymalizują duże modele językowe (Large Language Models), wchodzi w interakcję z odpowiedzialnością ludzkiego osądu, splata się z nią i staje się niemal nierozdzielna.”

Symulacja osądu

Jednym z najczęściej spotykanych nieporozumień jest utożsamianie jakości odpowiedzi chatbota z naturą procesu, który ją generuje.

„Widzimy język i natychmiast jesteśmy skłonni sądzić, że został on wytworzony przez coś, co rozumuje w sposób podobny do nas. Tymczasem wcale tak nie jest” – mówi profesor.

Modele językowe – wyjaśnia Quattrociocchi – tworzą spójne i przekonujące teksty dzięki statystycznym korelacjom, nie posiadając jednak doświadczenia świata ani zdolności do weryfikowania informacji.

Odwołując się do badań swojego zespołu zatytułowanych „Symulacja osądu”, naukowiec stwierdza, że w przypadku złożonych zadań systemy te nie są w stanie formułować rzeczywiście wiarygodnych ocen.

„Nie mamy do czynienia z osądem, lecz z jego symulacją; nie mamy interakcji, lecz symulację interakcji”.

Różnica jest zasadnicza: człowiek działa w określonym kontekście normatywnym, potrafi rozpoznać błąd i poddać refleksji własne decyzje. Modele językowe natomiast funkcjonują w obrębie „czysto statystycznego przybliżania słów”.

Przejrzystość, odpowiedzialność i nowe uprzedzenia

Szczególnie niepokojący jest wpływ na procesy poznawcze i kulturowe. „W imponującym tempie wzrosła liczba osób wypowiadających się na tematy, których nie znają, i padających ofiarą choroby pewnej wiedzy, czyli epistemii” – mówi Quattrociocchi. Termin ten został ukuty przez zespół badaczy kierowany przez naukowca, aby opisać komfortową iluzję posiadania wiedzy pewnej i zweryfikowanej.

Jak zauważa badacz, wielu użytkowników całkowicie deleguje modelom językowym tworzenie treści, nie dysponując jednocześnie narzędziami pozwalającymi na ich weryfikację. W rezultacie do przestrzeni publicznej trafiają informacje „doskonale opakowane, ale w rzeczywistości puste i niezdolne do obrony w racjonalnym rozumowaniu”. Zdaniem Quattrociocchiego jest to zjawisko, które może coraz bardziej utrudniać odróżnienie prawdziwej wiedzy od jej braku.

>>> Brno: w sobotę beatyfikacja dwóch męczenników – ofiar reżimu komunistycznego

Bardziej dojrzała debata

W zakończeniu profesor informatyki wyraża uznanie dla wkładu, jaki encyklika wnosi do współczesnej debaty. Magnifica humanitas – podkreśla – „przedstawia bardzo trzeźwą i znacznie mniej obciążoną infantylizmem oraz naiwnością wizję, które wynikają z niewystarczającej znajomości tematu”, przenosząc dyskusję na bardziej dojrzały poziom.

Końcowa refleksja dotyczy pytania, które – zdaniem Quattrociocchiego – przewija się przez cały dokument papieża Leona XIV: „Co oznacza dla naszego społeczeństwa powierzanie maszynom, które jedynie symulują interakcję i symulują osąd, zadań wymagających relacji i prawdziwego sądu, skoro same nie wiedzą, czym jest relacja ani czym jest osąd?”

Zobacz także