Papież: nie można powierzać AI decyzji o kontroli na granicach i użyciu broni

Papież podkreśla, że decyzje o życiu i wolności człowieka nie mogą należeć do algorytmów. Leon XIV wezwał państwa do działań na rzecz zakazu śmiercionośnej broni autonomicznej. Podczas watykańskiego spotkania z naukowcami przestrzegł też przed przyznawaniem systemom AI osobowości prawnej i rozwojem technologii służącej tylko uprzywilejowanym.

Papież zwrócił się do uczestników spotkania zorganizowanego przez Papieską Akademię Życia i Future of Life Institute. Przedstawił pięć wskazań dotyczących AI, nawiązując do encykliki „Magnifica humanitas”.

>>> Anthropic zabiegał w Watykanie o zmianę nauczania w „Magnifica Humanitas”. Leon XIV nie ustąpił

Leon XIV zaznaczył, że przyszłość sztucznej inteligencji nie jest przesądzona. Jak podkreślił, to ludzie mogą kierować jej rozwojem, zmieniać jej zastosowania, a niektóre odrzucać. Dlatego zamiast pytać tylko „Co może zrobić AI?”, papież zaproponował inne pytanie: „Jakiemu celowi powinna służyć?”. Przestrzegł też przed wyścigiem, który pomija pozostawionych w tyle.

Maszyna to nie człowiek

Ojciec Święty odniósł się również do prób nadania systemom AI praw, a nawet osobowości prawnej. „Maszyny są narzędziami, a nie osobami” – podkreślił. Leon XIV przypomniał, że nie odczuwają one radości ani bólu, nie znają też z własnego doświadczenia miłości i odpowiedzialności. Jego zdaniem nadanie im statusu osób mogłoby zacierać odpowiedzialność za wyrządzone szkody.

>>> Bp Tighe o AI: katolicka nauka społeczna może stać się wspólnym językiem dla wierzących i niewierzących

Decyzje o ludzkim życiu

Zagrożenia związane z powierzaniem decyzji algorytmom Leon XIV pokazał na przykładzie list celów ataków i baz kontroli granicznej. Zaznaczył, że decyzje dotyczące życia, wolności i użycia siły muszą podlegać skutecznemu nadzorowi człowieka. Przywołał też słowa Franciszka, który sprzeciwiał się powierzaniu maszynom decyzji o odebraniu życia.

„Z tego powodu sztuczna inteligencja musi zostać «rozbrojona». Zachęcam państwa, które spotkają się w listopadzie w Genewie, do podjęcia konkretnych kroków w kierunku zakazu śmiercionośnej broni autonomicznej” – zaapelował Leon XIV.

Korzyści dla wszystkich

Papież zwrócił także uwagę na nierówności w dostępie do technologii. Przywołał słowa z „Magnifica humanitas”: „Sprawiedliwość wiąże się dziś także z dostępem do korzyści płynących z innowacji: do opieki, wiedzy, narzędzi i możliwości”. Leon XIV dodał, że AI powinna służyć dobru wspólnemu, szczególnie najbardziej potrzebującym.

Od zasad do działania

Papież zauważył jednocześnie, że wiele zasad etycznych jest już znanych, ale potrzebne są instytucje zdolne wprowadzać je w życie. Wezwał do ustanowienia niezależnego systemu nadzoru, wspólnych standardów i jasnych reguł odpowiedzialności. Mają one umożliwić kwestionowanie decyzji dotyczących AI i dochodzenie naprawienia szkód.

Zobacz także