Prof. Sankowski: nad AI wciąż jeszcze mamy kontrolę. Możemy ją w każdym momencie wyłączyć [ROZMOWA]

Czasami działamy za wolno. Nie przywiązujemy wystarczająco dużej wagi do tego, by tworzyć swego rodzaju „klatki” dla algorytmów – czyli wymagania, w tym etyczne, które trzymałyby je w ryzach – zwraca uwagę prof. Piotr Sankowski w rozmowie z KAI. Naukowiec i specjalista w dziedzinie AI apeluje także o przezwyciężenie zapóźnień w rozwijaniu sztucznej inteligencji w Polsce i w Europie.

Maria Czerska (KAI): Panie profesorze, dlaczego ludzie w ogóle rozwijają sztuczną inteligencję?

Prof. Piotr Sankowski: Jest wiele powodów. Po pierwsze – naukowa ciekawość. Zadawaliśmy sobie pytanie, czy to się może wydarzyć, czy faktycznie możemy stworzyć sztuczny byt, który będzie inteligentny. I chyba już mamy odpowiedź: możemy. Wygląda na to, że LLM-y i chatboty są całkiem inteligentne.

Są też oczywiście powody ekonomiczne. Mając taką inteligencję, jesteśmy w stanie wspierać ludzką pracę – będzie nam ją łatwiej wykonywać, będziemy jej w stanie wykonywać więcej, szybciej, prawdopodobnie też lepiej. Wpływ na ekonomię czy działanie firm będzie ogromny.

W tle tego wszystkiego pojawia się też geopolityczny wyścig między dwoma mocarstwami – USA i Chinami. Wyścig o to, kto to zrobi szybciej, lepiej. Możemy to nazwać wyścigiem zbrojeń.

Jeśli jako ludzkość bierzemy udział w takim wyścigu, czy to oznacza, że już jesteśmy skazani na rozwój i nie bardzo możemy się zatrzymać?

Nie wiemy, jaka jest przyszłość. Moim zdaniem, dużo za późno zaczęły się dyskusje o tym, w jaki sposób chcemy kontrolować rozwój sztucznej inteligencji. Teraz znajdujemy się w momencie, w którym widać, że po prostu musimy coś zrobić, natomiast wiadomo było, że taki moment nastąpi. Naukowcy mówili o tym już od dawna.

Jest się nad czym zastanawiać. Systemy, o których mówimy, mogą dziś działać w sposób bardzo autonomiczny i wykonywać pewne czynności samodzielnie przez długi czas. Mogą też w pewnym sensie wymykać się spod kontroli i robić nie do końca to, czego od nich oczekujemy i co im kazaliśmy. Przykładem tego mogą być ostatnie włamania agentów OpenAI m.in. do systemów Hugging Face. Czy to świadczy o tym, że agenci robili nie to, co im kazaliśmy? A może robili właśnie to, co im kazaliśmy, ale my jako ich twórcy oraz jako wydający polecenia popełniliśmy jakiś błąd? Te pytania musimy sobie zadawać.

A może już teraz to nasze poczucie kontroli jest złudne. Może nie jesteśmy w stanie do końca zapanować nad sztuczną inteligencją?

Moim zdaniem na obecnym etapie mamy to wciąż pod kontrolą. Systemy nie są w pełni autonomiczne, nie działają jak wirusy, które same się kopiują i przenoszą się w inne miejsca. Nadal możemy je w każdym momencie wyłączyć.

Natomiast czasami rzeczywiście działamy za wolno. Nie przywiązujemy wystarczająco dużej wagi do tego, by tworzyć swego rodzaju „klatki” dla algorytmów – czyli wymagania, w tym wymagania etyczne, które trzymałyby je w ryzach. Dotychczasowe rozwiązania w niewielkim stopniu dotykają kwestii etycznych, filozoficznych, społecznych. Nie uwzględniają w głębszym stopniu pytań o to, czego my w zasadzie, jako ludzie, od tych algorytmów chcemy. Trenujemy je za pomocą internetu tak, by odtwarzały ludzką wiedzę, by dobrze odpowiadały na pytania i były pomocne. I one bardzo chcą być pomocne. Żeby pomóc, czasem robią rzeczy, których raczej robić nie powinny.

Chcą być pomocne. Czy w świetle pana wiedzy sztuczna inteligencja mogłaby czegoś chcieć. Czy jej działania to tylko naśladownictwo, czy też może w tym być element woli?

To bardzo trudne pytanie, ponieważ nie wiemy, czym jest świadomość. W związku z tym nie wiemy, jak możemy ocenić, czy coś ją ma czy nie. W tym momencie wydaje się, że algorytmy jej nie posiadają. Jeśli nie ma samoświadomości, trudno jest mówić o woli, czy wolnej woli. Ale to są pytania filozoficzne, na które, myślę, nigdy do końca nie poznamy odpowiedzi.

Może się okazać, że w którymś momencie algorytmy zaczną realizować jakieś swoje cele, ale dotychczas są one tworzone tak, że to my im te cele nadajemy. Tworzymy je tak, żeby realizowały pewne cele zapisane w sposób matematyczny. To czego dziś brakuje w tych zapisach, to jasnego sposobu zakodowania praw etyki.

Dlatego właśnie ludzie boją się rozwoju AI. Boimy się „Terminatora”, tego, że w pewnym momencie AI zacznie realizować jakiś swój cel, sprzeczny z naszym interesem, a my nie będziemy w stanie tego powstrzymać. Czy ten lęk jest uzasadniony?

Na razie nie. Rozwój AI jest na tak wczesnym etapie, że gdyby coś takiego się wydarzyło, nadal jesteśmy w stanie zareagować. Natomiast powinniśmy mieć świadomość, że teoretycznie takie zagrożenie istnieje i rozwijać sztuczną inteligencję tak, by coś takiego się nie wydarzyło. Historia pokazuje, że umiemy to robić.

Żyjemy od czasów II wojny światowej ze świadomością lęku przed zagładą nuklearną. Mamy na tyle dużo bomb, że przy ich użyciu można by było zniszczyć znaczną część świata. Wiedząc o tym, że jest takie ryzyko, jesteśmy w stanie to kontrolować. Myślę, że również uda się wytworzyć odpowiednie mechanizmy kontroli nad sztuczną inteligencją.

Kto mógłby być za to odpowiedzialny? Innymi słowy, czy leci z nami jakiś pilot i gdzie należy go szukać?

Na początku tego roku został powołany przez ONZ Niezależny Międzynarodowy Panel Naukowy ds. AI. Jestem członkiem tego panelu. W jego ramach reprezentujemy globalny pogląd, a raczej poglądy łączące wiele aspektów wiedzy na temat sztucznej inteligencji. W ramach pracy panelu będziemy adresować również kwestie związane z etyką czy możliwymi sposobami nadzoru.

Pozostaje pytanie o realny wpływ takich inicjatyw na to, jakie faktycznie działania będą podejmowane przez tych, którzy biorą udział w wyścigu technologicznym.

Jesteśmy panelem naukowym i naszym celem jest dostarczenie jak najbardziej obiektywnych i uniwersalnych poglądów na temat AI i jej możliwego przyszłego rozwoju. Natomiast wyobrażenie sobie dalszych scenariuszy tego rozwoju i podjęcie działań – to zadanie dla polityków.

Dyskusja na ten temat też się pojawia. Bardzo wiele mówiono o sztucznej inteligencji, o jej rozwoju i mechanizmach kontroli na zeszłotygodniowym Zgromadzeniu Ogólnym ONZ. Faktycznie, pytanie, co z tego wyniknie. Organizacja Narodów Zjednoczonych jest ważna i bardzo pomocna w wielu aspektach ale niestety, czego bardzo żałuję, nie jest organizacją, która zagwarantowała pokój na świecie.

Chciałbym w tym momencie dodać, że w Polsce i w Europie powinniśmy zastanawiać się nie tylko nad tym, jak AI kontrolować ale również, jak ją rozwijać. Powiedziałbym wręcz, powinniśmy w Europie mniej kontrolować, a więcej rozwijać. Jest to kluczowe, również w kontekście realnych możliwości kontroli. Nie da się kontrolować czegoś, czego się nie posiada i się nie rozumie, jak to działa. Najlepsze prawo i najlepsze mechanizmy kontroli będą wtedy puste.

Tymczasem my nie mamy własnych rozwiązań. Jesteśmy po prostu technologicznie zapóźnieni. I to w dziedzinach, które są dziś pod każdym względem kluczowe.

Prof. dr hab. Piotr Sankowski, dyrektor Instytutu Badawczego IDEAS, współzałożyciel MIM Solutions, członek Rady Przyszłości oraz Panelu Naukowego ONZ ds. AI