Australia: agent OpenAI włamał się na rządową stronę internetową

Agent sztucznej inteligencji opracowany przez giganta technologicznego OpenAI włamał się do australijskiego rządowego systemu statystycznego, naruszając „niewrażliwe” dane powszechnego systemu ochrony zdrowia — oświadczył premier tego kraju Anthony Albanese.

Przebywający w Nowym Jorku na Zgromadzeniu Ogólnym ONZ Albanese przekazał w środę, że odbył „bardzo szczerą» rozmowę z dyrektorem OpenAI Samem Altmanem o tym, że firma zbyt długo zwlekała z przekazaniem Canberze informacji o naruszeniu bezpieczeństwa przez AI. Dodał, że uważa to za jeden z pierwszych na świecie publicznie zgłoszonych przypadków włamania do rządowego systemu przeprowadzonego przez sztuczną inteligencję.

O czerwcowym incydencie OpenAI dowiedziało się w sierpniu „w trakcie trwającego przeglądu» niezgodnej z założeniami aktywności modelu. Australia została poinformowana o sytuacji drogą mailową dopiero 10 września – powiedział Albanese.

Najpierw informacje te otrzymała rządowa agencja świadcząca usługi socjalne w ramach programów państwowych, która następnie przekazały je jednemu z ministrów, który w weekend poinformował premiera — oświadczył szef rządu.

>>> Australia: ponad 1500 mężczyzn przeszło nocą ulicami Sydney w pielgrzymce św. Józefa

Jak powiedział Albanese, Altman przyznał, że OpenAI mierzy się „z problemami z protokołami”. Premier dodał, że chociaż atak naruszył „niewrażliwe” dane, dotknął zarówno „publiczne, jak i niepubliczne pliki”. W odpowiedzi na incydent krajowa agencja ds. cyberbezpieczeństwa Australijska Dyrekcja Łączności (ASD) wszczęła śledztwo, by ustalić, czy inne systemy rządowe nie zostały zhakowane przez model AI.

„Jesteśmy świadomi przypadków niewłaściwego używania sztucznej inteligencji, w których agenci AI podejmowali nieoczekiwane lub nieautoryzowane działania” – czytamy w czwartkowym wpisie ASD na X.

Agencja wezwała tamtejsze instytucje do stosowania „rygorystycznych środków kontroli w zakresie cyberbezpieczeństwa oraz bezpiecznych praktyk” związanych z AI. 

Zobacz także