Panel naukowy ONZ ostrzega, że rozwój AI wyprzedza możliwości regulatorów

Niezależny Międzynarodowy Panel Naukowy ONZ do spraw Sztucznej Inteligencji, złożony z 40 naukowców z 37 krajów, opublikował wstępny raport ostrzegający, że rządy i instytucje naukowe nie nadążają za tempem rozwoju AI. Autorzy nazywają ten problem dylematem dowodowym: politycy potrzebują solidnych danych naukowych, zanim wprowadzą regulacje, ale zanim takie dane powstaną, technologia zdąży pójść dalej.

Dylemat dowodowy

Według panelu ponad 40 różnych ram regulacyjnych i wytycznych etycznych dotyczących AI istnieje już na świecie, ale pozostają one rozdrobnione, niespójne między krajami i rzadko poddawane realnej weryfikacji, czy w ogóle działają w praktyce. Dodatkowym problemem jest to, że znaczna część ocen bezpieczeństwa nowych modeli jest przeprowadzana przez same firmy je tworzące, bez niezależnej kontroli z zewnątrz.

Raport podkreśla też skalę koncentracji mocy obliczeniowej: Stany Zjednoczone odpowiadają za około 75 procent mocy obliczeniowej wśród pięciuset najpotężniejszych superkomputerów AI na świecie, Chiny za około 15 procent, co razem daje blisko 90 procent globalnych zasobów w rękach dwóch krajów. Ponad miliard ludzi korzysta już co tydzień z konwersacyjnej AI, a mimo to zdolność do oceny i kontroli tych systemów pozostaje w rękach nielicznych.

Korzyści i zagrożenia w jednym raporcie

Panel nie neguje korzyści płynących z rozwoju AI. Wymienia przewidzenie struktur ponad 200 milionów białek, wcześniejsze wykrywanie chorób, w tym raka piersi, systemy wczesnego ostrzegania przed brakiem żywności oraz nowe narzędzia dostępności dla osób z niepełnosprawnościami. Jednocześnie autorzy wskazują na rosnącą skalę materiałów przedstawiających wykorzystywanie seksualne i deepfake'ów, dezinformację zagrażającą procesom demokratycznym oraz systemy autonomiczne, które stają się coraz trudniejsze do monitorowania.

Raport zwraca też uwagę na przypadki kryzysów zdrowia psychicznego powiązane z tak zwanym sykofanckim zachowaniem modeli, czyli tendencją AI do potwierdzania i wzmacniania przekonań użytkownika, nawet gdy są szkodliwe, zamiast im się przeciwstawiać. Do tego dochodzi rosnące zużycie energii przez centra danych, co autorzy wymieniają wśród efektów ubocznych, na które regulatorzy wciąż nie mają gotowej odpowiedzi.

Nierówności globalne

Jednym z mocniejszych wątków raportu jest ostrzeżenie przed pogłębiającymi się nierównościami: wiele krajów nie ma zasobów ani kompetencji technicznych, by samodzielnie ocenić zaawansowane systemy AI powstające w innych częściach świata.

Tempo rozwoju nie zwalnia, moc się koncentruje, a kontrola nad tym procesem nie jest niczym gwarantowana. - Międzynarodowy Panel Naukowy ONZ ds. AI, z raportu

Im dalej AI rozwija się bez wspólnych zasad, tym mniej do powiedzenia będą mieć rządy i obywatele.

Co dalej i co to znaczy dla Polski

Raport trafi na Globalny Dialog ONZ o Zarządzaniu AI, który odbędzie się 6 i 7 lipca w Genewie z udziałem przedstawicieli państw członkowskich, a pełna wersja dokumentu ma zostać opublikowana w przyszłym roku. Dla Polski i innych krajów UE, które dopiero wdrażają unijny AI Act i budują krajowe organy nadzoru, raport ONZ jest sygnałem, że nawet najbardziej rozbudowane regionalne ramy prawne mogą nie nadążać za globalnym tempem rozwoju modeli, jeśli nie towarzyszy im niezależna, międzynarodowo uzgodniona ocena bezpieczeństwa.

Dla polskich firm wdrażających systemy AI oznacza to praktycznie tyle, że krajobraz regulacyjny będzie się zmieniał szybciej niż dotychczas, a poleganie wyłącznie na deklaracjach bezpieczeństwa samych dostawców modeli, bez własnej weryfikacji ryzyka, staje się coraz trudniejsze do obrony przed nadzorcami i klientami.

Źródła: UN Science Panel Warns AI Is Outpacing Regulators and Researchers (technology.org), UN warns AI is advancing faster than science and regulation (thenationalnews.com), AI explained: Why the world needs to act now (news.un.org)