Nowości
Naukowcy z USA i Chin ostrzegają przed AI-owym momentem Czarnobyla
Czołowi badacze bezpieczeństwa AI z USA i Chin, w tym naukowiec z MIT i laureat Nagrody Turinga, ostrzegli na konferencji w Pekinie, że branża musi znaleźć sposób na współpracę, zanim dojdzie do katastrofy, która na trwałe zniszczy zaufanie do sztucznej inteligencji.
Podczas konferencji poświęconej bezpieczeństwu sztucznej inteligencji w pekińskiej dzielnicy technologicznej Zhongguancun naukowcy z USA i Chin ostrzegli, że branża AI zbliża się do momentu, w którym pojedyncza poważna katastrofa mogłaby na trwałe zniszczyć publiczne zaufanie do tej technologii. Uczestnicy nazwali to ryzykiem momentu Czarnobyla.
Kto ostrzega
Głos w dyskusji, transmitowany zdalnie, zabrał Stephen Casper, informatyk z MIT, który powiedział wprost, że AI nie może doczekać się własnego momentu Czarnobyla. Casper podkreślił, że sztuczna inteligencja jest technologią globalną, z globalnymi korzyściami i globalnymi zagrożeniami, a nowe możliwości modeli prędzej czy później rozprzestrzeniają się poza kontrolą ich twórców.
W konferencji wziął też udział Andrew Barto, laureat Nagrody Turinga za pionierską pracę nad uczeniem przez wzmacnianie, oraz Lin Yun, profesor Shanghai Jiao Tong University, który zwrócił uwagę, że hakerzy mogą zyskać krótkoterminową przewagę dzięki AI, ale w dłuższej perspektywie ta sama technologia powinna wzmocnić obronę cyfrową.
Czego dotyczą obawy
W przeciwieństwie do scenariuszy rodem z filmów science fiction o buncie maszyn, uczestnicy konferencji skupili się na bardziej przyziemnym, ale bardziej prawdopodobnym zagrożeniu, czyli przestępcach wykorzystujących zaawansowane modele do masowego skalowania cyberataków. Modele generujące kod i autonomiczne agenty AI obniżają próg wiedzy potrzebnej do przeprowadzenia skutecznego ataku.
Osobnym wątkiem są luki w kodzie tworzonym przez same modele AI oraz ryzyko związane z otwartym udostępnianiem coraz potężniejszych systemów, które trudno kontrolować po opublikowaniu wag modelu. Zdaniem prelegentów największym zagrożeniem nie jest jeden duży incydent, lecz kumulacja mniejszych nadużyć, które naraz podważą zaufanie opinii publicznej.
Rywalizacja i współpraca
Konferencja odbyła się w cieniu trwającej rywalizacji technologicznej między USA a Chinami o dominację w sztucznej inteligencji, w tym o dostęp do najnowszych modeli i ograniczenia eksportowe nakładane przez Waszyngton. Mimo napięć politycznych naukowcy z obu krajów zgodzili się co do jednego, że żaden pojedynczy kraj nie utrzyma pełnej kontroli nad rozwojem AI w pojedynkę.
Casper porównał sytuację do czasów zimnej wojny, gdy Stany Zjednoczone i Związek Radziecki, mimo głębokiej wrogości, potrafiły wypracować wspólne zasady kontroli broni jądrowej. Zdaniem prelegentów podobny, choćby częściowy konsensus techniczny jest możliwy również w przypadku najbardziej zaawansowanych modeli AI.
Znaczenie dla Polski i Europy
Dla europejskich firm i instytucji przekaz z Pekinu jest istotny niezależnie od tego, po której stronie rywalizacji USA-Chiny się znajdują. Ostrzeżenia dotyczą przede wszystkim bezpieczeństwa kodu generowanego przez agentów AI oraz ryzyka nadużyć wynikających z otwartych modeli, a to problem, z którym mierzą się już dziś także polskie zespoły wdrażające agentów kodujących w swoich systemach.
W kontekście unijnego AI Act i rosnącej presji regulacyjnej na dostawców modeli wysokiego ryzyka, apel o międzynarodową współpracę zamiast wyłącznie krajowych regulacji może wpłynąć na to, jak Bruksela będzie negocjować standardy bezpieczeństwa z Waszyngtonem i Pekinem w najbliższych miesiącach.
Źródła: Futurism (futurism.com), Spider's Web (spidersweb.pl).
