Nowości
Kanadyjski poseł odczytał na mównicy instrukcję wygenerowaną przez chatbota AI
Bill Oliver, poseł Partii Konserwatywnej w legislaturze Nowego Brunszwiku, przeczytał podczas oficjalnego przemówienia zdanie będące instrukcją chatbota AI zamiast fragmentu mowy. Nagranie z czerwca ujawniono dopiero teraz i wywołało falę krytyki, część komentujących żąda jego dymisji.
Podczas przemówienia w legislaturze prowincji Nowy Brunszwik w Kanadzie poseł Bill Oliver z Partii Konserwatywnej przeczytał na głos zdanie, które nigdy nie miało trafić do jego mowy. Zamiast fragmentu wystąpienia wypowiedział instrukcję, jaką chatbot AI zostawił mu w tekście po przeredagowaniu notatek.
Co dokładnie powiedział
Nagranie z posiedzenia legislatury Nowego Brunszwiku pokazuje moment, w którym Oliver, mówiąc o zaufaniu publicznym do urzędu rzecznika, nagle wypowiada zdanie brzmiące zupełnie inaczej niż reszta przemówienia. Zamiast argumentu merytorycznego czyta: "Oto bardziej naturalna, płynna wersja tego fragmentu, brzmiąca jak przemówienie w legislaturze, a nie seria krótkich punktów".
To zdanie nie jest fragmentem debaty politycznej, tylko klasyczną metainstrukcją, jaką duże modele językowe dołączają, prezentując użytkownikowi przeredagowany tekst. Innymi słowy, poseł czytał notatkę techniczną chatbota, a nie właściwą treść, którą model dla niego przygotował.
Jak doszło do wpadki
Z ustaleń mediów wynika, że Oliver skorzystał z chatbota AI, by nadać swoim punktom bardziej płynną, mówioną formę przed wystąpieniem. Problem w tym, że do finalnych notatek trafił także komentarz samego narzędzia opisujący, co zrobiło z tekstem - fragment, który powinien zostać usunięty przed wygłoszeniem mowy, a którego nikt nie wychwycił podczas przygotowań.
Według relacji z legislatury błąd powtórzył się dwukrotnie w trakcie tego samego wystąpienia, co sugeruje, że poseł czytał tekst z kartki lub ekranu bez wcześniejszego zapoznania się z całością i bez korekty ze strony biura.
Reakcje w sieci
Wideo z posiedzenia trafiło najpierw na lokalny subreddit poświęcony Nowemu Brunszwikowi, a stamtąd rozeszło się na Threads i inne platformy. Komentujący nie mieli litości dla posła, wskazując na kontrast między oczekiwaniami wobec zwykłych obywateli a niedbalstwem wybieranych przedstawicieli.
Jeśli to nie pociągnie za sobą żadnych konsekwencji, to znaczy, że stawiamy licealistom wyższe wymagania niż naszym wybranym urzędnikom - komentarz użytkownika na Reddicie
Część internautów przywołała wcześniejsze przypadki prawników ukaranych dyscyplinarnie za powoływanie się w pismach procesowych na nieistniejące wyroki wygenerowane przez chatboty, sugerując, że podobne standardy powinny obowiązywać polityków. Pojawiły się też głosy wzywające Olivera do rezygnacji z mandatu.
Szersze tło
Sprawa wpisuje się w rosnącą listę incydentów, w których nieprzejrzana do końca treść wygenerowana przez AI trafia do oficjalnych, publicznych wystąpień - od pism sądowych, przez raporty korporacyjne, po przemówienia polityków. W przeciwieństwie do tekstu pisanego, błąd w mowie wygłaszanej na żywo jest natychmiast słyszalny i trudny do ukrycia.
Kwestię komentowała też kanclerz parlamentu Nowej Zelandii, zaznaczając, że korzystanie z AI do dopracowania sformułowań w pismach jest dopuszczalne, o ile prezentowane poglądy pozostają autentycznie własnymi słowami mówiącego, a nie treścią wygenerowaną i niesprawdzoną. Biuro Olivera do chwili publikacji materiałów źródłowych nie odniosło się do sprawy.
Incydent z Fredericton pokazuje, że najsłabszym ogniwem przy korzystaniu z narzędzi AI bywa etap końcowej korekty, niezależnie od tego, jak dobre jest samo narzędzie. Dla instytucji publicznych, w tym urzędów i samorządów w Polsce coraz częściej testujących chatboty przy przygotowywaniu dokumentów i wystąpień, to przypomnienie, że treść wygenerowaną przez AI trzeba czytać w całości przed użyciem, a nie tylko wkleić do notatek.
