Chińska bezpieka i ChatGPT

Organizacja OpenAI poinformowała, że zablokowała konto ChatGPT powiązane z osobą z chińskich organów bezpieczeństwa po tym, jak próbowała ona wykorzystać je do zaplanowania tajnej operacji mającej na celu wywarcie wpływu na japońską premier Takaichi Sanae.

Według raportu „Disrupting Malicious Uses of AI” („Przeciwdziałanie złośliwemu wykorzystaniu sztucznej inteligencji”), opublikowanego w poniedziałek, po tym jak ChatGPT odmówił wykonania polecenia, operator tego konta skorzystał z DeepSeek i Qwen firmy Alibaba do opracowania wstępnego planu – obejmującego wzmacnianie negatywnych komentarzy i wykorzystywanie fałszywych kont e-mailowych podszywających się pod mieszkańców zagranicznych do wysyłania skarg na Takaichi do japońskich polityków. OpenAi wie o tym, ponieważ ta osoba potem zwróciła się do ChatGPT o dopracowanie całego planu.

Projekt planu obejmował również podsycanie gniewu w Internecie wobec amerykańskich ceł oraz wykorzystanie relacji Japonii ze Stanami Zjednoczonymi do odwrócenia uwagi od jej stosunków z Chinami. Oprócz ataków na niektórych japońskich i amerykańskich polityków, niektóre konta powiązane z Chinami poprosiły również ChatGPT o przygotowanie postów skierowanych przeciwko chińskim dysydentom w kraju i za granicą.

Tyle podają agencje lub można wyczytać w raporcie. Co w tym wszystkim jest dla mnie naprawdę interesujące, to fakt, że chińska bezpieka uznała, że ChatGPT jest lepszy niż chińskie modele. Tylko kiedy, ChatGPT odmówił zaplanowania takiej operacji, agent lub agenci stworzyli je w chińskich modelach, ale i tak potem próbowali użyć ChatGPT, aby plan ulepszyć…