„ОпенАИ“ блокира руски ChatGPT профили вклучени во тајна кампања за дезинформации

„ОпенАИ“ блокира група ChatGPT профили што водеа кон Русија и, како што соопшти компанијата, биле користени за поддршка на тајна онлајн кампања за влијание и за ширење дезинформации.

Компанијата го открила случајот откако истражувала различни објави на социјалните мрежи генерирани со вештачка интелигенција, што ја довело до „многу поширока операција за влијание“.

„Кампањата беше изградена околу веб-страница со копирани и погрешно припишани академски трудови, индекс на суверенитет, кој ја прикажуваше Русија во поволно светло, како и напори за прикривање на руското потекло на операторите“, соопшти компанијата, додавајќи дека материјалите служеле за да ѝ дадат привиден кредибилитет на дискредитирајачката содржина.

Креирање на привидна експертиза

Според компанијата, операторите внесувале инструкции на руски јазик во ChatGPT за да генерираат коментари и објави што потоа биле поставувани на Substack, Telegram, X, Facebook и LinkedIn. OpenAI посочи дека им било наложено на моделите да ги сокријат јазичните обележја кои би укажале на руско потекло, а исто така биле користени и VPN-врски за прикривање на локацијата.

Голем дел од генерираната содржина промовирала организација наречена International Burke Institute. Компанијата соопшти дека веб-страницата на институтот содржела статии копирани од вистински академски трудови, понекогаш со лажно наведување на авторството. Кампањата, исто така, создала „индекс на суверенитет“ кој ја фалел Русија и ги омаловажувал западните земји.

OpenAI оцени дека непосредното влијание на операцијата изгледало ограничено, но потенцираше дека вистинската загриженост е инфраструктурата што ја изградиле — мрежа од објави и веб-страници кои симулираат легитимни институции, цитираат наводни експерти и повторно објавуваат академски материјали за да создадат доверба со текот на времето.

Во февруари OpenAI соопшти дека ги затворила ChatGPT сметките поврзани со „Рајбер“, проруска медиумска компанија која британската влада ја опишува како „делумно координирана од претседателската администрација“, финансирана од руската државна корпорација „Ростек“ и која соработува со членови на руските разузнавачки служби. Случајот ја илустрира опасноста од комбинирање на онлајн платформи и алатки за вештачка интелигенција за создавање на мрежи со привидна авторитетност.

Фото: Jakub Porzycki/NurPhoto / Shutterstock Editorial / Profimedi