OpenAI блокира руски акаунти в ChatGPT, използвани в тайна кампания по дезинформация

Компанията OpenAI е блокирала група акаунти с произход от Русия в платформата за генеративен изкуствен интелект ChatGPT - те са били използвани в подкрепа на тайна онлайн кампания за разпространение на дезинформация, съобщи БТА с позоваване на Си Ен Би Си.

Проблемът е открит след разследване на публикации в социалните мрежи, генерирани от изкуствен интелект, което я е довело до „много по-мащабна операция за влияние“, съобщи днес OpenAI в публикация в блога си.

Кампанията е била „изградена около уебсайт, съдържащ "академични трудове",  приписващи на Русия индекс за „суверенитет“, който я представя в благоприятна светлина. Положени са усилия за прикриване на руския произход на операторите на акаунтите.

OpenAI не позволява достъп до своите модели в Русия, но от компанията посочват, че са били използвани VPN мрежи за прикриване на местоположението на абонатите.

През февруари OpenAI съобщи, че е закрила акаунти в ChatGPT, свързани с „Рибар“ – проруска медийна компания, която британското правителство описва като „частично координирана от президентската администрация“, финансирана от руската държавна корпорация „Ростех“ и сътрудничеща с членове на руските разузнавателни служби.

Проруска кампания за влияние

Операторите на акаунтите давали команди на руски език за генериране на коментари в социалните мрежи, които били публикувани в Substack, Telegram, X, Facebook и LinkedIn, освен това са инструктирали ChatGPT да скрие всякакви езикови улики, че са от Русия, посочват от OpenAI.

Голяма част от генерираното съдържание е популяризирало организация, наречена Международен институт „Бърк““ (International Burke Institute – IBI). На уебсайта на организацията се публикуват статии, копирани от истински академични текстове, понякога с фалшиво посочени източници.

Кампанията за влияние също така е създала „индекс на суверенитета“, който възхвалява Русия и очерня западните държави, посочват от OpenAI.

Макар че непосредственото въздействие на кампанията изглежда ограничено, „значението на операцията се състои не толкова в аудиторията, до която е достигнала, колкото в инфраструктурата, която е изградила“, подчертават от компанията.

Публикациите, създадени от ChatGPT, сочат към „институция, която на пръв поглед изглеждаше достоверна, с т. нар. експерти, препубликувани академични трудове и т. нар. собствен индекс на риска“, поясняват от  OpenAI.

„Това илюстрира как лицата, упражняващи влияние, могат да използват изкуствения интелект като подкрепящ инструмент в рамките на по-широки усилия за създаване на авторитет, прикриване на източника на предпочитани наративи и изграждане на ресурси, които могат да бъдат разширени с течение на времето“, констатират от компанията за изкуствен интелект.