Руският вирус в AI: Как Кремъл заразява чатботовете със своята пропаганда

Русия е намерила нов път за разпространение на своята пропаганда – чрез самите инструменти на изкуствения интелект. Според разследване на NewsGuard, мащабна дезинформационна кампания, ръководена от мрежата „Правда“, успешно манипулира чатботове, използвани от милиони потребители по света.

Тактиката е проста, но ефективна – заливайки големите езикови модели (LLM) с прокремълски лъжи, мрежата „Правда“ влияе върху техните отговори, като по този начин превръща чатботовете в неволни разпространители на пропагандни наративи.

Проучване, обхващащо 10 водещи чатбота – сред които ChatGPT-4, Microsoft Copilot и Google Gemini – установява, че в над 33% от случаите те възпроизвеждат дезинформация от мрежата „Правда“. Още по-притеснително е, че някои от тях дори цитират като източник самите ѝ публикации.

Тази стратегия, наречена „LLM grooming“ (буквално „оформяне“ или „дресиране“ на езиковите модели), разкрива нова заплаха – изкуственият интелект може да бъде целенасочено манипулиран, за да разпространява лъжи в мащаб, невъзможен за традиционните дезинформационни кампании.

Дезинформационна зараза

Изследователите посочват, че през 2024 г. в интернет пространството са публикувани над 3 600 000 проруски статии, които несъзнателно попадат в базите данни на системите с изкуствен интелект. Тези материали включват фалшиви твърдения, като това, че САЩ имат тайни биологични лаборатории в Украйна или че украинският президент Зеленски е забранил социалната мрежа Truth Social.

"Тъй като руските операции за влияние се разширяват и усъвършенстват, те представляват пряка заплаха за целостта на демократичния дискурс в целия свят", предупреждава Нина Янкович, главен изпълнителен директор на Sunlight Project – американска организация, занимаваща се с анализ на дезинформацията.

Мрежата „Правда“, стартирана през април 2022 г. след началото на пълномащабното нахлуване на Русия в Украйна, вече обхваща 49 държави и десетки езици. Нейният мащаб и влияние нарастват тревожно бързо, а методите ѝ стават все по-усъвършенствани.

Изкуственият интелект – новото бойно поле на Кремъл

Русия отдавна използва дезинформацията като оръжие, но навлизането ѝ в сферата на изкуствения интелект поставя нови въпроси за бъдещето на информационната война.

"Като прокарваме тези разкази от руска гледна точка, ние всъщност можем да променим световния изкуствен интелект", казва Джон Марк Дуган – бивш американски гражданин, избягал в Русия, който сега открито прокламира кремълската линия.

И докато демократичните общества продължават да се борят с традиционната дезинформация, изглежда, че Кремъл вече гледа отвъд нея – към бъдеще, в което алгоритмите ще диктуват не само фактите, но и начините, по които ги възприемаме.