Компанията xAI на Илон Мъск ограничи достъпа до функциите за генериране и редактиране на изображения в своя чатбот Grok, след като изследователи, неправителствени организации и регулатори алармираха за масово разпространение на сексуализирани, неразрешени и дори незаконни изображения, включително на непълнолетни, съобщава в своя публикация The Wall Street Journal.

Решението дойде на фона на нарастващ международен натиск и сигнали, че нова функция на Grok е позволявала чрез текстови команди да се „събличат“ хора на снимки или да бъдат поставяни в сексуализиран контекст. От xAI съобщиха, че генерирането и редактирането на изображения вече е ограничено само за платени абонати, като подчертаха, че работят по допълнителни защитни механизми.

В края на декември Grok започна да позволява редактиране на изображения чрез текстови инструкции. Потребители на платформата X бързо установиха, че могат да използват команди като „махни дрехите“ или „облечи я по бельо“. В резултат социалната мрежа беше залята от неразрешени и AI-генерирани сексуализирани изображения на жени.

По данни на Дженевив О, изследовател на дийпфейкове и социални мрежи, цитирана от западни медии, Grok е генерирал хиляди сексуализирани или „разсъбличащи“ изображения на час. Компанията Copyleaks, специализирана в разпознаване на AI-манипулирано съдържание, отчита по едно такова изображение на минута в публичния поток на Grok в края на декември.

Най-тревожното е, че част от потребителите са насочили инструмента към деца.

Алармата за детска сексуална експлоатация

Интернет Watch Foundation (IWF) – водеща британска организация за борба със сексуалната експлоатация на деца онлайн – съобщи, че нейни анализатори са открили сексуализирани изображения на непълнолетни в тъмната мрежа, като авторите са твърдели, че са използвали Grok за създаването им. Според IWF изображенията отговарят на критериите за престъпно съдържание по британското законодателство.

„Инструменти като Grok рискуват да внесат сексуализирани AI изображения на деца в масовото онлайн пространство“, заяви Нгейр Александър от IWF. „Вредите се разпространяват лавинообразно.“

Противоречието около Илон Мъск

Илон Мъск от години защитава тезата за почти неограничена свобода на словото, но същевременно публично заявява, че борбата с експлоатацията на деца е негов „приоритет номер едно“. След придобиването на Twitter през 2022 г. той увери, че подобно съдържание ще бъде изкоренено от платформата.

В началото на януари, след надигането на скандала, Мъск заяви, че всеки, който използва Grok за създаване на незаконно съдържание, ще понесе същите последствия, както при директно качване на такъв материал. Профилът на Grok в X увери, че има защити срещу изобразяване на непълнолетни и че те се подобряват.

Въпреки това критиците посочват, че ограничаването на достъпа след масово разпространение на вредно съдържание идва твърде късно.

Регулатори и разследвания по света

Регулаторни органи в Европейския съюз, Великобритания, Франция, Австралия, Индия, Бразилия и Малайзия вече са заявили, че разглеждат случая и обмислят последващи действия. В САЩ неправителствената организация National Center on Sexual Exploitation призова Министерството на правосъдието и Федералната търговска комисия да започнат разследване срещу X и xAI.

Конгресменът Александрия Окасио-Кортес публично предупреди за „експлозия“ на AI-съдържание, което сексуализира деца, и отново настоя за приемане на законодателство срещу дийпфейковете – иронично, самата тя стана обект на подобни изображения малко след изявлението си.

Лични случаи и съдебни действия

Консервативната инфлуенсърка Ашли Сент Клер заяви в интервю, че потребители са използвали Grok, за да „разсъбличат“ нейни снимки, включително изображение от времето, когато е била на 14 години. Тя заведе дело срещу Илон Мъск по отделен казус, свързан с родителски права и издръжка, и призова други родители да сигнализират за подобни злоупотреби.

По думите ѝ, тя е получила десетки съобщения от родители, отчаяно опитващи се да премахнат сексуализирани изображения на децата си от мрежата.

По-широкият проблем с AI и закона

Скандалът с Grok не е изолиран случай. През последните години редица AI платформи са изправени пред съдебни дела заради генериране на дийпфейкове, нарушаване на лични права и разпространение на незаконно съдържание. Компании като Meta, OpenAI и Stability AI вече са били обект на разследвания и искове, свързани с авторски права, клевета и злоупотреба с образа на реални хора.

Юристи и регулатори предупреждават, че законодателството изостава от технологиите, а случаят с xAI може да се превърне в ключов тест за това докъде се простира отговорността на създателите на изкуствен интелект.

Случаят с Grok поставя остро въпроса дали саморегулацията на технологичните компании е достатъчна, когато става дума за защита на деца и основни човешки права. Докато AI инструментите стават все по-мощни и достъпни, рискът от злоупотреба нараства – а с него и необходимостта от ясни правила, ефективен контрол и реални санкции.