Британският медиен регулатор „Офком“ започна разследване срещу социалната платформа Х заради фалшиви сексуални изображения на хора, създадени от чатбота с изкуствен интелект „Grok “

Както от Faktor.bg съобщихме преди дни, скандалът се разпали, когато потребители откриват, че инструментът за редакция на изображения започва да отговаря на молби за „разсъбличане“ или сексуализиране на хора без тяхно съгласие, включително на непълнолетни.

„Съществуват дълбоко обезпокоителни съобщения, че чатботът, който е достъпен през социалната платформа Х, се използва за създаване и споделяне на снимки на хора без дрехи, което може да се квалифицира като злоупотреба с интимни изображения или порнография, както и на сексуализирани фалшиви изображения с деца, които могат да се считат за материал за сексуално насилие“, пише в изявлението си медийният регулатор.

От Х твърдят, че се предприемат действия като премахване на съдържанието, трайно спиране на акаунти и сътрудничество с местни власти и правоохранителни органи.

„Всеки, който използва или подтиква „Grok “ към създаването на незаконно съдържание, ще понесе същите последствия, както ако качва незаконно съдържание“, посочват от социалната платформа.

Британският медиен регулатор е под натиск да предприеме действия, след като премиерът Киър Стармър заяви в четвъртък, че генерираните от чатбота изображения са „отвратителни“ и „незаконни“.

Х трябва да предприеме мерки за контрол над „Grok “, заяви Стармър.
На въпрос от днес дали платформата може да бъде забранена, британският министър на търговията Питър Кайл отговори „разбира се“, като посочи, че правомощията за това са в ръцете на „Офком“.

Случаят с Grok не е прецедент, а поредният сигнал за системни проблеми в индустрията. През последните години вълна от съдебни искове заля сектора на изкуствения интелект, като основните обвинения касаят създаването на дийпфейкове, нарушаването на личната неприкосновеност и разпространението на незаконни материали. Гиганти като Meta, OpenAI и Stability AI вече са под прицела на разследващите органи заради спорове за авторски права, клевета и неправомерно използване на чужда самоличност.

Експертите са категорични: правната рамка изостава от темповете на технологичното развитие. В този контекст казусът с компанията на Илон Мъск (xAI) се очертава като решаващ тест за дефинирането на отговорността на разработчиците. Скандалът повдига фундаменталния въпрос дали саморегулацията е достатъчна гаранция за защита на децата и човешките права. С нарастващата мощ и достъпност на AI инструментите, нуждата от строги регулации и ефективни санкции става все по-належаща.

Създаването или споделянето на интимни изображения без съгласие или материали със сексуално насилие над деца, включително генерирани от изкуствен интелект сексуални изображения, е незаконно във Великобритания.

Освен това технологичните платформи трябва да предотвратяват достъпа на британски потребители до незаконно съдържание и да го премахват веднага щом научат за него.