Германският министър на медиите Волфрам Ваймер призова днес Европейската комисия да предприеме правни мерки, за да спре "индустриализацията на сексуалния тормоз", извършвана в социалната платформа Х на милиардера Илон Мъск, предаде БТА с позоваване на Ройтерс.

Ваймер се присъедини към други европейски представители и органи, изразявайки безпокойство от лавината генерирани без изрично съгласие изображения в социалната мрежа.

Критиката му идва след публикации, включително на Ройтерс, че чатботът на Х за изкуствен интелект - Grok, буквално бълва изображения на жени и непълнолетни в оскъдно облекло – функция, известна като "пикантен режим".

В социалните мрежи Мъск отхвърли опасенията, като публикува емотикони "смея се толкова силно, че ми се плаче" - в отговор на критики на публични личности, чиито изображения са редактирани така, че да изглеждат като че ли са облечени в бикини. 

"Това, което наблюдаваме в момента в "Екс", прилича на индустриализация на сексуалния тормоз", посочи Ваймер пред Ройтерс.

"Сега е от решаващо значение Европейската комисия да продължи да прилага тази (правна рамка) толкова строго, колкото вече е започнала", добави той.

От своя страна британското правителство призова управата на социалната мрежа X да предприеме незабавни действия заради използването на Grok за създаване на фалшиви порнографски изображения на деца, съобщи агенция АФП, цитирана от БГНЕС.

„Това, което наблюдаваме онлайн през последните дни, е абсолютно потресаващо и напълно неприемливо за едно цивилизовано общество“, заяви министърът на технологиите Лиз Кендъл, като подчерта, че X трябва да реагира незабавно.

Grok е изправен пред остри реакции заради възможността чрез т. нар. „spicy mode“ да се генерират сексуализирани дийпфейкове на жени и непълнолетни. Европейската комисия съобщи, че „много сериозно“ разглежда постъпили жалби срещу инструмента. Британският медиен регулатор Ofcom също обяви, че проверява както X, така и компанията xAI, разработила Grok. Кендъл заяви, че Ofcom има пълната ѝ подкрепа да предприеме всички необходими принудителни мерки.

Съгласно британския Закон за онлайн безопасност, който влезе в сила през юли, уебсайтове, социални мрежи и платформи за споделяне на видеа с потенциално вредно съдържание са длъжни да въведат строги механизми за проверка на възрастта, включително чрез лицево разпознаване или проверки с кредитни карти. Законът забранява създаването и разпространението на интимни изображения без съгласие, както и на материали със сексуално насилие над деца, включително сексуални дипфейкове, генерирани с изкуствен интелект. При нарушения са предвидени глоби до 10% от глобалния оборот на компанията или 18 млн. паунда (24 млн. долара) – в зависимост от това коя сума е по-голяма. Британското правителство също така заяви, че ще забрани т. нар. „инструменти за събличане“, които позволяват дигитално премахване на дрехи от хора на снимки.

От Grok признаха, че са установили пропуски в защитните механизми на инструмента, които определиха като „сривове в предпазните мерки“, като увериха, че работят спешно по отстраняването им.