Лондон: X на Мъск да вземе спешни мерки срещу потресаващите фалшиви порнографски изображения на деца

Британското правителство призова ръководството на социалната мрежа X, собственост на Илон Мъск, да предприеме незабавни действия заради използването на нейния инструмент с изкуствен интелект Grok за създаване на фалшиви порнографски изображения на деца.

„Това, което наблюдаваме онлайн през последните дни, е абсолютно потресаващо и напълно неприемливо за едно цивилизовано общество“, заяви министърът на технологиите Лиз Кендъл, като подчерта, че X трябва да реагира незабавно.

Grok е изправен пред остри реакции заради възможността чрез т.нар. „spicy mode“ да се генерират сексуализирани дипфейкове на жени и непълнолетни. Европейската комисия съобщи, че „много сериозно“ разглежда постъпили жалби срещу инструмента. Британският медиен регулатор Ofcom също обяви, че проверява както X, така и компанията xAI, разработила Grok. Кендъл заяви, че Ofcom има пълната ѝ подкрепа да предприеме всички необходими принудителни мерки.

Съгласно британския Закон за онлайн безопасност, който влезе в сила през юли, уебсайтове, социални мрежи и платформи за споделяне на видеа с потенциално вредно съдържание са длъжни да въведат строги механизми за проверка на възрастта, включително чрез лицево разпознаване или проверки с кредитни карти. Законът забранява създаването и разпространението на интимни изображения без съгласие, както и на материали със сексуално насилие над деца, включително сексуални дипфейкове, генерирани с изкуствен интелект. При нарушения са предвидени глоби до 10% от глобалния оборот на компанията или 18 млн. паунда (24 млн. долара) – в зависимост от това коя сума е по-голяма. Британското правителство също така заяви, че ще забрани т.нар. „инструменти за събличане“, които позволяват дигитално премахване на дрехи от хора на снимки. Grok признаха, че са установили пропуски в защитните механизми на инструмента, които определиха като „сривове в предпазните мерки“, и увериха, че работят спешно по отстраняването им. | БГНЕС, АФП