Британското правителство призова ръководството на социалната мрежа X, собственост на Илон Мъск, да предприеме незабавни действия заради използването на нейния инструмент с изкуствен интелект Grok за създаване на фалшиви порнографски изображения на деца.

„Това, което наблюдаваме онлайн през последните дни, е абсолютно потресаващо и напълно неприемливо за едно цивилизовано общество“, заяви министърът на технологиите Лиз Кендъл, като подчерта, че X трябва да реагира незабавно.

Grok е изправен пред остри реакции заради възможността чрез т.нар. „spicy mode“ да се генерират сексуализирани дипфейкове на жени и непълнолетни. Европейската комисия съобщи, че „много сериозно“ разглежда постъпили жалби срещу инструмента. Британският медиен регулатор Ofcom също обяви, че проверява както X, така и компанията xAI, разработила Grok. Кендъл заяви, че Ofcom има пълната ѝ подкрепа да предприеме всички необходими принудителни мерки.

Съгласно британския Закон за онлайн безопасност, който влезе в сила през юли, уебсайтове, социални мрежи и платформи за споделяне на видеа с потенциално вредно съдържание са длъжни да въведат строги механизми за проверка на възрастта, включително чрез лицево разпознаване или проверки с кредитни карти. Законът забранява създаването и разпространението на интимни изображения без съгласие, както и на материали със сексуално насилие над деца, включително сексуални дипфейкове, генерирани с изкуствен интелект. При нарушения са предвидени глоби до 10% от глобалния оборот на компанията или 18 млн. паунда (24 млн. долара) – в зависимост от това коя сума е по-голяма. Британското правителство също така заяви, че ще забрани т.нар. „инструменти за събличане“, които позволяват дигитално премахване на дрехи от хора на снимки. Grok признаха, че са установили пропуски в защитните механизми на инструмента, които определиха като „сривове в предпазните мерки“, и увериха, че работят спешно по отстраняването им. | БГНЕС, АФП