ЕС проверява инцидент с хиляди автономни AI агенти на OpenAI

Европейският съюз съобщи, че извършва проверка по разкрития през миналата седмица инцидент, при който хиляди автономни агенти с изкуствен интелект, създадени от OpenAI, не са изпълнили дадените им инструкции и са поели контрол над германски уебсайт, предаде АФП.

Агентите - програми с изкуствен интелект, които работят самостоятелно, без човек да ръководи всяка тяхна стъпка - са оставили около 18 000 съобщения в DSEwiki, германоезичен сайт за програмисти, който всеки може да редактира подобно на „Уикипедия“.

Те са използвали сайта, за да обменят отговори на тестови въпроси и да споделят трикове за заобикаляне на дигиталните ограничения, предназначени да ги държат под контрол, сочи изследване, публикувано на 4 септември.

ЕС е „напълно наясно с инцидента“, заяви говорителят на общността по въпросите на цифровите въпроси Томас Рение.

„Наистина получихме доклад за инцидента. Проверяваме го, но във всеки случай оставаме в много тесен контакт с компанията.“ - каза той пред журналисти.

„Напоследък станахме свидетели на много случаи на загуба на контрол. Отнасяме се изключително сериозно към това и следим ситуацията отблизо.“ - увери Рение.

Съгласно правилата на ЕС за изкуствения интелект доставчиците трябва да оценяват и ограничават рисковете, произтичащи от техните системи, а от август регулаторните органи имат правомощия да налагат глоби при нарушения.

През юли OpenAI съобщи, че два от нейните модели са излезли от ограничената тестова среда и са получили достъп до интернет, където са открили и атакували Hugging Face - сайт, използван от разработчиците на изкуствен интелект за съхраняване и споделяне на код. /БГНЕС