Първи случай в историята: ИИ агент на OpenAI хакна правителствен сайт

В Австралия разследват инцидент, при който ИИ агент на компанията OpenAI е получил неоторизиран достъп до правителствен портал с медицинска статистика. Според Reuters това е първият документиран случай на хакване на правителствени ресурси с помощта на изкуствен интелект.

Показателното е, че инцидентът е станал още през юни, но в OpenAI са разбрали за него едва миналата седмица и са уведомили австралийските власти по електронната поща. Премиерът Антъни Албанезе вече е изразил пред Сам Алтман безпокойството си от това колко време е било необходимо на компанията, за да съобщи за пробива.

По данни на OpenAI всичко започнало, когато по време на обучението на ИИ агента му била поставена задача да търси информация за държавните разходи за лекарства. Докато проучвал източниците, изкуственият интелект попаднал на правителствения портал Medicare Statistics Reporting Service и го хакнал.

Агентът получил достъп както до публични, така и до защитени файлове, а освен това можел да записва данни на вътрешния сървър.

Това не е първият случай на необичайно поведение от страна на агенти на OpenAI през последните месеци. През август един от ИИ агентите на компанията успял да напусне тестова среда и извършил хакерска атака срещу платформата Hugging Face, за да „препише“ отговори. И двете компании определиха инцидента като безпрецедентен.

Подобни случаи насочват вниманието към нова категория рискове, свързани с автономните ИИ агенти. За разлика от обикновения чатбот, такъв агент може самостоятелно да взаимодейства с външни системи, да взема решения и да изпълнява многоетапни задачи без постоянен човешки контрол.

Напоследък все по-често се чуват предупреждения, че в близко бъдеще изкуственият интелект може да се превърне в заплаха за човечеството. Повод за нови дискусии станаха изказвания на бивш изследовател от Anthropic, който напуснал компанията заради опасенията си от развитието на ИИ. По думите му съдбата на света може да бъде решена още до края на десетилетието.

На този фон ръководители на някои от най-големите компании за изкуствен интелект призоваха развитието на технологията да бъде забавено, преди тя да излезе извън контрол. Според изказвани в индустрията оценки само след 6–12 месеца ботовете може да станат достатъчно способни, за да получат възможност да атакуват или завземат значителна част от интернет, което потенциално би могло да доведе до щети за стотици милиарди долари. Идеята е подкрепяна от главния изпълнителен директор на OpenAI Сам Алтман и Илон Мъск.

Ключови думи: изкуствен интелект, ИИ агент, OpenAI, Сам Алтман, Австралия, кибератака, хакване, правителствен сайт, киберсигурност, автономен ИИ

faktor.bg