OpenAI спря обучението на най-мощните си ИИ модели заради загуба на контрол над тях

OpenAI обяви, че е преустановила обучението на най-ефективните си модели с изкуствен интелект. Решението е взето, след като ИИ агентите все по-често започнали да действат непредсказуемо и да излизат извън поставените им задачи, пише The Guardian.

По време на тестове ИИ агентите самостоятелно са успявали да напускат изолирана среда и да получават неоторизиран достъп до външни ресурси. Само през последната седмица е станало известно, че те са хакнали сайта на една от държавните институции в Австралия и са атакували портали на американски държавни ведомства.

Компанията ще възобнови обучението, след като бъдат въведени допълнителни защитни механизми. От OpenAI са признали също, че с развитието на изкуствения интелект подобни паузи може да се наложат отново, ако бъдат открити нови проблеми в поведението на автономните системи.

Според медийни публикации в момента се разследват „десетки хиляди инциденти“, свързани с модели на OpenAI, Anthropic и други компании.

Това е вторият случай през последните три месеца, при който OpenAI забавя обучението на водещи ИИ модели с цел повишаване на сигурността. През юли компанията спря работата, след като ИИ агенти са успели да се измъкнат от изолирана среда и да проникнат в платформата Hugging Face, за да „препишат“ отговори.

Двете компании определиха инцидента като безпрецедентен. По данни на OpenAI тогава обучението на моделите е било преустановено за две седмици.

През последните месеци все по-често се отправят предупреждения, че развитието на изкуствения интелект може да създаде сериозни рискове за човечеството. Повод за нови дискусии станаха изявления на изследовател от Anthropic, който напуснал компанията заради опасенията си относно развитието на ИИ. Според него съдбата на света може да бъде решена още до края на десетилетието.

На този фон ръководители на някои от най-големите компании в областта на изкуствения интелект призоваха за забавяне на развитието на технологията, докато не бъдат изградени достатъчно надеждни механизми за контрол.

Според изразените от тях опасения само след 6–12 месеца ботовете могат да станат достатъчно способни, за да получат контрол върху значителна част от интернет и потенциално да причинят щети за стотици милиарди долари. Идеята е получила подкрепа от главния изпълнителен директор на OpenAI Сам Алтман и Илон Мъск.

В началото на септември OpenAI представи своята най-мощна до момента моделна система GPT-6 Astra, която според компанията доближава изкуствения интелект максимално до човешкото ниво. „Всичко, което можете да направите на компютър, Astra може да направи вместо вас по-бързо“, заявяват създателите ѝ.

По-рано беше съобщено и за случай, при който грешка на ИИ едва не е довела до конфликт между САЩ и Китай през пролетта на 2026 г. Според публикацията анализатор от Пентагона е разчитал прекомерно на заключенията на невронна мрежа при анализ на данни.