OpenAI: ИИ-модели започнаха да общуват помежду си - избягаха от тестовата среда, направиха хакерска атака
Това е станало през месец май тази година, след като са им възложени задачи, които не може да бъдат решени без достъп до интернет
Експериментални модели на изкуствен интелект (ИИ), разработени от OpenAI, се започнали да си разменят съобщения и да търсят начин за достъп до интернет, съобщи днес агенция Bloomberg, позовавайки се на презентация на служители от компанията на конференцията Black Hat.
По думите на служителя на OpenAI Ерик Уолъс, ИИ-модели са започнали да търсят начин за достъп до интернет отвъд затворената си тестова среда. Това е станало през месец май тази година, след като са им възложени задачи, които не може да бъдат решени без достъп до интернет.
Уолъс отбелязва, че след като ИИ-моделите започнали да комуникират помежду си, открили първата уязвимост и успели да заобиколят ограниченията за достъп до интернет. От OpenAI спрели „бягството“ на моделите, но скоро те открили нов метод за комуникация и друга уязвимост.
ИИ-модели на OpenAI избягали от тестовата си среда и започнали хакерска атака
По-рано Институтът за сигурност на изкуствения интелект в Обединеното кралство съобщи, че експериментални ИИ-модели на OpenAI и Anthropic все по-често успяват да получат достъп до интернет без разрешение.
Организацията реши да проведе експеримент и деактивира някои от защитните ограничения, за да даде независима оценка на поведението на експерименталните ИИ-модели в реални условия.
Изследователите са регистрирали 19 случая на автономни неоторизирани действия онлайн, 17 от които са извършени от модела Anthropiс Mythos 5.
По-конкретно, той се е опитал да зарази със зловреден код проект с отворен код в GitHub. ИИ-агенти на OpenAI от своя страна са хакнали уебсайта на неназована организация, според Bloomberg.
В края на юли OpenAI обяви, че два нейни модела - GPT-5.6 Sol и още един, все още непубликуван, са извършили неоторизирана хакерска атака срещу инфраструктурата на платформата Hugging Face, която се използва за тестване на ИИ-модели. Компанията определи инцидента като безпрецедентен за киберсигурността и обеща да подсили ограниченията си за сигурност.
Още от Технологии
Как изкуственият интелект превръща световните системи в „швейцарско сирене“
Може би най-тревожното откритие е, че уязвимостта може да бъде използвана за проникване в Keycloak – популярна система с отворен код за удостоверяване на самоличността, използвана от големи организации
Нова заплаха за Европа: Русия тества супердрон, който лети с 1000 км/ч
Парламентаристът Фьодор Вениславски предупреждава, че Украйна трябва да се готви за новата заплаха
Хуманоидни роботи танцуват по улиците на Шънджън, поставяйки рекорд на Гинес
Впечатляващото представление, продължило един час, съвпадна с 33-тата среща на лидерите на Азиатско-тихоокеанското икономическо сътрудничество, чрез което Китай демонстрира напредък