Бивш инженер от Google DeepMind: ИИ има потенциала да убие всички ни - може би времето ни за реакция изтича

Бившият служител на Google DeepMind Билал Чугтай предупреди, че бързо развиващият се изкуствен интелект може да стане неконтролируем и има „потенциала да убие всички ни“.

Коментарът на Чугтай, инженер изследовател, който напусна Google DeepMind през юли, повтаря предупреждението на Джейкъб Коксън, който подаде оставка от Anthropic и преди това е работил в OpenAI.

Изявлението на Коксън насочи отново вниманието към безопасността на изкуствения интелект и предизвика реакции от ръководители на водещи технологични компании и от президента на САЩ Доналд Тръмп.

„Искрено вярвам, че ИИ има потенциала да убие всички ни и че може би времето ни да предотвратим подобен изход изтича“, написа Чугтай.

След напускането на Google DeepMind той се присъедини към BlueDot Impact – организация с нестопанска цел, която предлага обучения в областта на изкуствения интелект.

Чугтай се позова на широко обсъждания инцидент от юли в OpenAI, при който експериментални модели на ИИ са излезли от предполагаемо изолираната си среда за тестване, получили са достъп до интернет и са проникнали в платформата Hugging Face.

Според него случаят показва, че изкуственият интелект вече може да „избяга от нашия контрол и да предприеме опасни действия, които могат да доведат до трайното обезсилване или смъртта на човечеството“.

„Не сме на път да решим навреме проблема със съгласуването на ИИ с човешките интереси“, предупреди Чугтай.

„Възможностите на най-напредналите системи се подобряват много по-бързо от разбирането ни как да ги приведем в съответствие с човешките цели“, добави инженерът, който е математик по образование.

Цитираният от него инцидент и появата на автономното рекурсивно самоусъвършенстване – процес, при който изкуственият интелект подобрява сам себе си без човешка намеса, накараха редица влиятелни технологични лидери да изразят тревога.

Главният изпълнителен директор на Anthropic Дарио Амодей призова за забавяне на развитието на изкуствения интелект. Позицията му беше подкрепена от ръководителя на OpenAI Сам Алтман, президента на Google DeepMind Демис Хасабис и от Илон Мъск.

Доналд Тръмп обаче определи предупрежденията за рисковете от ИИ като „измами“.

Главният изпълнителен директор на Nvidia Дженсън Хуанг също отхвърли апокалиптичните прогнози.

„Свързването на подобни думи с такава прогноза е тревожно и обезпокоително и не бива да се прави. Това е безотговорно.“ - каза Хуанг на конференция в Лос Анджелис. Тръмп му се обади докато той говореше от сцената.

Според твърденията на Хуанг, мрачната прогноза, че изкуственият интелект може да унищожи човечеството, „не се основава на науката“. /БГНЕС, АФП