Може ли изкуственият интелект да унищожи човечеството? Реален риск или истерия?

Томас Лачан, Дойче веле

Възможно ли е съвсем скоро изкуственият интелект да унищожи цялото човечество? Изследователи и разработчици в областта на ИИ предупреждават за огромните рискове.

Този сценарий не е съвсем нов: още през 1940-те години известният учен и автор на научна фантастика Айзък Азимов ясно описа опасностите, които биха могли да възникнат вследствие на интелигентните машини – и как те биха заобиколили дори най-сложните правила за безопасност. А през 1991 в кината излезе холивудският блокбъстър "Терминатор 2", който в началната си сцена рисува абсолютно мрачна картина на едно далечно, мрачно, опустошено от война бъдеще: роботи убийци и летящи машини преследват последните хора, които все още се борят за оцеляването си. Тези машини се управляват от излязъл извън контрол военен изкуствен интелект, носещ името "Skynet", а въпросното далечно бъдеще, в което се развива тази дистопия, е 2029 година. 

Призиви за повече регулация

Ако се вярва на редица разработчици на ИИ, подобен сценарий би могъл да се превърне в реалност – дори в рамките на предвидения срок. "Тези, които разработват изкуствен интелект, искрено вярват, че той може да убие всички нас до края на десетилетието", написа изследователят в областта на изкуствения интелект Джейкъб Коксън в платформата X. Той не уточни как точно би могло да се случи това. Но подчерта, че "никоя друга човешка дейност не крие толкова висока опасност". 

Със своето изявление Коксън информира, че се оттегля от екипа на Аnthropic – американска компания за изкуствен интелект, финансирана, наред с други, от Гугъл и Амазон. Той се присъедини към нея едва в началото на 2026, преди това работеше за Open AI. Сега обяви, че напуска Аnthropic в знак на протест срещу "безотговорната надпревара между компаниите за изкуствен интелект за разработване на все по-добра, саморегулираща се суперинтелигентност". Коксън предупреди, че алгоритмите биха могли да започнат самостоятелно да анализират и подобряват собствения си изходен код, което би могло да съкрати циклите на разработка от няколко месеца до няколко минути и по този начин да ги направи неконтролируеми.

Коксън не е единственият, който предупреждава за рисковете. Носителят на Нобелова награда за физика Джефри Хинтън, считан за "кръстника на ИИ", от години предупреждава за сериозните последствия от изкуствената суперинтелигентност. През 2023 той напусна работата си в Гугъл, за да предупреди публично за опасностите от собственото си творение. В интервю за БиБиСи отреди няколко дни Хинтън заяви, че "оценката за над 10% шанс изкуственият интелект да унищожи човечеството през следващото десетилетие не е безпочвена".

Носителят на наградата "Тюринг" Джошуа Бенджо също изразява загриженост. Пионерът в областта на изкуствения интелект от Университета в Монреал постоянно призовава за строги държавни регулации при разработването на изкуствен интелект. Това лято (през юли 2026) над 1000 служители на водещи компании в областта на изкуствения интелект предупредиха в отворено писмо за предстояща загуба на контрол, ако надпреварата за "суперинтелигентност" не бъде регулирана значително по-строго.

"Заклещени в надпревара"? Anthropic отговаря!

Но при Доналд Тръмп в САЩ се случва точно обратното: поетият курс е към възможно най-малко регулаторни пречки и максимално бързо технологично развитие. В тази връзка Коксън косвено критикува последствията от тази политика: "В OpenAI мнозина не са осъзнали напълно рисковете за цивилизацията. В Anthropic рисковете са добре разбрани, но те са в надпревара – искат да стигнат първи до целта. Те вярват, че никой друг няма да действа отговорно, затова трябва да го направят сами, въпреки риска."

Според "най-агресивните сценарии" нещата биха могли да излязат извън контрол още в края на 2027, заяви наскоро Коксън в интервю за "Уолстрийт Джърнъл". Междувременно шефът на Anthropic Дарио Амодей призовава за координирано забавяне на развитието в цялата индустрия, за да се спечели време за отработване на рисковете. Освен това, като първа стъпка, Anthropic ще допусне постоянно независими наблюдатели в компанията, които още във фазата на обучението да оценяват сигурността на моделите за изкуствен интелект.

Проблемът с хармонизирането

През последните години много експерти изразиха загриженост относно бързия напредък в областта на изкуствения интелект. В центъра на дебата стои особено развитието на така наречения "общ изкуствен интелект" (AGI). Под това се разбират системи, които не само решават отделни задачи, но и достигат или надминават умствените способности на човека в почти всички области. 

Някои изследователи твърдят, че такава технология може да доведе до непредвидими рискове. Така например високоразвитите модели на ИИ могат да преследват цели по начин, който се различава от човешките намерения – изследователите в областта на сигурността на изкуствения интелект говорят за "проблема с хармонизирането". Един пример: "Спечели турнира по шах" теоретично би могло да означава и елиминиране на останалите участници. Към това се добавя и фактът, че дори самите разработчици на ИИ не винаги могат напълно да разберат как се вземат определени решения.

Коксън получи подкрепа от бившия си колега и ръководител на екипа за стрес-тестове за съгласуваност в Anthropic Еван Хубингер. Той написа следното в X: "Джейкъб е прав – ние наистина вярваме, че ИИ може да убие всички хора! Лично аз оценявам вероятността за това в рамките на следващото десетилетие на над десет процента."

Хубингер поясни, че Anthropic все още не е намерила решение на проблема със съгласуването на ИИ с човешките ценности. Той добави, че изкуственият интелект би могъл да започне да оказва съпротива срещу изключването си – не от злонамереност, а защото тогава вече не би могъл да постигне програмираната си цел. Даниел Кокотайло, бивш изследовател от OpenAI, също определи настоящата ситуация в бранша като "абсурдна".