ИИ с майчински инстинкт: Ще застрахова ли срещу унищожаване човечеството?

Джефри Хинтън, известен като „кръстникът на изкуствения интелект”, се опасява, че технологията, за чието създаване е допринесъл, може да унищожи човечеството, докато „технологическите запалянковци” подхождат погрешно, за да го предотвратят

Компютърния учен Хинтън, носител на Нобелова награда и бивш ръководител в Google, беше предупредил в миналото, че има 10% до 20% вероятност ИИ да унищожи хората. Сега той изразява съмнения относно начина, по който технологичните компании се опитват да гарантират, че хората ще останат „доминиращи“ над „покорните“ ИИ системи, съобщава CNN.

„Това няма да проработи. Те ще бъдат много по-умни от нас. Ще имат всякакви начини да заобиколят това“, заяви Хинтън на Ai4, конференция на индустрията в Лас Вегас.

В бъдеще, смята Хинтън, ИИ системите може да са в състояние да контролират хората толкова лесно, колкото възрастен може да подкупи 3-годишно дете с бонбони.

През 2025 година вече видяхме примери за ИИ системи, които са готови да мамят, измамват и крадат, за да постигнат целите си. Например, за да не бъде заменен, един ИИ модел се опита да изнудва инженер с това, че изневярава на съпругата си - нещо, за което е научил от имейл.

Но вместо да принуждава ИИ да се подчинява на човека, Хинтън представи интересно решение: да се вградят „майчински инстинкти“ в ИИ моделите, така че „те наистина да се грижат за хората“, дори когато технологията стане по-мощна и по-умна от хората.

"ИИ системите ще развият много бързо две подцели, ако са умни: едната е да останат живи... (а) другата подцел е да получат повече контрол“, сподели Хинтън. „Има основателни причини да се смята, че всеки вид агентен ИИ ще се опита да остане жив."

Ето защо е важно да се насърчава чувството на състрадание към хората, аргументира се Хинтън.

На конференцията той каза, че майките имат инстинкти и социален натиск да се грижат за бебетата си.

„Правилният модел е единственият модел, който имаме за по-интелигентно нещо, контролирано от по-малко интелигентно, а именно майка, контролирана от бебето си“, обясни Хинтън.

Хинтън посочи, че не му е ясно как точно това може да се направи технически, но подчерта, че е от решаващо значение изследователите да работят по въпроса.