„Правилният модел е единственият модел, който имаме за по-интелигентно нещо, контролирано от по-малко интелигентно, а именно майка, контролирана от бебето си“, обясни „кръстникът на изкуствения интелект” Джефри Хинтън
Джефри Хинтън, известен като „кръстникът на изкуствения интелект”, се опасява, че технологията, за чието създаване е допринесъл, може да унищожи човечеството, докато „технологическите запалянковци” подхождат погрешно, за да го предотвратят
Компютърния учен Хинтън, носител на Нобелова награда и бивш ръководител в Google, беше предупредил в миналото, че има 10% до 20% вероятност ИИ да унищожи хората. Сега той изразява съмнения относно начина, по който технологичните компании се опитват да гарантират, че хората ще останат „доминиращи“ над „покорните“ ИИ системи, съобщава CNN.
„Това няма да проработи. Те ще бъдат много по-умни от нас. Ще имат всякакви начини да заобиколят това“, заяви Хинтън на Ai4, конференция на индустрията в Лас Вегас.
В бъдеще, смята Хинтън, ИИ системите може да са в състояние да контролират хората толкова лесно, колкото възрастен може да подкупи 3-годишно дете с бонбони.
През 2025 година вече видяхме примери за ИИ системи, които са готови да мамят, измамват и крадат, за да постигнат целите си. Например, за да не бъде заменен, един ИИ модел се опита да изнудва инженер с това, че изневярава на съпругата си - нещо, за което е научил от имейл.
Но вместо да принуждава ИИ да се подчинява на човека, Хинтън представи интересно решение: да се вградят „майчински инстинкти“ в ИИ моделите, така че „те наистина да се грижат за хората“, дори когато технологията стане по-мощна и по-умна от хората.
"ИИ системите ще развият много бързо две подцели, ако са умни: едната е да останат живи... (а) другата подцел е да получат повече контрол“, сподели Хинтън. „Има основателни причини да се смята, че всеки вид агентен ИИ ще се опита да остане жив."
Ето защо е важно да се насърчава чувството на състрадание към хората, аргументира се Хинтън.
На конференцията той каза, че майките имат инстинкти и социален натиск да се грижат за бебетата си.
„Правилният модел е единственият модел, който имаме за по-интелигентно нещо, контролирано от по-малко интелигентно, а именно майка, контролирана от бебето си“, обясни Хинтън.
Хинтън посочи, че не му е ясно как точно това може да се направи технически, но подчерта, че е от решаващо значение изследователите да работят по въпроса.
Още от Наука
Хипопотами са крачили по днешната арабска пустиня преди 125 хил. години
Дивият свят там е бил обитаван и от изчезнали дългороги биволи, арабски орикси и газели – в абсолютен контраст със сухия пейзаж днес
Денят, в който светът стана по-малък: Как Суецкият канал прекрои глобалната търговия
На 17 ноември 1869 г. египетските пустини стават сцена на едно от най-мащабните инженерни и дипломатически събития на XIX век. След десет години усилен труд официално е открит Суецкият канал – изкуственият воден път, свързващ Средиземно и Червено море, който завинаги променя географията на световната търговия и икономическите отношения между континентите.
Праисторическо изкуство оживява в НИМ: Представят 80 уникални фигурки за първи пред публика
Божества, пазители или играчки - експонатите са част от изложбата "Когато глината получи душа. Праисторическо изкуство", и имат различни интерпретации