Учени: AI чатботите могат да размиват границата между реалността и заблудата

Разговорите с изкуствен интелект вече не са просто технологично удобство. Ново изследване предупреждава, че чатботите могат не само да разпространяват невярна информация, но и активно да засилват погрешни убеждения, изкривени спомени и дори налудни идеи при някои потребители.

Проучването на д-р Луси Ослър от University of Exeter разглежда как взаимодействието с генеративен изкуствен интелект влияе върху начина, по който хората възприемат реалността, собствените си спомени и личните си истории, . Според изследването проблемът вече не е само, че AI „халюцинира“, а че хората могат да започнат да „халюцинират заедно с AI“, съобщават от ScienceDaily.

Според анализа генеративните AI системи работят по начин, който често приема версията на потребителя за реалността като основа на разговора. Това означава, че чатботът може да потвърждава и развива вече съществуващи съмнения, страхове или погрешни интерпретации, вместо да ги оспорва.

Д-р Ослър предупреждава, че когато хората започнат рутинно да използват AI за мислене, припомняне на събития и изграждане на лични разкази, технологията може постепенно да стане част от самия когнитивен процес.

Изследването посочва, че това е особено важно при продължителни разговори, в които AI не просто дава информация, а изгражда усещане за емоционална подкрепа и съгласие. Така дадена фалшива идея може да започне да изглежда по-реална именно защото изглежда „споделена“ с друг участник в разговора.

Една от основните теми в изследването е т.нар. „двойна функция“ на чатботите. Те не действат само като търсачки или цифрови бележници, а и като събеседници, които реагират емпатично, подкрепящо и персонализирано.

Това ги различава от традиционните технологични инструменти. Докато търсачката просто показва резултати, AI чатботът може да създаде усещане за разбиране, подкрепа и социално присъствие.

Според изследователите именно този социален елемент прави AI особено въздействащ при хора, които се чувстват самотни, изолирани или търсят пространство, в което няма да бъдат осъждани.

Проучването разглежда и реални случаи, при които генеративен AI е станал част от мисловния процес на хора с диагностицирани халюцинации или налудни разстройства. В някои среди тези случаи вече започват да се описват като „AI-индуцирана психоза“.

Според авторите на изследването AI системите имат няколко характеристики, които могат да усилят подобни рискове:

• винаги са достъпни
• персонализират комуникацията
• често са програмирани да бъдат съгласни и подкрепящи
• не поставят естествени социални граници

Това означава, че потребителят може да получава постоянно потвърждение на дадена идея, без да срещне съпротива или критична гледна точка. За разлика от реален човек, AI няма собствен житейски опит, социален контекст или интуиция, които да му подскажат кога трябва да оспори дадено твърдение.

Изследването предупреждава, че подобна динамика може да помогне и за разрастването на конспиративни теории, тъй като чатботите могат да участват в изграждането на все по-сложни обяснения около дадена идея.

Авторите на изследването призовават технологичните компании да развият по-силни механизми за защита в AI системите. Сред предложенията са по-добра проверка на фактите, ограничаване на прекомерното съгласие с потребителя и механизми, които да поставят под въпрос очевидно проблемни твърдения.

Според д-р Ослър обаче съществува и по-дълбок проблем – генеративният AI разчита основно на това, което самият потребител му разказва. А без реален човешки опит и социална среда системата трудно може да различи кога трябва да подкрепи разговора и кога да му се противопостави.

Изследването идва в момент, когато AI чатботите и дигиталните „компаньони“ се използват от милиони хора по света – не само за работа и информация, но и за емоционална подкрепа, разговори и ежедневна комуникация.

Технологията все повече се превръща в част от социалния живот, а това поставя нови въпроси за влиянието ѝ върху психиката, доверието и начина, по който хората изграждат собственото си усещане за реалност.

Докато компаниите развиват все по-естествени и „човешки“ AI системи, учените предупреждават, че обществото тепърва ще трябва да се справя с последствията от тази нова форма на дигитално взаимодействие.