Проф. д-р Илин Савов, д.н.: Дезинформацията не разбива системи, а пренарежда представите ни за това кое е истина

Дигиталният двойник отдавна не е научна фантастика, той е реалност - днес и сега

В свят, пълен с дигитални копия и синтетично съдържание, истинското присъствие ще тежи все повече - най-скъпо ще струват прозрачността и живият човешки контакт, казва пред Faktor.bg експертът по киберсигурност

- Проф. Савов, често казвате, че дезинформацията не атакува компютри, а човешките умове. Защо според Вас тя се превръща в едно от най-сериозните предизвикателства пред националната и обществената сигурност?

- Светът се промени. Парадигмата за сигурността се измени. Дезинформацията не разбива системи, а пренарежда представите ни за това кое е истина. Един хакер може да открадне данни, но дезинформацията краде нещо по-ценно, а именно способността на хората да се доверяват. А когато едно общество спре да вярва на всичко и на всички, институциите губят опора, а страхът започва да тежи повече от фактите. Една добре пусната лъжа може да активира паника по-бързо, отколкото реално събитие. Виждал съм как с няколко манипулирани клипа, фалшиви профили и координирани публикации се влияе върху нагласи преди избори, върху протести, върху доверието към полицията или лекарите, дори върху това какво правят децата онлайн. И най-неприятното е, че хората, които споделят лъжата, рядко са злонамерени. Просто тя е скроена така, че да изглежда убедителна, и те я препращат с добро чувство. Това трябва да се ограничи. Можем да го направим.

- В ерата на социалните мрежи и генеративния изкуствен интелект как обикновеният човек може да разпознава манипулации, фалшиви новини и целенасочени кампании за влияние?

- Първото правило, което повтарям навсякъде, е простичко: не реагирай веднага. Манипулацията почти винаги залага на емоция - страх, гняв или шок. Ако нещо мигновено те вбеси или уплаши, точно това е моментът да спреш и да си зададеш въпроса откъде идва. Защо сега? Второто е да гледаш детайла. Кога е публикувано, кой стои зад него и повтаря ли го поне още един независим източник. Днес вече има видео и гласове, направени от изкуствен интелект, които звучат напълно реално, така че самата „картинка“ отдавна не е доказателство. Тъкмо затова критичното мислене изпреварва по важност технологията. Давам и един съвсем битов пример на ученици и учители. Ако ви се обади близък човек и спешно иска пари, затворете и му звъннете обратно на неговия номер. Една обикновена проверка, но точно тя спасява хората от измами.

- Според Вас достатъчно подготвени ли са българското образование и институциите да изграждат критично мислене, което все по-често се определя като новата грамотност на XXI век?

- Желание има, но системата изостава от скоростта, с която се мени дигиталната среда. В догонваща позиция сме. Това не е добре. От години сме така! А критичното мислене вече не е просто полезно умение, то е форма на самозащита. През последните години съм обучавал над 28 000 деца и над 10 000 учители и служители в администрации и навсякъде виждам едно и също. Хората използват технологиите всеки ден, но малцина разбират какво стои зад тях. Децата израстват  с телефон в ръка, а често няма кой да им обясни как точно работи манипулацията, какво е дигитален натиск и защо алгоритъмът им показва точно това съдържание. Нужни са повече практически обучения, истински сценарии и подготовка, която да е постоянна, а не да се случва веднъж годишно. Иначе ще получим технологично грамотно общество с уязвимо мислене, което е опасна комбинация.

- Все по-често се говори за т.нар. „дигитален двойник“ – съвкупност от данни, профили и модели, които могат да възпроизведат поведението на даден човек. Колко близо сме до момента, в който изкуственият интелект ще може да „живее“ вместо нас в дигиталната среда?

- Много близко. Знам, че хората няма да искат да повярват. Но сме по-близко отколкото повечето допускат. Вече има системи, които имитират стила ни на писане, гласа, поведението, дори типичните ни реакции, стига да разполагат с достатъчно събрани данни. Дигиталният двойник отдавна не е научна фантастика. Това е реалност. Днес и сега. Ако някой има достъп до снимките ви, публикациите, гласовите ви съобщения и навиците ви, от тях може да се сглоби доста точен модел на това как се държите. А това е сериозен риск, било за финансови измами, било за репутационни удари или за манипулация. Представете си видео разговор с човек, който изглежда и звучи като ваш близък, но всъщност е изцяло генериран. Това вече не е хипотеза. По света се случва. Трябва да сме готови да реагираме. 

- Какви рискове за личната неприкосновеност и сигурността възникват, когато AI системите започнат да вземат решения, да комуникират и дори да създават съдържание от името на реални хора?

- Основният риск е, че границата между истинския човек и неговото копие започва да се размива. И този процес се ускорява. Когато един алгоритъм говори вместо нас, веднага изникват въпросите: кой носи отговорност за казаното и кой всъщност контролира потока от информация. Има и втори, по-тих проблем. Тези системи се учат от самите нас. Колкото повече данни им даваме доброволно, толкова по-точно предвиждат решенията ни, слабите ни места и реакциите ни. Така се отваря врата не само към измами, а и към психологическо влияние. Ако една система знае какво ви плаши, какво ви движи и какво ви изкарва от равновесие, тя може да насочва избора ви много по-фино, отколкото изобщо забелязвате.

- Умните телефони, часовници, автомобили и домашни устройства събират огромни количества информация. Превръщат ли се те в своеобразна разузнавателна мрежа и осъзнаваме ли достатъчно добре какви данни споделяме ежедневно?

- Дигитална ера. Имаме желание да пестим време, пари и емоция. В известен смисъл вече живеем под постоянно дигитално наблюдение и това ни се отразява. Всеки ден. Телефонът, часовникът, всяко приложение събира местоположение, навици, контакти, здравни показатели, поведение. Бедата е, че приемаме удобството, без да се замисляме каква е цената му. Едно приложение за фенерче няма никаква причина да иска достъп до микрофона, камерата и контактите ви, но повечето хора натискат „разреши“ почти автоматично. Това е проблем за дигиталната безопасност.

- Някои експерти прогнозират, че в следващото десетилетие доверието ще бъде най-ценният ресурс в обществото. Как ще се изгражда доверие в свят, в който можем да виждаме, чуваме и четем неща, които изглеждат истински, но са създадени изцяло от изкуствен интелект?

- Разбира се. Според мен доверието ще се печели по-трудно и по-бавно. Влизаме в период, в който „видях го с очите си и чух това“ вече няма да върши работа като доказателство. Това ще тласне хората да търсят проверими източници, реални експерти и автентичност. Постепенно ще свикнем с мисълта, че не всичко, което изглежда истинско, наистина е такова. Трябват обучения. Постоянно. Светът се промени. Затова мисля, че най-скъпо ще струват прозрачността и живият човешки контакт. В свят, пълен с дигитални копия и синтетично съдържание, истинското присъствие ще тежи все повече.

- На фона на нарастващите киберзаплахи от държавни и недържавни играчи, достатъчно ли използва България възможностите, които предоставя партньорството със САЩ за повишаване на своята киберустойчивост? Къде изоставаме и какво трябва да се промени?

- Имам поглед върху глобалната дигитална сцена. С над 25 години съм служител в службите за сигурност и МВР. Това ми дава трезва преценка и обективен анализ. България има силни партньори и достъп до сериозна експертиза, и през сътрудничеството със САЩ, и през структурите на НАТО. Слабото ни място е друго: бавно превръщаме тези възможности в реален капацитет. Изоставаме най-вече в подготовката на кадри в системата за сигурност, в координацията между институциите и в практическите обучения. Няма ги или се прави имитация от години е така. Киберустойчивостта не се купува заедно с техниката. Тя се гради с хора, с ясни процедури и с постоянна тренировка. Трябва да бъдат поставени истински доказани експерти на ръководни позиции. Кариеризмът и нагаждачеството струват скъпо на всяка държава. Времето на професионалистите настъпи. Затова трябва да вложим повече в ранното образование, в специализираните киберобучения и в изграждането на култура на киберпревенция. Защото съвременните атаки вече не се целят само в системите. Целят се в доверието, в психиката и в стабилността на самото общество.