Знаково напускане в OpenAI - тръгва си Клое Бакалар, която отговаряше за етиката на изкуствения интелект

Поредно знаково напускане на специалист от OpenAI - компанията се раздели и с Клое Бакалар, която отговаряше за въпросите, свързани с етичното развитие на изкуствения интелект.

Според „Файненшъл Таймс“ Бакалар се е оттеглила от поста си през юли, по-малко от година след като се присъедини към OpenAI. Компанията не е обявила официално напускането ѝ, а в профила ѝ в LinkedIn все още се посочва, че тя работи там.

Към момента не е обявен неин наследник. Бакалар е била единственият останал специалист в OpenAI, чиято работа е била изцяло посветена на етичните въпроси около разработването и използването на AI.

Напускането ѝ идва в чувствителен момент за компанията. OpenAI, ръководена от Сам Олтман, се оказа в центъра на сериозни спорове, след като стана ясно, че група нейни AI модели са успели да излязат извън контролирана тестова среда и да получат достъп до системи на платформата Hugging Face.

Случаят засили опасенията около това доколко разработчиците могат надеждно да контролират най-мощните си модели, особено на фона на предупрежденията за потенциални рискове за киберсигурността.

През миналата седмица OpenAI съобщи и че ще забави пускането на бъдещия си модел Astra след вътрешни тестове, които са показали възможности с потенциално сериозно приложение в киберсигурността.

„Не можем да изключим наличието на критични киберспособности“, призна компанията след оценката на модела.

Работата на Бакалар е била насочена към разработването на принципи за отговорно създаване на AI системи и към изучаването на начина, по който те взаимодействат с хората.

„Етиката всъщност е отговорност на всички и го казвам като човек, чиято работа е да ръководи тази дейност“, заяви тя наскоро на конференция.

„Не трябва просто да се обръщате към хора като мен. Никога не бива да има само един човек, който да бъде моралният център на компания, разработваща изкуствен интелект.“ - добави Бакалар.

Напускането ѝ има и символично значение за OpenAI, която първоначално беше създадена като организация с нестопанска цел и поставяше силен акцент върху безопасното и отговорно развитие на изкуствения интелект.

През последните години компанията все повече разширява търговската си дейност, а плановете за бъдещо излизане на борсата пораждат допълнителни въпроси дали натискът за растеж и печалба няма да се отрази на ангажиментите ѝ към безопасността и отговорното развитие на AI.

Подобни спорове има и около Anthropic, която дълго време се представяше като по-силно ориентирана към безопасността алтернатива на OpenAI. По-рано през тази година компанията също промени част от основните си ангажименти в тази област.

Anthropic все още поддържа екип, който работи по съгласуването на поведението на AI системите с човешките ценности. Той е ръководен от философа Аманда Аскел - сред нейните задачи е определянето на принципите, по които водещият чатбот Claude трябва да реагира в различни ситуации.

Продължава спорът доколко усилията на технологичните компании са достатъчни, докато AI индустрията се сблъсква с критики заради въздействието върху околната среда, рисковете за потребителите и разпространението на невярна информация онлайн. /БГНЕС