Водещи фигури в областта на разработването на технологии за изкуствен интелект, сред които Илон Мъск и съоснователят на Apple Стив Возняк, предлагат да се направи пауза в обучението на системи, базирани на ИИ, докато не бъдат разработени и приложени надеждни протоколи за сигурност.
В отворено писмо, разпространено от финансираната от Мъск организация с нестопанска цел Future of Life Institute, те предупреждават за потенциални рискове, пред които човечеството може да бъде изправено заради развитието на изкуствения интелект.
В писмото, което вече е подписано от над хиляда водещи експерти и предприемачи, се предлага шестмесечен мораториум върху обучението на системи, които са по-мощни от технологията зад чатбота ChatGPT.
"Мощни системи, базирани на изкуствен интелект, трябва да се разработват, само когато сме сигурни, че от тях ще има полза и рисковете, които може да възникнат при тяхното развитие, ще бъдат управляеми", гласи посланието.
Авторите на писмото призовават разработчиците на изкуствен интелект да работят с политиците и с регулаторните власти, за да бъдат предотвратени опасностите, които може да възникнат.
В призива се посочват четири основни въпроса, които човечеството трябва да си зададе:
- Трябва ли да позволим на машините да заливат информационните ни канали с пропаганда и лъжи?
- Трябва ли да автоматизираме всички работни места, включително и тези, които носят удовлетворение на хората?
- Трябва ли да развиваме интелект от нечовешки произход, който в бъдеще може да ни надмине по брой, да ни превъзхожда интелектуално и да ни замени?
- Трябва ли да рискуваме да изгубим контрола над нашата цивилизация?
Илон Мъск и Стив Возняк са на мнение, че шест месеца трябва да са достатъчни за разработване и прилагане на надеждни протоколи за сигурност. Но призовават и правителствата по света да се намесят, ако някоя компания не спази мораториума./БГНЕС
Фактор
В отворено писмо, разпространено от финансираната от Мъск организация с нестопанска цел Future of Life Institute, те предупреждават за потенциални рискове, пред които човечеството може да бъде изправено заради развитието на изкуствения интелект.
В писмото, което вече е подписано от над хиляда водещи експерти и предприемачи, се предлага шестмесечен мораториум върху обучението на системи, които са по-мощни от технологията зад чатбота ChatGPT.
"Мощни системи, базирани на изкуствен интелект, трябва да се разработват, само когато сме сигурни, че от тях ще има полза и рисковете, които може да възникнат при тяхното развитие, ще бъдат управляеми", гласи посланието.
Авторите на писмото призовават разработчиците на изкуствен интелект да работят с политиците и с регулаторните власти, за да бъдат предотвратени опасностите, които може да възникнат.
В призива се посочват четири основни въпроса, които човечеството трябва да си зададе:
- Трябва ли да позволим на машините да заливат информационните ни канали с пропаганда и лъжи?
- Трябва ли да автоматизираме всички работни места, включително и тези, които носят удовлетворение на хората?
- Трябва ли да развиваме интелект от нечовешки произход, който в бъдеще може да ни надмине по брой, да ни превъзхожда интелектуално и да ни замени?
- Трябва ли да рискуваме да изгубим контрола над нашата цивилизация?
Илон Мъск и Стив Возняк са на мнение, че шест месеца трябва да са достатъчни за разработване и прилагане на надеждни протоколи за сигурност. Но призовават и правителствата по света да се намесят, ако някоя компания не спази мораториума./БГНЕС
Още от Свят
Завърши кратката среща между Тръмп и Путин в Китай
Разговорът между двамата продължил около 40 минути, съобщава Асошиейтед прес. Това е първата им двустранна среща след разговорите в Анкоридж, Аляска, през август 2025 г.
Лондон ще намали таксите за обучение на европейските студенти като част от споразумение с ЕС
Очаква се да бъде подписано споразумение между Великобритания и ЕС в Брюксел за търговия и сътрудничество
Нова атака срещу Кримския мост дни след тежките разрушения, движението отново е блокирано
Съоръжението е обект на няколко украински атаки от началото на пълномащабната руска инвазия в Украйна през февруари 2022 г., по думите на Зеленски - той носи война