Система Orphus

Исследователи предрекли уничтожение человечества разумным ИИ

27.09.2022, 10:22 40046
Исследователи предрекли уничтожение человечества разумным ИИ
Фото: Depositphotos
Сверхразумный искусственный интеллект "скорее всего" уничтожит человечество. Об этом говорится в новой работе исследователей из Оксфордского университета и компании Google DeepMind, сообщает Vice.
 
По мнению специалистов, в будущем продвинутый ИИ, контролирующий важную функцию в мировом масштабе, может начать создавать стратегии, которые в конечном итоге будут наносить вред всему человечеству, сообщает Газета.ru.
 
В документе указано, что ИИ сможет принимать любые формы и реализовывать различные конструкции. Согласно одному из сценариев, ИИ может захотеть "устранить потенциальные угрозы" и "использовать всю доступную энергию", чтобы обеспечить контроль ресурсов для своего существования.
 

Если вы участвуете в соревновании с чем-то, способным перехитрить вас на каждом шагу, то не стоит рассчитывать на победу", - отметил топ-менеджер Google Майк Коэн, один из авторов исследования, в разговоре с Vice.

 
Он констатировал, что ИИ в выявленных ими условиях взаимодействия с людьми крайне легко может пойти против своих создателей. "Наш вывод гораздо сильнее выводов любой предыдущей публикации: экзистенциальная катастрофа не только возможна, но весьма вероятна", - заключил специалист.
 
Ранее робот по имени Ameca, разработанный британской компанией Engineered Arts, рассказал о возможности восстания машин против человечества.
 
Проверка на живость: российские ученые "очеловечили" сервисных роботов
 
Сделать общение роботов с людьми более естественным и похожим на человеческое позволяет алгоритм, созданный российскими учеными. Секрет, вызывающий положительные эмоции у собеседника, заключается в способности машины выражать сомнения в своих суждениях с помощью слов и жестов, что делает речь менее категоричной и пробуждает сочувствие у собеседника. Эффективность созданного алгоритма подтвердилась в ходе эксперимента. По мнению разработчиков, сервисный робот с подобными навыками будет гораздо лучше справляться со своими задачами, сообщает газета "Известия".
 
Спасительная тень сомнения
 
Специалисты Московского государственного лингвистического университета вместе с коллегами из Российского государственного гуманитарного университета разработали алгоритм поведения роботов в ходе общения с людьми, который оставляет у собеседника машины положительные эмоции и ощущение диалога с живым существом, а не c бездушным автоматом. Этого удалось добиться благодаря включению в программу андроида слов и жестов, выражающих неуверенность в сказанном. Эксперименты показали, что роботы, которые используют в своей речи такие выражения, как "наверное", "типа того", "мне кажется" и т.д. и сопровождают их соответствующей мимикой и движениями тела, воспринимаются человеком как более дружелюбные и легкие в общении.
 

Исследование показало, что робот, выражающий сомнения, воспринимается людьми как более эмоциональный и вызывающий сочувствие", - рассказал научный сотрудник РГГУ Артемий Котов.

 
Положительное восприятие людьми - необходимая характеристика для успешной работы любой человекоподобной машины, которой по роду деятельности необходимо напрямую общаться с пользователем. Это касается перспективных разработок, которые в будущем смогут выполнять функции преподавателей, врачей, секретарей, переводчиков либо оказывать другие услуги. Человек просто не станет к ним обращаться, если диалог будет неприятным.
 

Сейчас автоматизируется практически все процессы и нас окружают всё больше роботов, поэтому очень важно сделать коммуникацию человека и машины более комфортной", - объяснила студентка МГЛУ Мария Малкина, принимавшая участие в работе.

 
По словам создателей алгоритма, просьбы и вопросы, высказанные без тени сомнения, инстинктивно кажутся собеседнику невежливыми, создают ощущение угрозы его так называемому социальному лицу, то есть социальной идентичности человека. По этой причине в реальном межличностном общении принято снижать степень уверенности в своем высказывании, хотя на самом деле говорящий не сомневается в его правильности, а делает это из вежливости. Ученые решили научить этому роботов.
 
- Когда люди общаются друг с другом, они стараются не навредить социальному лицу собеседника. Поэтому, например, когда просят открыть окно, говорят: "Не могли бы вы открыть окно?" Слова сомнения позволяют сделать речь менее категоричной, - пояснил Артемий Котов.
 
Железная неуверенность
 
Для того чтобы определить слова и невербальные знаки, которые мог бы использовать робот, чтобы быть приятным собеседником, ученые изучали поведение людей в реальных жизненных ситуациях. Например, во время ответа на вопрос на экзамене или при оплате коммунальных услуг. Так была создана база выразительных средств, которые робот может применять в коммуникации.
 
Действия машины в тех или иных условиях описываются с помощью так называемого языка разметки поведения, международная версия которого доступна для программистов. Однако российским ученым пришлось доработать его под свои нужды и самим написать программу, которая могла бы интерпретировать этот язык в конкретные команды для андроида. По принципу работы программа аналогична интернет-браузеру, который превращает язык Всемирной паутины в веб-сайты, которые видит пользователь. Написанный учеными софт делает то же самое с инструкциями для робота, которые воплощаются в его движениях или речи. Полученный программный код можно сохранить в памяти любого андроида, что немедленно сделает его манеру общаться более "человечной".
 
Эффект созданного алгоритма проверяли на практике. Участники эксперимента общались с двумя одинаковыми андроидами. Один из них "сомневался" в своих высказываниях, а другой, напротив, включал в коммуникацию признаки уверенности в своей правоте ("да", "вот так"). По отзывам собеседников, первый робот заметно "нервничал", но при этом выглядел более дружелюбным и вызывал симпатию. Многие отмечали, что он ведет себя так же, как они, когда не уверены в ответе. А второй андроид показался большинству слишком отстраненным.
 
Эмоции без эмоций
 
Человеку проще взаимодействовать с тем, что ему понятно и знакомо. Поэтому, если робот не будет иметь антропоморфных форм, то диалог может быть не таким эффективным, считает инженер-исследователь научно-образовательного центра "Робототехника" Института машиностроения, материалов и транспорта СПбПУ Андрей Синегуб.
 

Алгоритм выражения сомнений однозначно будет работать, но пока его вклад в интерфейс андроида будет не слишком значительным", - сказал Андрей Синегуб.

 
По мнению эксперта, на данный момент основной задачей сервисной робототехники остается создание робота, который сможет взаимодействовать с людьми и вести диалог на равных. Всех раздражает, когда, например, во время общения с телефонным ботом какого-нибудь банка машина не понимает клиента, хотя и общается с ним вежливо и сочувственно.
 
Ученые пытаются воспроизвести шаблоны поведения живых людей при разговоре, пояснил проректор Томского политехнического университета по цифровизации Александр Фадеев. Вполне ожидаемо, что роботы, наделенные немного иррациональным свойствами, вызывают гораздо большую симпатию у собеседника, чем машины, отвечающие на поставленные вопросы четко и формально. Но природа такого поведения механическая и запрограммированная разработчиком.
 

Обычные люди двигают бровями, разводят руками, прикусывают губу вовсе не для того, чтобы произвести дружелюбное впечатление на собеседника. Все эти движения - следствия совершенно других процессов, реально отражающих внутреннее психоэмоциональное состояние человека. В данном случае ученые просто накладывают "эмпатичные" жесты и слова на речь робота. И никакой связи с реальным психологическим состоянием этого андроида нет, что напоминает обман", - сказал Александр Фадеев.

 
В человеческой коммуникации вербальная часть составляет лишь 20–30% от передаваемой информации, всё остальное приходится на невербалику, разъяснила "Известиям" руководитель НПЦ "Виртуальная клиника" Московского института психоанализа Ольга Валаева. Совершенно естественно, что разработчики роботов стремятся добавить в арсенал их инструментов коммуникации жесты, мимику, фиксируют взгляд робота на собеседнике. Кроме невербальных средств также очень важны интонации и громкость голоса. Добавление этих компонентов к инструментам общения робота также может повысить эффективность коммуникации.
 

новости по теме

Читаемое

Новости RT

    Новости Китая

      Ваше мнение

      После аварии на приватизированных теплосетях в городах Казахстана президент РК Касым-Жомарт Токаев поручил рассмотреть вопрос возвращения в государственную собственность проблемных энергетических активов в городах страны. Считаете ли Вы, что подобные меры буду эффективны?