27.09.2022, 10:22 64006

Исследователи предрекли уничтожение человечества разумным ИИ

Исследователи предрекли уничтожение человечества разумным ИИ
Фото: Depositphotos
Сверхразумный искусственный интеллект "скорее всего" уничтожит человечество. Об этом говорится в новой работе исследователей из Оксфордского университета и компании Google DeepMind, сообщает Vice.
 
По мнению специалистов, в будущем продвинутый ИИ, контролирующий важную функцию в мировом масштабе, может начать создавать стратегии, которые в конечном итоге будут наносить вред всему человечеству, сообщает Газета.ru.
 
В документе указано, что ИИ сможет принимать любые формы и реализовывать различные конструкции. Согласно одному из сценариев, ИИ может захотеть "устранить потенциальные угрозы" и "использовать всю доступную энергию", чтобы обеспечить контроль ресурсов для своего существования.
 

Если вы участвуете в соревновании с чем-то, способным перехитрить вас на каждом шагу, то не стоит рассчитывать на победу", - отметил топ-менеджер Google Майк Коэн, один из авторов исследования, в разговоре с Vice.

 
Он констатировал, что ИИ в выявленных ими условиях взаимодействия с людьми крайне легко может пойти против своих создателей. "Наш вывод гораздо сильнее выводов любой предыдущей публикации: экзистенциальная катастрофа не только возможна, но весьма вероятна", - заключил специалист.
 
Ранее робот по имени Ameca, разработанный британской компанией Engineered Arts, рассказал о возможности восстания машин против человечества.
 
Проверка на живость: российские ученые "очеловечили" сервисных роботов
 
Сделать общение роботов с людьми более естественным и похожим на человеческое позволяет алгоритм, созданный российскими учеными. Секрет, вызывающий положительные эмоции у собеседника, заключается в способности машины выражать сомнения в своих суждениях с помощью слов и жестов, что делает речь менее категоричной и пробуждает сочувствие у собеседника. Эффективность созданного алгоритма подтвердилась в ходе эксперимента. По мнению разработчиков, сервисный робот с подобными навыками будет гораздо лучше справляться со своими задачами, сообщает газета "Известия".
 
Спасительная тень сомнения
 
Специалисты Московского государственного лингвистического университета вместе с коллегами из Российского государственного гуманитарного университета разработали алгоритм поведения роботов в ходе общения с людьми, который оставляет у собеседника машины положительные эмоции и ощущение диалога с живым существом, а не c бездушным автоматом. Этого удалось добиться благодаря включению в программу андроида слов и жестов, выражающих неуверенность в сказанном. Эксперименты показали, что роботы, которые используют в своей речи такие выражения, как "наверное", "типа того", "мне кажется" и т.д. и сопровождают их соответствующей мимикой и движениями тела, воспринимаются человеком как более дружелюбные и легкие в общении.
 

Исследование показало, что робот, выражающий сомнения, воспринимается людьми как более эмоциональный и вызывающий сочувствие", - рассказал научный сотрудник РГГУ Артемий Котов.

 
Положительное восприятие людьми - необходимая характеристика для успешной работы любой человекоподобной машины, которой по роду деятельности необходимо напрямую общаться с пользователем. Это касается перспективных разработок, которые в будущем смогут выполнять функции преподавателей, врачей, секретарей, переводчиков либо оказывать другие услуги. Человек просто не станет к ним обращаться, если диалог будет неприятным.
 

Сейчас автоматизируется практически все процессы и нас окружают всё больше роботов, поэтому очень важно сделать коммуникацию человека и машины более комфортной", - объяснила студентка МГЛУ Мария Малкина, принимавшая участие в работе.

 
По словам создателей алгоритма, просьбы и вопросы, высказанные без тени сомнения, инстинктивно кажутся собеседнику невежливыми, создают ощущение угрозы его так называемому социальному лицу, то есть социальной идентичности человека. По этой причине в реальном межличностном общении принято снижать степень уверенности в своем высказывании, хотя на самом деле говорящий не сомневается в его правильности, а делает это из вежливости. Ученые решили научить этому роботов.
 
- Когда люди общаются друг с другом, они стараются не навредить социальному лицу собеседника. Поэтому, например, когда просят открыть окно, говорят: "Не могли бы вы открыть окно?" Слова сомнения позволяют сделать речь менее категоричной, - пояснил Артемий Котов.
 
Железная неуверенность
 
Для того чтобы определить слова и невербальные знаки, которые мог бы использовать робот, чтобы быть приятным собеседником, ученые изучали поведение людей в реальных жизненных ситуациях. Например, во время ответа на вопрос на экзамене или при оплате коммунальных услуг. Так была создана база выразительных средств, которые робот может применять в коммуникации.
 
Действия машины в тех или иных условиях описываются с помощью так называемого языка разметки поведения, международная версия которого доступна для программистов. Однако российским ученым пришлось доработать его под свои нужды и самим написать программу, которая могла бы интерпретировать этот язык в конкретные команды для андроида. По принципу работы программа аналогична интернет-браузеру, который превращает язык Всемирной паутины в веб-сайты, которые видит пользователь. Написанный учеными софт делает то же самое с инструкциями для робота, которые воплощаются в его движениях или речи. Полученный программный код можно сохранить в памяти любого андроида, что немедленно сделает его манеру общаться более "человечной".
 
Эффект созданного алгоритма проверяли на практике. Участники эксперимента общались с двумя одинаковыми андроидами. Один из них "сомневался" в своих высказываниях, а другой, напротив, включал в коммуникацию признаки уверенности в своей правоте ("да", "вот так"). По отзывам собеседников, первый робот заметно "нервничал", но при этом выглядел более дружелюбным и вызывал симпатию. Многие отмечали, что он ведет себя так же, как они, когда не уверены в ответе. А второй андроид показался большинству слишком отстраненным.
 
Эмоции без эмоций
 
Человеку проще взаимодействовать с тем, что ему понятно и знакомо. Поэтому, если робот не будет иметь антропоморфных форм, то диалог может быть не таким эффективным, считает инженер-исследователь научно-образовательного центра "Робототехника" Института машиностроения, материалов и транспорта СПбПУ Андрей Синегуб.
 

Алгоритм выражения сомнений однозначно будет работать, но пока его вклад в интерфейс андроида будет не слишком значительным", - сказал Андрей Синегуб.

 
По мнению эксперта, на данный момент основной задачей сервисной робототехники остается создание робота, который сможет взаимодействовать с людьми и вести диалог на равных. Всех раздражает, когда, например, во время общения с телефонным ботом какого-нибудь банка машина не понимает клиента, хотя и общается с ним вежливо и сочувственно.
 
Ученые пытаются воспроизвести шаблоны поведения живых людей при разговоре, пояснил проректор Томского политехнического университета по цифровизации Александр Фадеев. Вполне ожидаемо, что роботы, наделенные немного иррациональным свойствами, вызывают гораздо большую симпатию у собеседника, чем машины, отвечающие на поставленные вопросы четко и формально. Но природа такого поведения механическая и запрограммированная разработчиком.
 

Обычные люди двигают бровями, разводят руками, прикусывают губу вовсе не для того, чтобы произвести дружелюбное впечатление на собеседника. Все эти движения - следствия совершенно других процессов, реально отражающих внутреннее психоэмоциональное состояние человека. В данном случае ученые просто накладывают "эмпатичные" жесты и слова на речь робота. И никакой связи с реальным психологическим состоянием этого андроида нет, что напоминает обман", - сказал Александр Фадеев.

 
В человеческой коммуникации вербальная часть составляет лишь 20–30% от передаваемой информации, всё остальное приходится на невербалику, разъяснила "Известиям" руководитель НПЦ "Виртуальная клиника" Московского института психоанализа Ольга Валаева. Совершенно естественно, что разработчики роботов стремятся добавить в арсенал их инструментов коммуникации жесты, мимику, фиксируют взгляд робота на собеседнике. Кроме невербальных средств также очень важны интонации и громкость голоса. Добавление этих компонентов к инструментам общения робота также может повысить эффективность коммуникации.
 
Нашли ошибку в тексте?

Выделите ошибку и одновременно нажмите Ctrl + Enter


Если Вы располагаете информацией по теме данного материала, отправляйте нам видео или новости на почту.

новости по теме

Читаемое

Новости RT

    Новости Китая

      Ваше мнение

      Казахстанцы жалуются на плохое содержание спортивных объектов, в особенности высокогорного комплекса “Медеу”. Считаете ли вы, что “Медеу” и другие спортобъекты, которые переданы в управление частным компаниям, необходимо вернуть в госуправление?