Ученые против мифов: могут ли роботы выйти из-под контроля и на какой работе они заменят людей

Портал 59.ru продолжает вместе с учеными Перми развенчивать околонаучные мифы. Сегодня поговорим о роботах. Вместе с доцентом кафедры информационных технологий механико-математического факультета ПГНИУ, главным редактором журнала «Занимательная робототехника» Динарой Гагариной разбираемся, могут ли роботы выйти из-под контроля и напасть на человека и научатся ли когда-нибудь бездушные машины испытывать эмоции.

— Это очень горячая тема, которую обсуждают последние несколько лет. В 2015 году новости с заголовками а-ля «Роботы наступают» облетели весь мир. Тогда сотрудник ремонтной компании погиб во время установки конвейерного робота на заводе Volkswagen в Германии (мужчина находился рядом с автоматом, когда его запустили. Автоматическая рука схватила его и ударила о металлическую плиту. Работника госпитализировали, но в больнице он скончался от полученных травм. — Прим. ред.)

Безопасны ли роботы? Нет, не безопасны. Если они используются не по назначению, могут причинить человеку вред. Большинство трагических случаев связано с нарушением техники безопасности. Кроме того, роботов разрабатывают люди, а значит, большую роль играет человеческий фактор — не исключены ошибки в разработке.

Роботы сами обычно на человека не нападают. Пока мы еще часто вспоминанием первое правило робототехники, сформулированное писателем и популяризатором науки Айзеком Азимовым: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Но роботов разрабатывает человек (по крайней мере в ближайшем будущем), а значит, их можно запрограммировать на убийство и другой противоправный поступок. И да, роботы могут быть использованы человеком в качестве оружия. Военная робототехника развивается достаточно активно.

— Совершают. Потому что их делают люди. К тому же, сегодня роботы не совершенны, они не могут думать и вести себя столь же гибко, как люди, распознавая и реагируя на факторы внешней среды. В сферах, где высокий уровень стандартизации (например, производство), все ясно и четко. Там меньше вероятности, что робот может совершить ошибку. А в обычной среде с людьми гораздо сложнее предусмотреть все варианты развития событий.

— Робот не испытывает эмоции. Но он может имитировать эмоции. Изображать радость, грусть, сочувствие. Может распознавать эмоции человека по мимике, по жестам и как-то реагировать на них. Передовые роботы такого типа могут фокусироваться на взгляде, смотреть в глаза. Самый известный такой — «София», разработанный компанией Hanson Robotics. Мимика у «Софии» очень выразительна, издалека даже не поймешь, что перед тобой робот. Ее лицо может принимать 62 разных выражения. Для сходства с человеком голова покрыта силиконовой кожей, в зрачках установлены видеокамеры. София способна наладить не только визуальный, но и речевой контакт.

— Иногда я провожу эксперимент с детьми и взрослыми. Прошу их нарисовать робота. И практически все изображают его похожим на человека. Видимо, дело в психологии или в том, что мы подвержены влиянию фильмов и литературы. А может хочется создать что-то по своему образу и подобию. Но дело в том, что человеческая форма, конструкция очень неудобна для того, чтобы воспроизводить ее в железе или пластмассе и заставлять ходить на двух ногах.

В промышленности, как мы видим уже сейчас, роботы, не похожи на человека. Это неудобно и невыгодно. Поэтому на заводе работают, например, роботы-манипуляторы. А вот роботов, предназначенных для общения с человеком, создают похожими на нас. Так проще общаться с ними. Один из самых известных примеров — робот Asimo (андроид, созданный корпорацией Honda. Он способен различать людей по специальным карточкам, которые носятся на груди. Также умеет ходить по лестнице, верно истолковывать движения рук, пользоваться интернетом и соцсетями. — Прим. ред.). Его не продают. Но ходят слухи, что разработка стоит около миллиона долларов.

59.ru: — Но существует теория «Зловещей долины», согласно которой, робот или другой объект, выглядящий или действующий примерно как человек (но не точно так, как настоящий), вызывает неприязнь и отвращение у людей-наблюдателей. Как это вписывается в тот факт, что разработчики все же создают таких роботов?

В 1978 году японский учёный Масахиро Мори провёл опрос, исследуя эмоциональную реакцию людей на внешний вид роботов. Поначалу результаты были предсказуемыми: чем больше робот похож на человека, тем симпатичнее он кажется — но лишь до определённого предела. Наиболее человекоподобные роботы неожиданно оказались неприятны людям из-за мелких несоответствий реальности, вызывающих чувство дискомфорта и страха. Спад на графике «симпатии» и был назван «Зловещей долиной».— Единого мнения о том, почему люди так реагируют, пока нет. Возможно, человека тревожат любые отклонения от «нормальности». Может быть, робот перестаёт восприниматься как машина и начинает казаться ненормальным человеком или зомби. Кроме того, симметрия лица робота выглядит немного устрашающе (лицо любого человека несимметрично).

В робототехнике есть такое направление, как социальная робототехника. Там как раз изучаются вопросы взаимодействия человека с техническими устройствами — от стиральной машины до человекоподобных роботов, причины тех или иных реакций людей.

— У разработчиков и ученых нет цели полностью заменить людей роботами. Есть цель избавить людей от тяжелого ручного труда.

Активно развивается направление сервисной робототехники. Ученые стремятся заменить людей на роботов в таких не очень интеллектуально-сложных профессиях, как официант, горничная и так далее. Например, робот-пылесос (пылесос, оснащённый искусственным интеллектом и предназначенный для автоматической уборки помещений. Он самостоятельно движется по заданной поверхности, убирая с неё мусор. Встретив на пути препятствие, робот принимает решение о способе его преодоления на основе специальных алгоритмов. — Прим. ред.). Еще пример — американская компания Amazon в 2017 году открыла продуктовый магазин Amazon Go в Сиэтле без кассового обслуживания и очередей (для совершения покупок в нем потребуется смартфон и установленное на нем бесплатное приложение. На входе в магазин человек должен активировать личный QR-код, после чего программа начинает автоматически отслеживать с помощью датчиков, какие продукты клиент берет с полок. — Прим. ред.).

Но есть первые шаги во внедрении роботов (здесь — компьютерных программ. — Прим. ред.) в сферу интеллектуального труда. Есть роботы, которые могут писать тексты в стиле тех или иных писателей. Например, Толстого. Уже работают роботы-журналисты, которые пишут новости в Accosiated press (используется платформа Wordsmith, способная создавать больше двух тысяч заметок в секунду. — Прим. ред.). В интеллектуальном и творческом труде робототехника людей пока не вытесняет. А вот на бирже уже есть примеры. Недавно крупнейшая компания по управлению активами уволила часть топ-менеджеров, заменив их роботами, и увеличила прибыль.

Уже продаются роботы для секса (как утверждает создатель секс-роботов Дуглас Хайнс, его изобретение реагирует на прикосновения партнера и способно доставлять не только физическое, но и эмоциональное удовольствие. Кроме того, робота можно настроить «под себя». — Прим. ред.).

Прогнозы о развитии робототехники очень различаются. Известный прогнозист компании Google Рэй Курцвейл говорит, что к 30–40-м годам XXI века уже невозможно будет отличить робота от человека. Нанотехнологии будут способны создавать еду и любые объекты физического мира буквально из воздуха. Людям вживят нанороботов, и уже не ясно будет, что преобладает — биологическое или техническое.

На экономическом форуме в Давосе в прошлом году говорили о том, что искусственный интеллект, точнее искусственные рабочие руки, несут прямую угрозу занятости людей. Ожидается, что в ближайшие пять лет роботы отберут семь миллионов рабочих мест, тогда как создано будет только два миллиона. Возникает вопрос — что делать? Один из вариантов — это выплата всем работникам, на месте которых трудятся роботы, базового пособия. Но, например, в Швейцарии на референдуме, посвященном этой проблеме, люди отказались жить по таким правилам.

59.ru: — А если говорить об искусственном интеллекте — сейчас многие говорят, что в будущем он может выйти из-под контроля.

— Действительно, искусственные нейронные сети по сути имитируют деятельность человеческого мозга. Нейронные сети обучают так же, как ребенка или взрослого, они способны самообучаться. Робот на основе нейронных сетей действует не по готовому алгоритму, к тому же способен саморазвиваться. Поэтому теоретически может выйти из под контроля.

59.ru: — Создаются какие-то механизмы контроля?

— Механизмы контроля и законодательство в этой области, с одной стороны, значительно отстают от развития технологий, с другой — сдерживают их. Искусственная нейронная сеть — это программа, ее разработку и результат обучения и самообучения сложно контролировать. Но на сегодня есть ограничения по тому, чтобы вживить такие программы или какие-то устройства в человека, или даже в автомобили, или летающие устройства и выпустить их на улицу.

Напомним о том, чему были посвящены предыдущие серии проекта «Ученые против мифов»:

• мы говорили об алкоголе — разбирались, можно ли с помощью него согреться на морозе, и чем чревата закуска в виде винегрета и сельди под шубой;

• о бытовой химии — безопасны ли детские стиральные порошки, и чем отличается бальзам для темных вещей от бальзама для цветных;

• об экологии — насколько загрязнен воздух в Перми, спасут ли нас альтернативные источники энергии, и правда ли, что свалки могут «поглотить города»;

• о погоде — можно ли верить приметам, и действительно ли Урал — самое безопасное место на планете;

• об отношениях между мужчиной и женщиной — правда ли, что любовь живет три года, можно ли жить счастливо без печати в паспорте;

• о воде — где в Перми самые чистые родники, и почему детская вода полезнее обычной;

• о ГМО — опасны ли генетически модифицированные организмы для здоровья, вызывают ли они мутацию, и как трансгенные растения влияют на экосистему;

• о гомеопатии — лечит ли «лженаука»;

• о мозге — почему после 20 лет человек не может совершенствовать свое сознание, действительно ли мы используем лишь 10 процентов ресурсов мозга, правда ли, что левши креативнее правшей;

• о женщинах — можно ли их называть слабым полом, и почему они реже становятся руководителями;

• об аллергии — можно ли ее вылечить и правда ли, что аллергикам лучше жить у моря.