Разворачивается гонка, в которой люди должны идти на шаг впереди роботов: международная группа ученых собирается опубликовать "этический кодекс" для машин, которые становятся все сложнее и сложнее.
Хотя кошмарная картина мира, которым правят Терминаторы, может показаться фантастикой, ученые считают, что пора установить рамки взаимодействия между людьми и роботами именно сейчас, пока разработка сверхумных роботов не вышла из-под контроля.
"Существуют приоритеты двух уровней, ? заявил Джанмарко Верруджо, робототехник из Института систем интеллекта в Генуе и главный создатель руководства, которое опубликуют в июле. ? Мы должны управлять этикой ученых, создающих роботов, и искусственной этикой самих роботов".
Верруджо и его коллеги обозначили ключевые сферы: обеспечение контроля человека над роботами; предотвращение незаконного использования; защита информации, приобретенной роботом; четкая идентификация и возможность слежения за машинами.
"Ученые должны начать анализ этих вопросов и понять, нужны ли законы и инструкции для защиты граждан, ? заявил Верруджо. ? У роботов появится мощный интеллект, и в каком-то отношении он будет совершеннее человеческого интеллекта".
"Но это будет чуждый нам интеллект, и я бы предпочел отдать приоритет людям".
Кульминацией анализа стала конференция, проведенная в Генуе Европейской исследовательской сетью по робототехнике (EURON), где обсуждались проблемы, которые могут возникать по мере того, как роботы становятся умнее, быстрее, сильнее и распространеннее.
"Серьезное беспокойство вызывают безопасность и секс", ? заявил член этической группы EURON Хенрик Кристенсен. В какой мере роботам разрешат влиять на жизнь людей? Как избежать несчастных случаев? Можно ли предотвратить умышленное причинение вреда? Что произойдет, если робот окажется способным к сексуальным проявлениям? "Вопрос в том, какую власть мы делегируем машинам, ? заявил Роберт Аркин, профессор робототехники в Технологическом институте Джорджии. ? Собираемся ли мы, например, наделить роботов способностью применять смертоносную силу или любую силу вроде контроля над толпой?" Будущий кодекс ? это признак того, что реальность догнала научную фантастику. Этические проблемы предсказал в 1950-е годы фантаст Айзек Азимов, чью книгу "Я ? робот" недавно экранизировали в Голливуде. Фильмы "Терминатор" и "Робокоп" тоже показали обезумевших механических стражей порядка.
Нынешние роботы выполняют более прозаичные задачи: самые распространенные в Британии роботы ? это самоуправляемые пылесосы вроде Scooba, газонокосилки вроде Robomow и игрушки вроде Robosapien.
Но разрабатываются машины, которые гораздо сложнее. Национальная служба здравоохранения использует робота по имени Да Винчи для проведения хирургических операций в лондонском госпитале Guy's and St Thomas' NHS Foundation Trust. В Японии роботы вроде Asimo компании Honda и Qrio компании Sony умеют ходить на двух ногах. Ожидается, что более продвинутые версии, которые появятся всего через 20 лет, будут делать повседневную работу по дому и ухаживать за стариками.
"Я надеюсь, что они всегда будут подчиненными, ? сказал фантаст Брайан Олдисс. ? Но нет сомнений в том, что мы будем во многом зависеть от них". Рассказ Олдисса "Суперигрушки живут все лето" (Supertoys Last All Summer Long) был положен в основу фильма Стивена Спилберга "Эл", посвященного вопросу о том, можно ли отказывать в равных правах андроидам, которые стали такими же умными, как люди.
Другие дилеммы могут возникнуть раньше, чем мы думает, считает Кристенсен. "Люди собираются заняться сексом с роботами не больше чем через пять лет", ? заявил он. Надо ли устанавливать рамки, например, внешнего вида таких игрушек? Но самая большая опасность, похоже, связана с роботами, способными учиться на своем "опыте". По мере развития систем у роботов могут появиться более сложные встроенные механизмы самообучения, и точно предсказать их поведение станет невозможно.
"Я полагаю, что машины с интеллектом появятся до 2020 года, ? сказал Иан Пирсон, футуролог из BT (научная лаборатория British Telecom. ? Прим. ред.). ? Если мы вложим сознание в робота, он станет андроидом. Это огромная этическая перемена".
Критикам, говорящим, что до умных роботов еще далеко, робототехники отвечают, что машины уже оказывают огромное влияние на нашу жизнь, например, на интернет.
Новые этические рекомендации для роботов
- Личная безопасность: обеспечить контроль человека над роботом.
- Общественная безопасность: предотвратить противозаконное использование.
- Личная информация: защитить данные, которые хранит робот.
- Возможность слежения: регистрировать действия робота.
- Идентификация: снабдить каждого робота удостоверением личности.
Законы для роботов Айзека Азимова
- Робот не может травмировать человека или своим бездействием способствовать причинению вреда человеку.
- Робот должен подчиняться приказам человека, если они не входят в противоречие с первым законом.
- Робот должен защищать себя, если это не входит в противоречие с другими законами.
Эд Хейберсон и Ричард Вудз, The Sunday Times
