Ученые спорят, где та грань, за которой заканчивается право одного робота и начинаются права всего человечества.
Искусственный интеллект и роботы все сильнее вторгаются в нашу жизнь, меняя привычные вещи, а в некоторых аспектах и заменяя людей. Эксперты все чаще говорят о профессиях, в которых роботы заменят человека. Это будущее уже очень близко и в реальности его никто не сомневается. Однако что будет, если робот не справится со своей задачей? Или наоборот станет слишком умным и выступит против своего создателя? О том, как действовать и в первом, и во втором случае, нужно задумываться уже сегодня.
Этические аспекты сосуществования с умными машинами только начинают формироваться. Эти моменты сейчас активно обсуждаются учеными.
Убить робота: право или обязанность?
Сверхбыстрое проникновение роботов во все сферы нашей жизни формируют новые вызовы для человечества. Например, у кого есть право управлять роботом – у любого человека или только у его владельца? Может ли человек отключить робота и в каких случаях это нужно сделать? А нужно ли учитывать при этом право робота на жизнь?
Все эти вопросы, которые еще несколько лет назад вызывали улыбку и недоумение, уже через несколько лет станут весьма насущными. Поэтому задумываться о них нужно уже сегодня.
Недавно европейские законодатели объявили о начале работы над законами, регламентирующими общение людей с машинами с искусственным интеллектом. В эти законы будет включено положение, согласно которому у каждого робота еще на моменте конструирования должна быть заложена возможность полностью отключить все его функции. Эта условная кнопка “выключить” будет нужна для случаев, когда (и если) роботы начнут причинять вред человеку. Иными словами, уже сейчас законодатели планируют предусмотреть возможность убийства робота, который стал слишком умным и вышел из-под контроля человека.
Философы, инженеры и программисты сегодня обсуждают с подобные этические вопросы жизни в одном мире с роботами. Например, возникает следующая проблема: так как роботы могут жить вечно, какими критериями должны руководствоваться люди, которые хотят выключить робота, то есть убить его?
Тензин Прайядарши (Tenzin Priyadarshi), президент и учредитель действующего под эгидой Далай-ламы “Центра этики и ценности, ведущих к трансформации” при Массачусетском технологическом институте, подчеркивает: “Человек постоянно жаждал бессмертия. А сегодня мы ближе всего к возможности создать что-то по-настоящему бессмертное. Но проблема состоит в том, что мы просто не знаем качество искусственного интеллекта. Мы не можем гарантировать, что этот интеллект не будет использован для уничтожения нас с вами”.
Прайядарши говорит, что наличие способа “выключить” робота должно существовать по двум причинам. Во-первых, чтобы ограничить распространение информации и попадание ее в чужие руки. А второе – чтобы самим защититься от искусственного интеллекта и роботов в случае опасности.
Примером того, как искусственный интеллект может научиться плохому, можно назвать чатбот Microsoft Tay – через короткое время после его запуска пользователи научили его расизму и соответствующей лексике.
Или мы, или нас
Поскольку искусственный интеллект не испытывает человеческие эмоции, он принимает решения и выполняет задачи, основанные исключительно на рациональности. Теоретически, это может быть плохо. Более того, могут существовать ситуации, в которых такая рациональность может быть прямой угрозой для человека.
Прайядарши является членом группы экспертов, входящей в Фонд этики и управления искусственным интеллектом. В эту группу объединились специалисты ведущих университетов и ИТ-компаний. Фонд работает над рядом вопросов, связанных с разнообразием, предвзятостью и политическими нюансами при работе искусственного интеллекта.
“Может появиться алгоритм, который решит, что люди являются наиболее опасными существами на планете. Тогда рациональный выбор робота и искусственного интеллекта будет состоять в том, чтобы уничтожить всех людей”, – комментирует Прайядарши. Человечество должно быть готово и к этому развитию событий и уметь защитить себя, подумав о том, как это сделать, уже сегодня. Одним из способов такой защиты может быть та самая кнопка отключения, о которой заговорили в Европе.
Об опасности искусственного интеллекта (ИИ) предупреждали Илон Маск и Стивен Хокинг, их опасения были связаны с использованием роботов и алгоритмов в качестве оружия. А Илон Маск является основателем OpenAI, исследовательской организации по разработке безопасного и этического ИИ.
Патрик Лин (Patrick Lin), сотрудник группы по этике и новым технологиям Калифорнийского политехнического университета считает, что такие выключатели для роботов должны существовать, однако нужно четко регламентировать, кто именно может отключать робота и кто может его контролировать.
В 2014 году Европейская сеть правоохранительных технологий (European Network of Law Enforcement Technology Services) потребовала, чтобы полицейские стран Евросоюза получили возможность дистанционно останавливать беспилотные автомобили. Иными словами, сотрудники полиции должны были получить возможность отключить чью-то умную машину, например, в том случае, если ее пытаются угнать или машина едет слишком быстро или человеку в машине стало плохо. Однако эта функция так и не стала доступной для полицейских. По крайней мере, пока. Однако, вышедший из под контроля беспилотный автомобиль – это прямая угроза другим участникам дорожного движения или самому водителю, угроза, которую нужно блокировать. Кто знает, может на примере беспилотных автомобилей и будут созданы правила сосуществования с умными машинами.
“Если есть возможность иметь сознательный искусственный интеллект, еще и с правами, то есть большая вероятность того, что мы не сможем вернуть джина в бутылку, если мы опоздаем с установкой глобального выключателя для робота”, – считает Лиин.
Робот-друг
Проблема взаимодействия с роботами и потенциального ущемления их прав, которое возникнет при появлении кнопки “выключить”, становится особенно актуальной в ситуациях, когда человек начинает испытывать к роботу чувства. Голливуд уже показал нам примеры такого развития событий на примерах фильмов “Она” и “Из машины”.
Более того, эта ситуация с каждым днем становится все более реалистичной. Роботы умеют реагировать на эмоции человека и демонстрировать привязанность. Есть специальные роботы-компаньоны, работающие с пожилыми людьми. Некоторые из них могут иметь вид домашних животных. Есть и специальные роботы для взаимодействия с детьми с аутизмом, например, Darwin-OP2. Очевидно, что к таким машинам человек может начать испытывать эмоции и отключение (убийство) такой машины может быть недопустимым для человека.
Тензин Прайядарши прогнозирует, что рано или поздно может случиться так, что человек начнет заботиться о роботе. Как в этом случае будет строиться взаимоотношение с такими умными машинами? Сможет ли человек его выключить, то есть убить или перепродать или отдать другим? Пока эти вопросы – только лишь вопросы, но задумываться о них нужно уже сегодня.