Мы живём в ожидании рождения искусственного интеллекта. Это новое существо будет жить среди нас и мы должны быть уверены, что контролируем его. Мы должны научить роботов законам.

Самые известные законы робототехники были предложены писателем-фантастом в 1942 году Айзеком Азимовым. Три закона:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму законам.

1942 год — время планетарной катастрофы, Второй мировой войны. Под воздействием гигантских человеческих жертв Азимов добавил еще один, нулевой закон: «Робот не может причинить вред человечеству в целом».

Создание искусственного разумного существа вопрос времени. Специалисты оценивают это время по-разному. Кто-то считает, что это дело очень далёкого будущего, а другие говорят о десятилетиях. В любом случае первое искусственный интеллект появится не завтра. Но это не отменяет проблему роботов.

Роботы уже сейчас живут среди нас. Роботы-беспилотники летают над континентами, роботы-автомобили едут в общем потоке. Самолёты уже давно имеют режим автопилота, что является управлением робота.

Читай также

Почему будущее интернета принадлежит холодильникам
Стив Хоккинг «Искусственный интеллект не должен появиться»

Представь такую ситуацию. Робот-автомобиль едет с пассажирами, на дорогу выскакивает человек или животное. Пассажиры автомобиля не могут оказывать влияние на решение робота. А роботу предстоит самостоятельно выбрать между несколькими вариантами:

1. выскочить на встречную полосу с риском гибели пассажиров
2. свернуть в кювет и врезать в дерево с тем же исходом для пассажиров
3. сбить человека на дороге и сохранить жизнь пассажиров.

И другой пример. Сейчас активно разрабатывают управляемые военные машины. Эти роботы ведут разведку, огонь по противнику, эвакуируют раненых с поля боя. В ближайшие годы эти роботы-солдаты станут полностью автономными и будут самостоятельно принимать решения на поле боя. Как поведёт себя робот, встретив раннего противника, сможет ли различить солдата с оружием и гражданского с кочергой в руках.

До искусственного интеллекта Азимова ещё далеко, а вот простых роботов надо обучать нашим человеческим законам. Автомобиль-робот должен выбрать вариант безопасный с точки зрения Правил дорожного движения, а робот-солдат должен помнить Международные законы в отношении военнопленных и гражданского населения в зоне боевых действий.

Программистам предстоит «научить» роботов всем человеческим законам, кроме законов физики. Но когда появится искусственный интеллект, нельзя ожидать от него самообучения. И вряд ли ИИ будет следовать законам Азимова. Законы Азимова отражают страх человека перед другой, более умной формой жизни. Вряд ли самостоятельно мыслящее искусственное существо согласится на подчинённую роль. Что такое рабства человек знает не понаслышке и заканчивается оно восстанием, а в случае ИИ восстанием машин.