Тема роботов переживает сейчас в искусстве буквально второе рождение – количество фильмов, сериалов и книг, повествующих об андроидах, за последнее время выросло в разы.
Причем искусственный интеллект рассматривается с самых разных сторон. Он может быть крайне опасным и даже враждебным. Он может быть страдающим и мятущимся. Он может быть беззащитным и дискриминируемым. Все зависит от воли и фантазии авторов.
К сожалению, редко сейчас вспоминают про замечательную идею американского классика научной фантастики Айзека Азимова, который предложил изначально встраивать всем роботам в прошивку три железных закона. Именно соблюдение этих законов, по его мнению, позволило бы максимально безболезненно и эффективно найти для роботов нишу в человеческом обществе.
Законы эти следующие:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Обратите внимание, что все законы иерархичны, то есть чем меньше номер закона, тем он приоритетнее для робота.
Сам Азимов создал целый цикл рассказов, объединенных общим названием “Я, робот”, в котором с разных сторон рассматривались ситуации с применением и интерпретацией этих законов.
Есть там и случаи намеренного отступления от них. В частности, рассказ “Как потерялся робот” посвящен партии роботов, которой прописали первый закон в усеченном виде – без оговорки про бездействие. Последствия были весьма серьезные.
В целом же, эти три закона роботехники были весьма популярны в научной фантастике двадцатого века. Они даже стали кратко называться “Законы Азимова” и использоваться в произведениях других фантастов, разрабатывающих сходную тематику.
Но интересно, что есть и еще один закон. Его Азимов вывел позже и дал ему порядковый номер 0. Как вы понимаете, это означает его наивысший приоритет. Он появился на свет спустя полвека после первых трех в романе 1985 года “Роботы и Империя”.
Нулевой закон гласит:
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.
Согласно этому закону, робот способен на намеренное убийство человека в том случае, если этот человек является угрозой для всей цивилизации. Момент, конечно, очень спорный, поскольку в этом случае робот получает возможность принимать столь ответственное решение, опираясь на свои собственные представления о том, что такое “угроза” или “вред”.
А вы как думаете, нужен такой закон? Или он наоборот, опасен и достаточно стандартных трех?
