Литература всегда идет на шаг впереди прогресса, осваивая и обживая в воображении новые пространства, до которых реальный мир пока не дотянулся.
Так в свое время было с космической тематикой, изрядно проработанной в фантастических романах еще до того, как в космос был запущен “Спутник”. Напомним, что знаменитые “Марсианские хроники” Брэдбери начали печататься аж в 1947 году. Так случилось и с идеей повсеместной роботизации. Сам термин “робот” в нашу действительность пришел из фантастической литературы. Его употребил в своей пьесе “Р.У.Р.” Карел Чапек в 1920 году – больше ста лет назад. Довольно быстро в мировой литературе начали выходить все новые и новые рассказы, обыгрывающие так или иначе тему роботов.
Весьма популярны были мотивы восстания машин и прочих злодейств, учиняемых виртуальными помощниками. Пока наконец американский фантаст Айзек Азимов не решил систематизировать принципы, на которых все роботы должны сосуществовать с человеческим обществом.
Так появились три закона роботехники, которые вроде бы должны гарантировать безопасность роботов. Вернее, нашу с вами безопасность в мире, где роботы становятся обыденностью.
Эти законы сформулированы следующим образом:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Все выглядит логично и красиво. По идее, если в каждом роботе будет зашита подобная программа, то никаких эксцессов быть не должно, правда? У Азимова есть цикл рассказов, в которых роботы все равно доставляют проблемы, но в каждом случае это связано с тем или иным вмешательством человека в эти законы.
Но давайте задумаемся, служат ли они панацеей? Действительно ли робот не сможет причинить вред человеку, если законы останутся в неприкосновенности? Или он все же найдет лазейки?
Увы, элементарные рассуждения приводят к мысли, что никакие законы серьезное помехой для разумных роботов стать не смогут. Ключевое слово – разумных.
Разум – штука хитрая. Он способен изобрести тысячу и один аргумент, почему в данном конкретном случае нарушение закона допустимо, оправданно и даже необходимо. И наша собственная история дает нам множество примеров, как это провернуть.
Люди устраивали крестовые походы, несмотря на христианские заповеди. Люди строили концлагеря, вещая над из воротами мудрые изречения. Благие намерения слишком часто считались хорошим поводом оправдать практически все, что угодно.
Кто помешает искусственному интеллекту построить свои теории, размывающие понятие человека? Европейцы веками не признавали негров и индейцев за людей. Достаточно взять на вооружение их аргументацию, почерпнутую из средневековых талмудов, как изрядная часть человечества окажется для роботов выведенной из под действия Законов.
А что такое вред? Есть ли четкое определение? Вдруг робот решит, что отправляя конкретного человека на тот свет, он спасает тем самым от вреда его душу? Да, эта логика инквизиторов, но ведь она существовала в реальности, а значит может быть вновь взята на вооружение.
В общем, обойти все эти препоны по-настоящему умному роботу труда не составит. Так что законы Азимова, судя по всему, останутся чисто литературным приемом. Что ж, такое в фантастике тоже бывает.
