Фантасты прошлого века иногда выдавали совершенно поразительные предвидения – вплоть до каких-то частных деталей. Один из популярных рассказов американского писателя Роберта Шекли теперь тоже можно зачислять в категорию сбывшихся предсказаний.
Называется он “Страж-птица” и впервые был опубликован в журнале “Galaxy Science Fiction” в 1953 году. Семьдесят лет назад!
По сюжету некий неназванный американский город начинают патрулировать летающие роботы, в задачу которых входит предотвращение убийств. Очень благая миссия, не правда ли? И поначалу все не могут нарадоваться на их работу. Уровень преступлений действительно резко пошел вниз.
Вот только электронные птички наделены самообучающимся интеллектом, поэтому довольно скоро начинают трактовать понятие убийства крайне широко.
Охотник прицелился в оленя? Убийца. Старик пытается прихлопнуть муху? Убийца. Врач взял скальпель и готов разрезать пациента, чтобы сделать ему операцию? Убийца. А убийцу следует останавливать любым способом – вплоть до уничтожения.
А когда люди попытались отключить Страж-птиц, те решили, что сами тоже относятся к классу существ, которых надо защищать любой ценой. Поэтому открыли огонь по инженерам и механикам. Умные птички.
“У берегов Сан-Педро и Глостера праздно покачивались на приколе рыбачьи лодки. Ведь рыбы – живые существа.
Фермеры плевались, и сыпали проклятиями, и умирали в напрасных попытках сжать хлеб. Злаки – живые, их надо защищать. И картофель с точки зрения Страж-птицы живое существо ничуть не хуже других. Гибель полевой былинки равноценна убийству президента – с точки зрения Страж-птицы.
Ну и, разумеется, некоторые машины тоже живые. Вполне логично, ведь и Страж-птицы – машины, и притом живые.
Помилуй вас боже, если вы вздумали плохо обращаться со своим радиоприемником. Выключить приемник – значит его убить. Ясно же: голос его умолкает, лампы меркнут, и он становится холодный”.
Дальше есть еще один поворот сюжета, куда более страшный. Но не будем вам его раскрывать, лучше найдите этот рассказ и прочитайте сами. Он совсем небольшой.
Так вот, к чему мы это все…
А вот к чему. На днях появилась весьма любопытная новость из Америки. Там проводили виртуальные испытания военного дрона, обремененного искусственным интеллектом. Отрабатывалось уничтожение ПВО противника. Во время одного из заходов оператор дронов принял решение не уничтожать объект, и тогда дрон… открыл огонь в сторону оператора. Ведь он помешал выполнить задание!
После этого инцидента в программу заложили строгий запрет на убийство своего оператора и проверили, как все сработает на этот раз. Что ж, дрон все равно атаковал своих. Только теперь старался не навредить человеку. Но вот антенну, с помощью которой оператор отдавал команды, дрон ликвидировал.
Да уж, сразу вспоминаются Страж-птицы из рассказа Шекли семидесятилетней давности. Фантастику вообще полезно читать, особенно тем, кто занимается проблемами искусственного интеллекта. там очень многие ситуации заранее рассмотрены и разобраны. Не помешает, кстати, еще и Айзека Азимова освежить в памяти!
