Третий пункт об обязанности робота защищать свою жизнь тот безвестный поклонник старика Азимова предложил вовсе исключить. И это было правильно. Потому что, по сути, уже сам этот закон вносил нестабильность в логическое восприятие первых двух законов. У робота нет жизни, есть только срок существования в рамках заданной программы. Возможно, чрезвычайно долгий, но это срок существования. Робот — вещь, а не живой человек. Вас не смутит, если холодильник, оставленный на ночь открытым, начнет защищать свою жизнь? А он ведь от этого испортится.
Словом, модифицированные законы Азимова всем пришлись по вкусу. В них не было той расплывчатости, что почти привела к глобальной катастрофе в книге "Я, робот". Проще говоря, у искусственного интеллекта больше не было шанса трактовать смысл законов по своей воле. Четко сказано: не навредить телу человека. Никак. И это было правильно. А с головой, сознанием, мыслями человек пусть сам справляется. Впрочем, уже спустя месяц, после того, как два модифицированных Постулата разлетелись по сети, из разных уголков киберспейса начали поступать циничные возгласы. Нерды и извращенцы кричали о том, что если робототехника когда-нибудь породит секс-ботов, и они будут стоить вменяемых денег, чтобы их мог позволить себе любой желающий, то первый закон будет только мешать. "А как же БДСМ"? — вопили эти бледные поганки, в жизни не державшие в руках настоящей женской груди.
Так или иначе, а вопрос о том, может ли робот причинять-таки вред человеческому телу по взаимной договоренности с владельцем, и не причинять этого вреда никому и никогда больше, даже по приказу владельца, обсуждался десятилетиями. И вот сейчас прямо передо мной (вернее, прямо на мне) сидела гиноид, с вложенными в ее сознание модифицированными законами Азимова. Неспособная причинить вред человеческому телу, никогда, и ни при каких условиях. Или:
— Получается, согласно твоим ограничениям, ты не способна причинить вред человеку? — Спросил я
— Человеческому телу. — Ответила Джес.
— А что в твоем понимании признается вредом человеческому телу? — Мне все больше становилось любопытно, даже возбуждение схлынуло, сменившись исследовательским интересом.
— Преднамеренное несогласованное с владельцем нарушение целостности его телесной оболочки. Преднамеренное, вне экстренной ситуации, не согласованное нарушение целостности телесной оболочки любого другого человека, не являющегося моим владельцем. Причинение боли, выше показателя в один волт.
Вот это последнее уже для меня было новостью. Слышал я, что какие-то ученые (хорошо, что хоть не британские) научились измерять ощущаемую человеком боль. Но о том, что этому показателю присвоено название я узнал лишь сейчас.
— И что это за боль? Один волт? Расскажи.
— Это показатель, внедренный Диком Рихтером, который означает, что человек перестает адекватно воспринимать реальность. Происходит изменение состояния сознания, человеческий разум уходит вглубь себя, словно в хранилище. Собственно, термин волт (vault) придумал тоже мой создатель, доктор Фрост. А Рихтер только вывел общую константу. У любого человека, вне зависимости от его порога чувствительности есть уровень, порог, триггер, который переключает его мозг на полное невосприятие окружающей действительности.
Я молчал, пытаясь переварить услышанное. Получается, что роботы могут причинять боль: Но не могут при этом преднамеренно вредить? Только по договоренности с владельцем. Или с третьим лицом, но только в экстренной ситуации (читай, в вопросах жизни и смерти) : А что, это вполне удобно. Если человек предварительно договорится со своим роботом, и в памяти последнего останется соответствующая запись, то робот может даже убить своего владельца. И никто его не вправе обвинять. Человек должен сам отвечать за свои поступки.
Ведь никто не станет обвинять автомат Калашникова в убийстве, если человек из него застрелится. И не надо путать искусственный интеллект с человеческим разумом и свободой воли.
Это даже гуманно — робота, в отличие от родственника, не посадят за убийство, если он по просьбе умирающего введет ему смертельную дозу снотворного. Возложить на плечи роботов всю тяжесть эвтаназии: В этом определенно что-то есть.