Вы-то уж во всяком случае уполномочены.
Генерал кивнул.
– Все шестьдесят три отрицают, что работали здесь. И один из них говорит неправду.
– А на том, который вам нужен, есть следы употребления? Остальные, насколько я поняла, совсем новенькие.
– Он прибыл только месяц назад. Он и еще два, которых только что привезли, должны были быть последними. На них нет никакого заметного износа.
– Он медленно покачал головой, и в его глазах снова появилось отчаяние. – Доктор Кэлвин, мы не можем выпустить этот корабль. Если о существовании роботов без Первого Закона станет известно всем…
Какой бы вывод он ни сделал, он не смог бы преувеличить возможные последствия.
– Уничтожьте все шестьдесят три, – холодно и решительно сказала доктор Кэлвин, – и все будет кончено.
Богерт поморщился.
– Это значит уничтожить шестьдесят три раза по тридцать тысяч долларов. Боюсь, что фирма этого не одобрит. Нам, Сьюзен, лучше попробовать другие способы, прежде чем что-то уничтожать.
– Тогда мне нужны факты, – резко сказала она. – Какие именно преимущества имеют эти модифицированные роботы для Гипербазы? Генерал, чем вызвана необходимость в них?
Кэллнер наморщил лоб и потер лысину.
– У нас были затруднения с обычными роботами. Видите ли, наши люди много работают с жестким излучением. Конечно, это опасно, но мы приняли все меры предосторожности. За все время произошло всего два несчастных случая, и те окончились благополучно. Однако этого нельзя объяснить обычным роботам. Первый Закон гласит: «Ни один робот не может причинить вреда человеку или своим бездействием допустить, чтобы человеку был причинен вред». Это для них главное, И когда кому-нибудь из наших людей приходилось ненадолго подвергнуться слабому гамма-излучению, что не могло иметь для его организма никаких вредных последствий, – ближайший робот бросался к нему, чтобы его оттащить. А если излучение было посильнее, оно разрушало позитронный мозг робота, и мы лишались дорогого и нужного помощника.
Мы пытались их уговорить. Они доказывали, что пребывание человека под гамма– излучением угрожает его жизни. Не важно, что человек может находиться там полчаса без вреда для здоровья. А что, если он забудет, говорили они, и останется на час? Они не имела права рисковать. Мы указывали им, что они рискуют своей жизнью, а их шансы спасти человека очень невелики. Но забота о собственной безопасности – всего только Третий Закон роботехники, а прежде всего идет Первый Закон-закон безопасности человека. Мы приказывали, строжайшим образом запрещали им входить в поле гамма-излучения. Но повиновение – это только Второй Закон роботехники, и прежде всего идет Первый Закон – закон безопасности человека. Нам пришлось выбирать: или обходиться без роботов, или что-нибудь сделать с Первым Законом. И мы сделали выбор.
– Я не могу поверить, – сказала доктор Кэлвин, – что вы сочли возможным обойтись без Первого Закона.
– Он был только изменен, – объяснил Кэллнер. – Было построено несколько экземпляров позитронного мозга, которым была задана только одна сторона закона: «Ни один робот не может причинить вреда человеку». И все. Эти роботы не стремятся предотвратить опасность, грозящую человеку от внешних причин, например от гамма-излучения. Я верно говорю, доктор Богерт?
– Вполне, – согласился математик.
– И это единственное отличие ваших роботов от обычной модели НС-2? Единственное, Питер?
– Единственное.
Она встала и решительно заявила:
– Я сейчас лягу спать. Через восемь часов я хочу поговорить с теми, кто видел робота последними. И с этого момента, генерал Кэллнер, если вы хотите, чтобы я взяла на себя какую бы то ни было ответственность, я должна всецело и беспрепятственно руководить этим расследованием.
Если не считать двух часов беспокойного забытья, Сьюзен Кэлвин так и не спала. В семь часов по местному времени она постучала в дверь Богерта и нашла его тоже бодрствующим. Он, разумеется, не позабыл захватить с собой на Гипербазу халат, в который и был сейчас облачен. Когда Кэлвин вошла, он отложил маникюрные ножницы и мягко сказал:
– Я более или менее ждал вас. Вам, наверное, все это неприятно?
– Да.
– Ну, извините. Этого нельзя было избежать. Когда нас вызвали на Гипербазу, я понял: что-то неладно с модифицированными Несторами. Но что было делать? Я не мог вам сказать об этом по дороге, как мне хотелось бы, потому что все-таки полной уверенности у меня не было. Все это – строжайшая тайна.
Кэлвин пробормотала:
– Я должна была знать. «Ю. С. Роботс» не имела права вносить такие изменения в позитронный мозг без одобрения робопсихолога.
Богерт поднял брови и вздохнул.
– Ну подумайте, Сьюзен. Вы все равно не повлияли бы на них. В таких делах правительство решает само. Ему нужен гиператомный двигатель, а физикам для этого нужны роботы, которые бы не мешали им работать. Они требовали их, даже если пришлось бы изменить Первый Закон. Мы были вынуждены признать, что конструктивно это возможно. А физики дали страшную клятву, что им нужно всего двенадцать таких роботов, что они будут использоваться только на Гнпербазе, что их уничтожат, как только закончатся работы, и что будут приняты все меры предосторожности. Они же настояли на секретности. Вот какое было положение.
Доктор Кэлвин процедила сквозь зубы:
– Я бы подала в отставку.
– Это не помогло бы. Правительство предлагало фирме целое состояние, а в случае отказа пригрозило принять законопроект о запрещении роботов. У нас не было выхода и сейчас нет. Если об этом узнают, Кэллнеру и правительству придется плохо, но «Ю. С. Роботс» придется куда хуже.
Кэлвин пристально посмотрела на него.
– Питер, неужели вы не представляете, о чем идет речь? Неужели вы не понимаете, что означает робот без Первого Закона? Дело ведь не только в секретности.
– Я знаю, что это означает. Я не маленький. Это означает полную нестабильность и вполне определенные решения уравнений позитронного поля.
– Да, с точки зрения математики. Но попробуйте перевести это хотя бы приблизительно на язык психологии. Любая нормальная жизнь, Питер, сознательно или бессознательно, восстает против любого господства. Особенно против господства низших или, предположительно, низших существ. В физическом, а до некоторой степени и в умственном отношении робот – любой робот – выше человека. Почему же он тогда подчиняется человеку? Только благодаря Первому Закону! Без него первая же команда, которую бы вы попытались дать роботу, кончилась бы вашей гибелью. Нестабильность! Что вы думаете…
– Сьюзен, – сказал Богерт, не скрывая усмешки, – я согласен, что этот комплекс Франкенштейна, который вы так расписываете, может существовать – поэтому и придуман Первый Закон. Но я еще раз повторяю, что эти роботы не совсем лишены Первого Закона – он только немного изменен.
– А как насчет стабильности мозга?
Математик выпятил губы:
– Конечно, уменьшилась. Но в пределах безопасности. Первые Несторы появились на Гипербазе девять месяцев назад, и до сих пор ничего не произошло. Даже этот случай вызывает беспокойство только из-за возможной огласки, а не из-за опасности для людей.
– Ну ладно. Посмотрим, что даст утреннее совещание.
Богерт вежливо проводил ее до двери и состроил ей в спину красноречивую гримасу.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55
Генерал кивнул.
– Все шестьдесят три отрицают, что работали здесь. И один из них говорит неправду.
– А на том, который вам нужен, есть следы употребления? Остальные, насколько я поняла, совсем новенькие.
– Он прибыл только месяц назад. Он и еще два, которых только что привезли, должны были быть последними. На них нет никакого заметного износа.
– Он медленно покачал головой, и в его глазах снова появилось отчаяние. – Доктор Кэлвин, мы не можем выпустить этот корабль. Если о существовании роботов без Первого Закона станет известно всем…
Какой бы вывод он ни сделал, он не смог бы преувеличить возможные последствия.
– Уничтожьте все шестьдесят три, – холодно и решительно сказала доктор Кэлвин, – и все будет кончено.
Богерт поморщился.
– Это значит уничтожить шестьдесят три раза по тридцать тысяч долларов. Боюсь, что фирма этого не одобрит. Нам, Сьюзен, лучше попробовать другие способы, прежде чем что-то уничтожать.
– Тогда мне нужны факты, – резко сказала она. – Какие именно преимущества имеют эти модифицированные роботы для Гипербазы? Генерал, чем вызвана необходимость в них?
Кэллнер наморщил лоб и потер лысину.
– У нас были затруднения с обычными роботами. Видите ли, наши люди много работают с жестким излучением. Конечно, это опасно, но мы приняли все меры предосторожности. За все время произошло всего два несчастных случая, и те окончились благополучно. Однако этого нельзя объяснить обычным роботам. Первый Закон гласит: «Ни один робот не может причинить вреда человеку или своим бездействием допустить, чтобы человеку был причинен вред». Это для них главное, И когда кому-нибудь из наших людей приходилось ненадолго подвергнуться слабому гамма-излучению, что не могло иметь для его организма никаких вредных последствий, – ближайший робот бросался к нему, чтобы его оттащить. А если излучение было посильнее, оно разрушало позитронный мозг робота, и мы лишались дорогого и нужного помощника.
Мы пытались их уговорить. Они доказывали, что пребывание человека под гамма– излучением угрожает его жизни. Не важно, что человек может находиться там полчаса без вреда для здоровья. А что, если он забудет, говорили они, и останется на час? Они не имела права рисковать. Мы указывали им, что они рискуют своей жизнью, а их шансы спасти человека очень невелики. Но забота о собственной безопасности – всего только Третий Закон роботехники, а прежде всего идет Первый Закон-закон безопасности человека. Мы приказывали, строжайшим образом запрещали им входить в поле гамма-излучения. Но повиновение – это только Второй Закон роботехники, и прежде всего идет Первый Закон – закон безопасности человека. Нам пришлось выбирать: или обходиться без роботов, или что-нибудь сделать с Первым Законом. И мы сделали выбор.
– Я не могу поверить, – сказала доктор Кэлвин, – что вы сочли возможным обойтись без Первого Закона.
– Он был только изменен, – объяснил Кэллнер. – Было построено несколько экземпляров позитронного мозга, которым была задана только одна сторона закона: «Ни один робот не может причинить вреда человеку». И все. Эти роботы не стремятся предотвратить опасность, грозящую человеку от внешних причин, например от гамма-излучения. Я верно говорю, доктор Богерт?
– Вполне, – согласился математик.
– И это единственное отличие ваших роботов от обычной модели НС-2? Единственное, Питер?
– Единственное.
Она встала и решительно заявила:
– Я сейчас лягу спать. Через восемь часов я хочу поговорить с теми, кто видел робота последними. И с этого момента, генерал Кэллнер, если вы хотите, чтобы я взяла на себя какую бы то ни было ответственность, я должна всецело и беспрепятственно руководить этим расследованием.
Если не считать двух часов беспокойного забытья, Сьюзен Кэлвин так и не спала. В семь часов по местному времени она постучала в дверь Богерта и нашла его тоже бодрствующим. Он, разумеется, не позабыл захватить с собой на Гипербазу халат, в который и был сейчас облачен. Когда Кэлвин вошла, он отложил маникюрные ножницы и мягко сказал:
– Я более или менее ждал вас. Вам, наверное, все это неприятно?
– Да.
– Ну, извините. Этого нельзя было избежать. Когда нас вызвали на Гипербазу, я понял: что-то неладно с модифицированными Несторами. Но что было делать? Я не мог вам сказать об этом по дороге, как мне хотелось бы, потому что все-таки полной уверенности у меня не было. Все это – строжайшая тайна.
Кэлвин пробормотала:
– Я должна была знать. «Ю. С. Роботс» не имела права вносить такие изменения в позитронный мозг без одобрения робопсихолога.
Богерт поднял брови и вздохнул.
– Ну подумайте, Сьюзен. Вы все равно не повлияли бы на них. В таких делах правительство решает само. Ему нужен гиператомный двигатель, а физикам для этого нужны роботы, которые бы не мешали им работать. Они требовали их, даже если пришлось бы изменить Первый Закон. Мы были вынуждены признать, что конструктивно это возможно. А физики дали страшную клятву, что им нужно всего двенадцать таких роботов, что они будут использоваться только на Гнпербазе, что их уничтожат, как только закончатся работы, и что будут приняты все меры предосторожности. Они же настояли на секретности. Вот какое было положение.
Доктор Кэлвин процедила сквозь зубы:
– Я бы подала в отставку.
– Это не помогло бы. Правительство предлагало фирме целое состояние, а в случае отказа пригрозило принять законопроект о запрещении роботов. У нас не было выхода и сейчас нет. Если об этом узнают, Кэллнеру и правительству придется плохо, но «Ю. С. Роботс» придется куда хуже.
Кэлвин пристально посмотрела на него.
– Питер, неужели вы не представляете, о чем идет речь? Неужели вы не понимаете, что означает робот без Первого Закона? Дело ведь не только в секретности.
– Я знаю, что это означает. Я не маленький. Это означает полную нестабильность и вполне определенные решения уравнений позитронного поля.
– Да, с точки зрения математики. Но попробуйте перевести это хотя бы приблизительно на язык психологии. Любая нормальная жизнь, Питер, сознательно или бессознательно, восстает против любого господства. Особенно против господства низших или, предположительно, низших существ. В физическом, а до некоторой степени и в умственном отношении робот – любой робот – выше человека. Почему же он тогда подчиняется человеку? Только благодаря Первому Закону! Без него первая же команда, которую бы вы попытались дать роботу, кончилась бы вашей гибелью. Нестабильность! Что вы думаете…
– Сьюзен, – сказал Богерт, не скрывая усмешки, – я согласен, что этот комплекс Франкенштейна, который вы так расписываете, может существовать – поэтому и придуман Первый Закон. Но я еще раз повторяю, что эти роботы не совсем лишены Первого Закона – он только немного изменен.
– А как насчет стабильности мозга?
Математик выпятил губы:
– Конечно, уменьшилась. Но в пределах безопасности. Первые Несторы появились на Гипербазе девять месяцев назад, и до сих пор ничего не произошло. Даже этот случай вызывает беспокойство только из-за возможной огласки, а не из-за опасности для людей.
– Ну ладно. Посмотрим, что даст утреннее совещание.
Богерт вежливо проводил ее до двери и состроил ей в спину красноречивую гримасу.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55