Вид сегодня ничего, приличный. Или только кажется? После того как проснулась эта женщина, все кругом немножко светлее окрашивается.
Обычная поза: высоко на подушках, колени согнуты, папка с листом бумаги. На столике, на окне — книги. Нанесли, лежит уже почти четыре месяца.
Мое место — на стуле, рядом с кроватью, против окна.
— Поздравляю вас с днем рождения.
— Спасибо. Радости мало в таких днях, когда седьмой десяток.
Второе поздравление сегодня. Утром на конференции Петро сказал несколько слов. Не больше, чем нужно. Все знают мою нелюбовь к поздравлениям, поэтому всегда препираются, кому говорить. Сами же мне рассказывали в веселую минуту. Были такие минуту раньше, хотя и не часто...
Задаю положенные вопросы о здоровье. Саша односложно отвечает. Смотрю температурный листок, анализы и назначения. Ничего не изменилось, все достаточно плохо: моча идет только с мочегонными, все время сердечные средства, ограничение жидкости, строгий постельный режим. При этих условиях удается кое-как поддерживать кровообращение.
Знаю, что недолго это продлится. Створки клапанов делаются все тверже и тверже, крови пропускают все меньше.
И он знает.
Нужно положить конец неизвестности. Чем бы это ни кончилось, как бы ни было истолковано, я должен использовать последние шансы.
Все это хорошо. Я долблю себе об этом уже два месяца. Но не могу. Даже не потому, что боюсь разговоров, лишних поводов для комиссий... Э, брось — и это тоже. Копни поглубже. Может быть, немножко. Главное — я не верю. Потерял веру в себя, в свое право решать. Вот это и стоит между нами.
— Как идут занятия?
— Идут. До последнего вздоха. (Намек? Помолчу.) Вот видите, закончил работу «Общие принципы моделирования сложных систем». Помните, рассказывал? Теперь написано и перепечатано.
Показал рукопись. Не толстая, страниц полсотни. Может быть, я должен попросить прочесть?
— Есть у вас копия, почитать?
— Через пару дней. Я выправлю текст, тогда.
Тем лучше. Наверное, там трудно, и я едва ли пойму. С возрастом все труднее становится разбираться в новых вопросах. Хотя я уже немного привык к терминам.
Нет, я еще не могу сегодня пообещать операцию.
— Главное — это моделирование человеческой личности и отношений между людьми. Помните, я говорил о «полных», «частных» и «обобщенных» моделях систем? Это же относится к человеку и обществу. Полная модель человека способна воспроизводить его действия в том же темпе и полноте, как и сам человек. Будет как настоящий.
Пауза. Ему тоже хочется рассказывать даже не очень квалифицированному слушателю. Скучает.
— Самое главное, что я вижу, знаю основные программы поведения человека и их взаимодействие. Если бы еще... впрочем, нужно еще много лет. Может быть, двадцать, может, все пятьдесят.
Молчу. У него тоже взор ушел куда-то. Если был бы здоров, то мог бы дожить. Нужно бы подбодрить, но язык не поворачивается. Почему-то всегда стыдно обманывать очень умного человека, думаешь: «Все равно догадывается». Но коллеги говорят, что нужно врать и умному. Что больной все равно попадает на удочку, если верит врачу. Воздержусь. Отвлеку.
— Робот станет независим?
— Ну, можно предусмотреть его подчиненность. Заложить контролирующие структуры, все равно как искусственные инстинкты. Чтобы человека не трогал, например. Но только в некоторых пределах, не больше. Ведь самое интересное — сделать робота умнее человека. Искусственный мозг неограничен.
— Помните «Законы роботехники» у Азимова?
— Совершенно верно. Эти законы можно удержать только на нижних ступенях развития искусственного интеллекта. Если у робота не будет «программы бунта», то он никогда не будет истинно творческой личностью. Следовательно, останется ниже человека. А это неинтересно. Вот создать выше человека — это да!
— Направить бунт только в сторону науки.
— Нет, это невозможно. Наука — это и есть все. Никакой другой сферы вообще нет. Политика, наука, искусство — это все одно и то же.
Замолчал.
Сколь велика сила человеческого духа! Смотришь на него и удивляешься: в чем душа держится, а он мечтает, работает, будто перед ним — вечность...
Нет, я должен сделать попытку. Сказать? Есть силы?
Может быть, он еще и год протянет в такой тепличной обстановке. Еще придумает много интересного.
Не протянет. А ты просто боишься.
— Вам не тяжело писать?
— Немножко. Но в резерве есть еще магнитофон. Буду диктовать.
Все знает. Уходить? Нет, еще.
— Значит, нельзя сделать робота-творца для какой-то узкой сферы деятельности? Чтобы он не мог посягнуть на человека?
Подумал. Видимо, ищет слов.
— Не то чтобы совсем нельзя, однако это будет малое творчество на низком этаже. Сейчас ЭВМ манипулирует ограниченной информацией, программы имеют мало этажей. Не очень умная машина, много глупее человека. Если сделать умнее, то ограничить нельзя. Нужно программировать «интерес», а значит, она будет соваться, куда и не ожидаешь.
Угробят они человечество, эти фанатики.
— Послушайте, Саша. Ведь это опасно — создавать такие машины. Улыбнулся.
— Я знаю. Но как можно удержаться? И это еще так далеко... даже для здоровых. Знаете, такое странное противоречие. Для управления обществом уже нельзя обойтись без машин.
— Обществом?
— Ну конечно. Возьмем экономику. Разнообразие современной техники столь велико, что нельзя удовлетворительно управлять экономической жизнью страны без машин. Никакие Госпланы не смогут. Машины нужны уже не только для экономии человеческого труда, они необходимы для самого существования системы, так же как без ЭВМ нельзя управлять спутником. Понимаете?
— Ну, на здоровье. Пусть считают граммы, метры, рубли. Какая же здесь угроза?
— Пока нет. Хотя, как только будет создана единая автоматическая система, управляющая экономикой, — это уже первая степень закабаления человека. Управляющий аппарат из людей будет уничтожен, и если представить себе, что автоматы откажутся работать, мир испытает колоссальные потрясения, люди не смогут обеспечить себе существование.
— Не пугайте. Это же невозможно — чтобы отказались. Нельзя же представить себе, чтобы электростанция отказалась вырабатывать ток. Тоже страшные последствия, но это нереально.
Во как я его поймал. Что скажешь?
— Учтите, что этой системой уже нельзя будет легко произвольно командовать. Будет задан общий алгоритм, критерии оценки эффективности, и вмешательство будет затруднено.
— Это даже хорошо — поменьше будет вредных экспериментов, все по науке.
Может быть, ему вредят эти споры? Возбуждение, адреналин? Но положительные эмоции полезны. Не знаю. Посмотрю.
— Вот-вот. Но чтобы планировать экономику «по науке», нужно создавать научные задания для машины. Откуда эти задания? Потребности людей в одежде, пище, жилищах, предметах культуры. А как их определить? Причем не только на сегодняшний день, но и вперед, потому что планировать нужно и для будущего общества. Вот тут и возникают вопросы воспитания, социальной структуры общества, гигиены, оценки стимулов деятельности, компонентов счастья. Эти вопросы нельзя решить так, с кондачка, как раньше делалось. Нужна наука. Очень сложная наука, призванная учесть массу факторов — как они повлияют на человека. То есть нужна новая психология и социология. Не умозрительная, а количественная.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75