" Если это было бы так, то вероятно это означало бы обречённость: мы не можем остановить гонку технологий, а мир тоталитарных государств, основанный на совершенной технологии не нуждающийся ни в работниках, ни в солдатах, мог бы вполне избавиться от большей части населения.
К счастью, демократия и свобода сталкивалась с подобными вызовами в прошлом. Государства становились слишком сложными для прямой демократии, но появилась представительная демократия. Государственная власть угрожала разрушить свободу, но появилась власть закона. Технология стала сложной, но это не даёт нам никакой причины игнорировать людей, сбрасывать со счетов закон и приветствовать диктатора. Нам нужны способы, чтобы управлять технической сложностью в демократических рамках, используя экспертов как инструменты, чтобы прояснять наше видение, не давая им контроля над нашими жизнями. Но технические эксперты сегодня втянуты в систему междоусобиц между узкими группами.
Собрание экспертов
Правительство и промышленность, а также их критики, обычно назначают экспертные комитеты, которые встречаются в тайне, если встречаются вообще. Эти комитеты претендуют на то, что им можно доверять, основываясь на том, кто они есть, а не на том, как они работают. Противостоящие группы нанимают оппозиционирующих нобелевских лауреатов.
Чтобы завоевать влияние в нашей массовой демократии, группы пытаются переплюнуть друг друга. Когда их взгляды относятся к обществу, они выносят их на публику путём рекламных компаний. Когда их взгляды относятся к государству, они выносят их к законодательной власти путём лоббирования. Когда их взгляды имеют драматический оттенок, они выносят их на публику через кампании в СМИ. Группы продвигают своих любимых экспертов, сражение выходит на публику и тихие учёные и инженеры тонут в шуме.
По мере того, как общественный конфликт нарастает, люди начинают сомневаться в заявлениях экспертов. Они оценивают утверждения очевидным образом - по его источнику. ("Конечно, она заявляет, что разлив нефти безопасен - она работает на Эксон." "Конечно, он говорит, что Эксон лжёт - он работает на Нейдер.")
Когда авторитетные эксперты теряют доверие, демагоги могут присоединиться к битве на равной ноге. Журналисты страждут противоречий, стараясь объективно освещать картину, и редко руководствуются техническими соображениями - выносят все стороны прямо на публику. Осторожные утверждения, делаемые добросовестными учёными создают мало впечатления; другие учёные не видят другого выбора кроме как принять демагогический стиль. Дебаты становятся острыми и гневными, расхождения во взглядах растут и дым битв затемняет сами факты. Часто за этим следует паралич глупости.
Наша величайшая проблема в том, что мы делаем с проблемами. Дебаты бушуют по поводу ядерной энергии, энергии каменного угля, химических отходов. Имеющие хорошие намерения группы, подкрепляемые экспертами сталкиваются вновь и вновь вокруг скучных технических фактов - скучных, то есть за исключением их важности: Какие последствия имеют малые дозы радиации и как вероятна авария на ядерном реакторе? Каковы причины и последствия кислотных дождей? Насколько хорошо могла бы защита с космическим базированием защищать от ракетных атак? Говорят ли пять случаев лейкемии в пределах трёх миль данной свалки отходов о смертельной опасности или это просто игра случая?
Более существенные вопросы - впереди: насколько безопасные репликаторы? Будут ли системы активных щитов безопасны и надёжны? Будет ли обратима процедура биостаза? Можем ли мы доверять системе ИИ?
Споры о технических фактах питают более широкие диспуты о стратегии. Люди могут иметь различающиеся ценности (как, чтобы бы вы предпочли, энцефалит или отравление пестицидами?), но их взгляды на относящиеся к делу факты расходятся ещё больше. (как часто эти комары переносят энцефалит? Как токсичны эти пестициды?) Когда различающиеся взгляды на скучные факты ведут к разногласиям относительно важных стратегий, люди могут удивляться, "Как они нам могут противоречить по таким важным стратегическим вопросам, если только у них нет дурных мотивов?" Споры насчёт фактов могут таким образом настроить потенциальных союзников друг против друга. Это мешает нашим усилиям в понимании и решении наших проблем.
Люди обсуждают факты на протяжении тысячелетий; только особое положение технических диспутов ново. Общества разработали методы для оценки фактов о людях. Эти методы подсказывают, как мы могли бы судить факты о технологии.
От междоусобиц к честному процессу
На всём протяжении истории, группы разрабатывали способы, чтобы разрешать споры; альтернативой этому были междоусобицы, нескончаемые и часто беспощадные. Средневековые европейцы использовали несколько процедур, все - лучше, чем бесконечные междоусобицы:
Они использовали испытание битвой: противники сражались, и закон подтверждал победителя.
Они использовали взаимную клятву: соседи клялись в честности обвиняемого; если клялись достаточно, обвинения снимались.
Они использовали испытание "божьим судом": в одном из них обвиняемый связывался и его бросали в реку; те, кто тонул, были невиновны, а те, кто выплывал - виновны.
Они использовали суд секретных комитетов: советники короля встречались, чтобы судить и выносить приговор, который казался подходящим. В Англии они встречались в комнате, которая называлась Звёздный кабинет.
Эти методы предположительно определяли, кто что делал - факты относительно человеческих событий, но все имели серьёзные недостатки. Сегодня мы использованием аналогичные методы, чтобы определять, что является причиной чего - факты относительно науки и технологии:
Мы использованием испытание сражением в прессе: оппоненты бросаются со шпагами наголо друг на друга до тех пор, пока доказательства одной стороны не терпят политической смерти. К сожалению, это часто напоминает бесконечные междоусобицы.
Мы использованием клятвы: эксперты клянутся относительно определённых фактов; если клянётся достаточно в одном и том же, факты объявляются истинными.
Мы использованием суждения секретных комитетов: избранные эксперты встречаются, чтобы оценивать факты и рекомендовать те действия, которые кажутся подходящими. В Соединённых Штатах они часто встречаются в комитетах в Национальной Академии наук.
Испытание Божьим судом вышло из моды, но битвы в прессе вполне могут напоминать пытки тихих учёных с их самоуважением.
Англичане упразднили заседания Звёздного кабинета в 1641 году, и они считали это большим достижением. Испытание сражением, клятвой, и божьим судом также стали историей. Мы сейчас ценим честный процесс, по крайней мере когда судим людей.
Судебные процедуры иллюстрируют принципы должного процесса: утверждение должно быть конкретно. Обе стороны должны иметь шанс высказаться и встретить друг друга, чтобы опровергать чужие аргументы и проводить перекрёстный допрос. Процесс может быть публичным, чтобы предотвратить скрытые нелепости. Дебаты должны происходить перед жюри, которое обе стороны принимают как беспристрастное. Наконец, судья должен быть арбитром в процессе и следить за выполнением правил.
Чтобы понять ценность честного процесса, представьте противоположное:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87
К счастью, демократия и свобода сталкивалась с подобными вызовами в прошлом. Государства становились слишком сложными для прямой демократии, но появилась представительная демократия. Государственная власть угрожала разрушить свободу, но появилась власть закона. Технология стала сложной, но это не даёт нам никакой причины игнорировать людей, сбрасывать со счетов закон и приветствовать диктатора. Нам нужны способы, чтобы управлять технической сложностью в демократических рамках, используя экспертов как инструменты, чтобы прояснять наше видение, не давая им контроля над нашими жизнями. Но технические эксперты сегодня втянуты в систему междоусобиц между узкими группами.
Собрание экспертов
Правительство и промышленность, а также их критики, обычно назначают экспертные комитеты, которые встречаются в тайне, если встречаются вообще. Эти комитеты претендуют на то, что им можно доверять, основываясь на том, кто они есть, а не на том, как они работают. Противостоящие группы нанимают оппозиционирующих нобелевских лауреатов.
Чтобы завоевать влияние в нашей массовой демократии, группы пытаются переплюнуть друг друга. Когда их взгляды относятся к обществу, они выносят их на публику путём рекламных компаний. Когда их взгляды относятся к государству, они выносят их к законодательной власти путём лоббирования. Когда их взгляды имеют драматический оттенок, они выносят их на публику через кампании в СМИ. Группы продвигают своих любимых экспертов, сражение выходит на публику и тихие учёные и инженеры тонут в шуме.
По мере того, как общественный конфликт нарастает, люди начинают сомневаться в заявлениях экспертов. Они оценивают утверждения очевидным образом - по его источнику. ("Конечно, она заявляет, что разлив нефти безопасен - она работает на Эксон." "Конечно, он говорит, что Эксон лжёт - он работает на Нейдер.")
Когда авторитетные эксперты теряют доверие, демагоги могут присоединиться к битве на равной ноге. Журналисты страждут противоречий, стараясь объективно освещать картину, и редко руководствуются техническими соображениями - выносят все стороны прямо на публику. Осторожные утверждения, делаемые добросовестными учёными создают мало впечатления; другие учёные не видят другого выбора кроме как принять демагогический стиль. Дебаты становятся острыми и гневными, расхождения во взглядах растут и дым битв затемняет сами факты. Часто за этим следует паралич глупости.
Наша величайшая проблема в том, что мы делаем с проблемами. Дебаты бушуют по поводу ядерной энергии, энергии каменного угля, химических отходов. Имеющие хорошие намерения группы, подкрепляемые экспертами сталкиваются вновь и вновь вокруг скучных технических фактов - скучных, то есть за исключением их важности: Какие последствия имеют малые дозы радиации и как вероятна авария на ядерном реакторе? Каковы причины и последствия кислотных дождей? Насколько хорошо могла бы защита с космическим базированием защищать от ракетных атак? Говорят ли пять случаев лейкемии в пределах трёх миль данной свалки отходов о смертельной опасности или это просто игра случая?
Более существенные вопросы - впереди: насколько безопасные репликаторы? Будут ли системы активных щитов безопасны и надёжны? Будет ли обратима процедура биостаза? Можем ли мы доверять системе ИИ?
Споры о технических фактах питают более широкие диспуты о стратегии. Люди могут иметь различающиеся ценности (как, чтобы бы вы предпочли, энцефалит или отравление пестицидами?), но их взгляды на относящиеся к делу факты расходятся ещё больше. (как часто эти комары переносят энцефалит? Как токсичны эти пестициды?) Когда различающиеся взгляды на скучные факты ведут к разногласиям относительно важных стратегий, люди могут удивляться, "Как они нам могут противоречить по таким важным стратегическим вопросам, если только у них нет дурных мотивов?" Споры насчёт фактов могут таким образом настроить потенциальных союзников друг против друга. Это мешает нашим усилиям в понимании и решении наших проблем.
Люди обсуждают факты на протяжении тысячелетий; только особое положение технических диспутов ново. Общества разработали методы для оценки фактов о людях. Эти методы подсказывают, как мы могли бы судить факты о технологии.
От междоусобиц к честному процессу
На всём протяжении истории, группы разрабатывали способы, чтобы разрешать споры; альтернативой этому были междоусобицы, нескончаемые и часто беспощадные. Средневековые европейцы использовали несколько процедур, все - лучше, чем бесконечные междоусобицы:
Они использовали испытание битвой: противники сражались, и закон подтверждал победителя.
Они использовали взаимную клятву: соседи клялись в честности обвиняемого; если клялись достаточно, обвинения снимались.
Они использовали испытание "божьим судом": в одном из них обвиняемый связывался и его бросали в реку; те, кто тонул, были невиновны, а те, кто выплывал - виновны.
Они использовали суд секретных комитетов: советники короля встречались, чтобы судить и выносить приговор, который казался подходящим. В Англии они встречались в комнате, которая называлась Звёздный кабинет.
Эти методы предположительно определяли, кто что делал - факты относительно человеческих событий, но все имели серьёзные недостатки. Сегодня мы использованием аналогичные методы, чтобы определять, что является причиной чего - факты относительно науки и технологии:
Мы использованием испытание сражением в прессе: оппоненты бросаются со шпагами наголо друг на друга до тех пор, пока доказательства одной стороны не терпят политической смерти. К сожалению, это часто напоминает бесконечные междоусобицы.
Мы использованием клятвы: эксперты клянутся относительно определённых фактов; если клянётся достаточно в одном и том же, факты объявляются истинными.
Мы использованием суждения секретных комитетов: избранные эксперты встречаются, чтобы оценивать факты и рекомендовать те действия, которые кажутся подходящими. В Соединённых Штатах они часто встречаются в комитетах в Национальной Академии наук.
Испытание Божьим судом вышло из моды, но битвы в прессе вполне могут напоминать пытки тихих учёных с их самоуважением.
Англичане упразднили заседания Звёздного кабинета в 1641 году, и они считали это большим достижением. Испытание сражением, клятвой, и божьим судом также стали историей. Мы сейчас ценим честный процесс, по крайней мере когда судим людей.
Судебные процедуры иллюстрируют принципы должного процесса: утверждение должно быть конкретно. Обе стороны должны иметь шанс высказаться и встретить друг друга, чтобы опровергать чужие аргументы и проводить перекрёстный допрос. Процесс может быть публичным, чтобы предотвратить скрытые нелепости. Дебаты должны происходить перед жюри, которое обе стороны принимают как беспристрастное. Наконец, судья должен быть арбитром в процессе и следить за выполнением правил.
Чтобы понять ценность честного процесса, представьте противоположное:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87