..
они стремятся специализироваться на определенных образах - некоторые на
гласных, некоторые на согласных, некоторые на определенных фонемах. Никто не
говорит нейросети, как делать это. Никто в точности не знает, как она это
делает. Нейросети сами себя программируют".
Очень примечательное заявление, за которым во весь рост встает гигантская,
проблема взаимоотношений между интеллектуальными машинами и человеком. В
давно уже идущих дискуссиях были сформулированы две основные точки зрения на
эту проблему.
Сторонники одной из них считают, что человек останется хозяином положения,
что он не утратит власти над машиной, даже обладающей разумом, что он
сохранит контроль над дальнейшим развитием событий. Такая точка зрения
представляется несколько наивной. Существенно иная физическая природа
искусственного, машинного интеллекта с неизбежностью породит иные,
нечеловеческие ценности и целевые установки, иную логику, иное мировоззрение
и, что, наверное, самое главное, - иную этику. На Земле появятся существа
новой, нечеловеческой расы, существа, очень близкие к человеку по общности к
техносфере, и в то же время бесконечно далекие, ибо одно только знание
собственного практического бессмертия коренным образом будет отличать их
мировоззрение от человеческого. И этим существам уже не нужно будет
человечество, как, впрочем, и биосфера вообще. Можно предвидеть, например,
что окислительная, кислородосодержап1ая, влажная атмосфера Земли, в высокой
степени приспособленная к существованию биосферы, станет помехой для
эволюции новой расы, которой, видимо, не составит труда создать для себя
более благоприятные условия.
Почти не вызывает сомнения, что такая модель развития техносферы покажется
оскорбительной для веками пестуемого антропоцентристского мировоззрения -
"венец творения" перестает быть таковым и обращается всего лишь в одну из
ступенек эволюции, каких было много и которые, выполнив свою эволюционную
задачу, навсегда уходили в небытие.
Вероятность такого развития событий все-таки, по-видимому, довольно низка.
Первый, более слабый, но достаточно неприятный по конечному результату довод
основывается на том, что резервы времени, отпущенные на эволюцию машинного
разума, могут оказаться недостаточными. В этом случае, естественно,
срабатывает первая модель-постепенная гибель земной цивилизации по схеме,
предсказанной Римским клубом.
Второе, вероятно, более сильное возражение против возможности воцарения
машинной расы связано с запретом на подобное развитие событий, налагаемым
следствием из парадокса Ферми, указывающего на несоответствие между априорно
предполагаемой множественностью обитаемых миров, на которых могла развиться
техническая цивилизация, и молчанием этих цивилизаций. Действительно, если
бы в какой-либо планетной системе возникла цивилизация близкого к земной
типа, то в случае осуществления второй модели развития, техносфера,
воплощенная в расе разумных машин, реализуя присущее самоорганизующимся
системам свойство агрессивности, образовала бы во Вселенной известную
"ударную волну разума". Практическое бессмертие индивидуумов машинной расы
автоматически разрешило бы задачу межзвездных перелетов, основанных даже на
известных нам ныне физических принципах и присущих этим принципам
ограничениях, и мы давным-давно испытали бы воздействие этой "ударной
волны".
Описанные выше две возможные модели развития демонстрируют наличие сложных
противоборствующих взаимоотношений между биосферой и техносферой, что
позволяет, видимо, говорить о странном симбиотическом сосуществовании двух
самоорганизующихся систем, одна из которых буквально пожирает другую. Тем не
менее, следует признать, что итог этих взаимоотношений не может быть сведен
ни к одной из мыслимых моделей, поскольку современное состояние системы
принципиально непредсказуемо.
Олвин Тоффлер в своем предисловии к книге И. Пригожина и И. Стенгерс пишет:
"Все системы содержат подсистемы, которые непрестанно флуктуируют. Иногда
отдельные флуктуации или комбинации флуктуаций могут стать... настолько
сильными, что существовавшая прежде организация не выдерживает и
разрушается. В этот переломный момент (который авторы называют особой точкой
или точкой бифуркации) принципиально невозможно предсказать, в каком
направлении будет происходить дальнейшее развитие: станет ли состояние
системы хаотическим или она перейдет на новый, более дифференцированный
уровень упорядоченности или организации..." Очевидно, что если первая модель
предсказывает переход системы техносфера+биосфера в хаотическое состояние,
то вторая - "на новый... более высокий уровень упорядоченности или
организации". Это, кстати, и является доводом, запрещающим осуществление
упоминавшейся выше стратегии "остановки роста", сторонники которой видят
единственный шанс на выход из сложившейся кризисной ситуации в искусственном
сдерживании, регламентации роста и развития угрожающих факторов. Эта модель,
при ее, казалось бы, внешней доступности, тем не менее, запрещена теорией
неравновесных систем. "У человека есть только два пути: или прогресс, или
деградация; консерватизм в чистом виде противоречит сути законов Вселенной",
- утверждает Альфред Уайтхед.
Остается неясным, способны ли элементы системы, которыми являются люди,
предпочтя какой-то из вариантов развития, направить это развитие по
выбранному пути? Или элементы системы, даже обладающие знанием о пути
движения системы и собственными целевыми установками, не способны, тем не
менее, на самостоятельные, противоречащие потребностям и целям системы
действия? Поиск ответов на эти вопросы является сегодня одной из самых
важных задач человечества.
Понимание того, что мы находимся сегодня на каком-то рубеже, становится
всеобщим не только среди специалистов, ясно видящих приближение лихолетья.
Ощущение близости чего-то нового, неведомого и - хотя бы по одному этому -
страшного испытывают самые различные люди. Именно этим может быть объяснен
давно уже невиданный рост интереса к мистике, расцвет старых и создание
новых культов.
Весьма характерной иллюстрацией происходящих процессов может послужить
абсолютно частный, сугубо личный пример одного единственного человека -
Такэси Умэхары, эксперта по антропологии и истории культуры из Киото,
изучавшего европейскую философию. "Я отвернулся от моей родины и устремил
полный обожания взгляд на западную культуру, - говорит он. - Когда мне
исполнилось 35 лет, наступил кризис". Умэхара осознал, что европейская
культура, перед которой он преклонялся, "разрушает человечество, поскольку
ставит человека выше природы". И тогда он задался вопросом, а "нельзя ли
спасти современную цивилизацию от тлетворного воздействия Запада с помощью
ценностей восточной культуры, в частности, японской?..."
По его мнению, корни японской культуры уходят в глубину веков задолго до
воздействия на японцев китайской цивилизации.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163
они стремятся специализироваться на определенных образах - некоторые на
гласных, некоторые на согласных, некоторые на определенных фонемах. Никто не
говорит нейросети, как делать это. Никто в точности не знает, как она это
делает. Нейросети сами себя программируют".
Очень примечательное заявление, за которым во весь рост встает гигантская,
проблема взаимоотношений между интеллектуальными машинами и человеком. В
давно уже идущих дискуссиях были сформулированы две основные точки зрения на
эту проблему.
Сторонники одной из них считают, что человек останется хозяином положения,
что он не утратит власти над машиной, даже обладающей разумом, что он
сохранит контроль над дальнейшим развитием событий. Такая точка зрения
представляется несколько наивной. Существенно иная физическая природа
искусственного, машинного интеллекта с неизбежностью породит иные,
нечеловеческие ценности и целевые установки, иную логику, иное мировоззрение
и, что, наверное, самое главное, - иную этику. На Земле появятся существа
новой, нечеловеческой расы, существа, очень близкие к человеку по общности к
техносфере, и в то же время бесконечно далекие, ибо одно только знание
собственного практического бессмертия коренным образом будет отличать их
мировоззрение от человеческого. И этим существам уже не нужно будет
человечество, как, впрочем, и биосфера вообще. Можно предвидеть, например,
что окислительная, кислородосодержап1ая, влажная атмосфера Земли, в высокой
степени приспособленная к существованию биосферы, станет помехой для
эволюции новой расы, которой, видимо, не составит труда создать для себя
более благоприятные условия.
Почти не вызывает сомнения, что такая модель развития техносферы покажется
оскорбительной для веками пестуемого антропоцентристского мировоззрения -
"венец творения" перестает быть таковым и обращается всего лишь в одну из
ступенек эволюции, каких было много и которые, выполнив свою эволюционную
задачу, навсегда уходили в небытие.
Вероятность такого развития событий все-таки, по-видимому, довольно низка.
Первый, более слабый, но достаточно неприятный по конечному результату довод
основывается на том, что резервы времени, отпущенные на эволюцию машинного
разума, могут оказаться недостаточными. В этом случае, естественно,
срабатывает первая модель-постепенная гибель земной цивилизации по схеме,
предсказанной Римским клубом.
Второе, вероятно, более сильное возражение против возможности воцарения
машинной расы связано с запретом на подобное развитие событий, налагаемым
следствием из парадокса Ферми, указывающего на несоответствие между априорно
предполагаемой множественностью обитаемых миров, на которых могла развиться
техническая цивилизация, и молчанием этих цивилизаций. Действительно, если
бы в какой-либо планетной системе возникла цивилизация близкого к земной
типа, то в случае осуществления второй модели развития, техносфера,
воплощенная в расе разумных машин, реализуя присущее самоорганизующимся
системам свойство агрессивности, образовала бы во Вселенной известную
"ударную волну разума". Практическое бессмертие индивидуумов машинной расы
автоматически разрешило бы задачу межзвездных перелетов, основанных даже на
известных нам ныне физических принципах и присущих этим принципам
ограничениях, и мы давным-давно испытали бы воздействие этой "ударной
волны".
Описанные выше две возможные модели развития демонстрируют наличие сложных
противоборствующих взаимоотношений между биосферой и техносферой, что
позволяет, видимо, говорить о странном симбиотическом сосуществовании двух
самоорганизующихся систем, одна из которых буквально пожирает другую. Тем не
менее, следует признать, что итог этих взаимоотношений не может быть сведен
ни к одной из мыслимых моделей, поскольку современное состояние системы
принципиально непредсказуемо.
Олвин Тоффлер в своем предисловии к книге И. Пригожина и И. Стенгерс пишет:
"Все системы содержат подсистемы, которые непрестанно флуктуируют. Иногда
отдельные флуктуации или комбинации флуктуаций могут стать... настолько
сильными, что существовавшая прежде организация не выдерживает и
разрушается. В этот переломный момент (который авторы называют особой точкой
или точкой бифуркации) принципиально невозможно предсказать, в каком
направлении будет происходить дальнейшее развитие: станет ли состояние
системы хаотическим или она перейдет на новый, более дифференцированный
уровень упорядоченности или организации..." Очевидно, что если первая модель
предсказывает переход системы техносфера+биосфера в хаотическое состояние,
то вторая - "на новый... более высокий уровень упорядоченности или
организации". Это, кстати, и является доводом, запрещающим осуществление
упоминавшейся выше стратегии "остановки роста", сторонники которой видят
единственный шанс на выход из сложившейся кризисной ситуации в искусственном
сдерживании, регламентации роста и развития угрожающих факторов. Эта модель,
при ее, казалось бы, внешней доступности, тем не менее, запрещена теорией
неравновесных систем. "У человека есть только два пути: или прогресс, или
деградация; консерватизм в чистом виде противоречит сути законов Вселенной",
- утверждает Альфред Уайтхед.
Остается неясным, способны ли элементы системы, которыми являются люди,
предпочтя какой-то из вариантов развития, направить это развитие по
выбранному пути? Или элементы системы, даже обладающие знанием о пути
движения системы и собственными целевыми установками, не способны, тем не
менее, на самостоятельные, противоречащие потребностям и целям системы
действия? Поиск ответов на эти вопросы является сегодня одной из самых
важных задач человечества.
Понимание того, что мы находимся сегодня на каком-то рубеже, становится
всеобщим не только среди специалистов, ясно видящих приближение лихолетья.
Ощущение близости чего-то нового, неведомого и - хотя бы по одному этому -
страшного испытывают самые различные люди. Именно этим может быть объяснен
давно уже невиданный рост интереса к мистике, расцвет старых и создание
новых культов.
Весьма характерной иллюстрацией происходящих процессов может послужить
абсолютно частный, сугубо личный пример одного единственного человека -
Такэси Умэхары, эксперта по антропологии и истории культуры из Киото,
изучавшего европейскую философию. "Я отвернулся от моей родины и устремил
полный обожания взгляд на западную культуру, - говорит он. - Когда мне
исполнилось 35 лет, наступил кризис". Умэхара осознал, что европейская
культура, перед которой он преклонялся, "разрушает человечество, поскольку
ставит человека выше природы". И тогда он задался вопросом, а "нельзя ли
спасти современную цивилизацию от тлетворного воздействия Запада с помощью
ценностей восточной культуры, в частности, японской?..."
По его мнению, корни японской культуры уходят в глубину веков задолго до
воздействия на японцев китайской цивилизации.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163