Рассел С., Норвиг П. Искусственный интеллект. Современный подход (2-е изд., 2006) (1245267), страница 338
Текст из файла (страница 338)
Итак, несмотря на то, что в присутствии или отсутствии сознания не так уж легко убедиться, будучи сторонним наблюдателем, сам субъект эксперимента должен по крайней мере иметь способность зарегистрировать любые изменения в своем восприятии собственного сознания. Очевидно, что возникает прямой конфликт интуитивных прелставлений о том, что может произойти. Моравек, будучи специалистом в области робототехники и приверженцем взглядов функционалистов, убежлен в том, что сознание субъекта, подвергаюгцего эксперименту, останется незатронутым, а Сирл, философ и натуралист-биолог, столь же твердо убежден, что сознание у субъекта эксперимента постепенно исчезнет, о чем свидетельствует приведенная ниже цитата из его работы. Вы обнаружите, к своему полному изумлению, что действительно теряете контроль над своим внешним поведением.
Например, вы заметите, что при проверке врачами вашего зрения вам, допустим, скажут: "Мы держим перед вами объект красного цвета; пожалуйста, сообшите нам, что вы видите". Вы захотите крикнуть: "Я ничего не вижу. Я полностью ослеп", ио услышите, как ваш голос говорит, полностью не подчиняясь вашему контролю: "Я вижу перед собой объект красного цвета...'* Ваше сознание постепенно сужается и исчезает, тогда как внешне наблюдаемое поведение остается неизменным 113791. Но существует возможность вести этот спор, опираясь не только на интуицию.
Во-первых, следует отметить, что внешнее поведение будет оставаться одинаковым в процессе того, как субъект постепенно теряет сознание, только в том случае, если 4 Можно также представить себе, что в эксперименте участвует идентичный "контрольный" субъект, наа которым якобы выполняется операция, но фактически она не проводится. Это позволяет сравнивать повеление двух субъектов. 1262 Часть Ч1!1. Заключение воля субъекта исчезает мгновенно и полностью; в противном случае сужение сознания должно было бы отразиться на внешнем поведении; это означает, что испытуемый должен был бы закричать: "Помогите, я теряю сознание!" или нечто в этом роде. Такая гипотеза мгновенного исчезновения воли в результате постепенной замены одного за другим отдельных нейронов кажется маловероятной.
Во-вторых, рассмотрим, что произойдет, если мы будем задавать субъекту вопросы, касаюшиеся того, как он сам ошушает наличие у него сознания в тот период, когда у него не останется ни одного настоящего нейрона. Согласно условиям эксперимента, мы должны получать примерно такие ответы: "Я чувствую себя прекрасно. Я должен также отметить, что немного удивлен, поскольку верил в истинность доводов Сирла". Еше один вариант состоит в том, что мы могли бы уколоть субъекта заостренной палочкой и услышать ответ: "Ой, больно". Теперь, если вернуться к обычной жизни, то скептик может возразить, что подобные выходные данные могут быть получены и от программ искусственного интеллекта как простые результаты принятых соглашений.
Действительно, совсем не сложно предусмотреть, например, такое правило: "Если на датчике номер 12 появится сигнал с высокой интенсивностью, то выдать выходные данные «Ой, больно»", но весь смысл рассматриваемого эксперимента состоит в том, что мы продублировали функциональные свойства обычного человеческого мозга, поэтому предполагается, что электронный мозг не содержит таких структур, в которых реализованы подобные соглашения. Это означает, что нужно как-то объяснить, чем обусловлены проявления сознания, вырабатываемые электронным мозгом, которые основаны лишь на функциональных свойствах нейронов. И это объяснение должно также распространяться на настояший мозг, который имеет такие же функциональные свойства.
На наш взгляд, можно сделать только два приведенных ниже возможных вывода. 1. Причинные механизмы формирования сознания, которые вырабатывают выходные данные такого рода в обычном мозгу, все еше продолжают действовать в электронной версии мозга, поэтому последняя также обладает сознанием. 2. Осознаваемые психические события в обычном мозгу не имеют причинной связи с поведением, а поскольку они отсутствуют также в электронном мозгу, последний не обладает сознанием. Хотя нельзя исключить вторую возможность, при данном подходе сознание сводится к тому, что философы называют еь эпифеиомеиальиой (выраженной в качестве побочного явления) ролью — как будто что-то происходит, но не отбрасывает тени, которая должна была бы появиться в наблюдаемом мире.
Кроме того, если сознание действительно эпифеноменально, то в мозгу должен находиться второй, бессознательный механизм, с помошью которого и формируется восклицание "Ой, больно", когда человека колют заостренной палочкой. В-третьих, рассмотрим ситуацию, возникшую после того, как операция проделана в обратном направлении и субъект снова имеет обычный мозг. И в этом случае внешнее поведение субъекта должно быть, по определению, таким же, как если бы операция вовсе не проводилась. В частности, мы были бы вправе задать субъекту такие вопросы: "Что вы чувствовали во время операции? Помните, как вас укололи заостренной палочкой?" Субъект должен точно помнить фактический характер своего осознанного опыта, включая качественную сторону этого опыта, несмотря на тот факт, что, согласно Сирлу, такого опыта не должно быть.
1263 Глава 26. Философские основания Сирл мог бы возразить, что мы не определили эксперимент должным образом. Если бы настоящие нейроны, скажем, прекращали действовать в том промежутке времени, когда они были извлечены, а затем снова помещены в мозг, то, безусловно, они не могли бы "запомнить" опыт, полученный в это время. Чтобы учесть это обстоятельство, необходимо обеспечить обновление состояния нейронов в соответствии с изменением внутреннего состояния искусственных нейронов, которыми они заменялись. Если бы в таком случае предполагалось наличие "нефункциональных" аспектов реальных нейронов, которые привели бы к поведению, функционально отличному от того, которое наблюдалось, пока искусственные нейроны были бы еще на месте, то налицо было бы простое приведение к абсурду, поскольку означало бы, что искусственные нейроны функционально не эквивалентны настоящим нейронам (одно из возможных возражений против этого довода приведено в упр.
26.3). Патрисия Чарчленд 1260) указала, что приведенные выше доводы, основанные на теории функционализма и применяемые на уровне нейронов, могут также использоваться на уровне любой более крупной функциональной единицы — группы нейронов, раздела мозга, доли, полушария или целого мозга. Это означает, что, согласившись с доводом, что эксперимент с протезом мозга демонстрирует наличие сознания у мозга„в котором нейроны заменены электронными компонентами, мы должны также согласиться, что сознание сохраняется, если весь мозг заменяется схемой, в которой входные данные отображаются на выходные с помощью огромной поисковой таблицы.
Такое представление неприемлемо для многих людей (включая самого Тьюринга), интуиция которых подсказывает, что поисковые таблицы вряд ли могут иметь сознание или, по меньшей мере, что сознательный опыт, сформированный во время поиска в таблице, не сопоставим с опытом, сформированным в процессе работы системы, которая может быть описана (даже в примитивном, вычислительном смысле) как манипулирование с убеждениями, результатами самоанализа, целями и тому подобными явлениями, которые формируются мозгом. Эти замечания свидетельствуют о том, что эксперимент с протезом мозга может быть эффективным средством, подкрепляющим нашу интуицию, только если в нем не предусматривается замена сразу всего мозга, но это и не означает, что в данном эксперименте может лишь рассматриваться замена одних атомов другими, как хочет нас заставить считать Сирл.
Китайская комната Последний мысленный эксперимент, который будет описан в данной главе, повидимому, является самым известным из всех. Идея этого эксперимента принадлежит Джону Сирлу [1376), описавшему гипотетическую систему, в отношении которой любому наблюдателю ясно, что она работает под управлением какой-то программы и успешно проходит тест Тьюринга, но также ясно (согласно Сирлу), что эта система не понимает смысла каких-либо из ее входных или выходных данных.
На основании этого Сирл делает вывод, что работа системы под управлением приемлемой программы (т.е. программы, вырабатывающей правильные выходные данные) не является достаточным условием для обладания разумом. Система состоит из человека, который понимает только английский язык, снабжен книгой с правилами, написанной на английском языке, а в его распоряжении находятся разные стопки бумаг, причем некоторые из них пусты, а другие заполне- 1264 Часть ЧШ.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
