Рассел С., Норвиг П. Искусственный интеллект. Современный подход (2-е изд., 2006) (1245267), страница 335
Текст из файла (страница 335)
Но из-за этого никто не вправе изменить своего мнения о Лукасе в худшую сторону. В качестве еще одного примера укажем, что ни один человек за всю свою жизнь не сможет вычислить сумму 1О миллиардов десятизначных чисел, а компьютер способен выполнить такую операцию за секунды. Тем не менее мы не рассматриваем этот факт как свидетельство фундаментального ограничения способности человека мыслить. Люди вели себя интеллектуально за тысячи лет до того, как изобрели математику, поэтому маловероятно, что способность формировать математические рассуждения играет более чем периферийную роль в том, что подразумевается под понятием интеллектуальности.
В-третьих (и это — наиболее важное возражение), даже если принять предположение, что компьютеры ограничены в том, что они способны доказать, нет никаких оснований считать, будто эти ограничения не распространяются на людей. Слишком легко вести этот спор, строго доказав, что формальная система не может выполнить действие Х, а затем сообщив, что люди могут выполнить действие Х, используя свои человеческие неформальные методы, но не дав ни одного свидетельства в пользу этого утверждения. И действительно, невозможно доказать, что на формальные рассуждения, проводимые людьми, не распространяется теорема Геделя о неполноте, поскольку любое строгое доказательство само должно содержать формализацию способностей человеческого гения, которые, как многие утверждают, являются не- Глава 26.
Философские основания 1253 формализуемым, и поэтому должно опровергать само себя. Таким образом, нам остается лишь прибегать к интуитивному представлению о том, что люди иногда способны проявлять сверхчеловеческие черты математического прозрения. Подобные утверждения выражаются в виде доводов: "мы должны быть уверены в том, что мы мыслим правильно, поскольку иначе мышление вообще становится невозможным" [96Ц. Но если об этом зашла речь, то давно известна склонность людей совершать ошибки. Это, безусловно, касается повседневной мыслительной деятельности, но справедливо также в отношении плодов математических рассуждений, полученных в результате упорной работы.
Одним из известных примеров является теорема о раскраске карты четырьмя цветами. Математик Альфред Кемпе опубликовал в 1879 году доказательство этой теоремы, которое было широко признано и стало одним из поводов к избранию этого математика в состав членов Королевского общества. Но в! 890 году Перси Хивуд указал на ошибку в этом доказательстве, и теорема оставалась недоказанной до 1977 года. Довод, исходящий из иеформализуемости Одно из наиболее важных и трудно оспоримых критических замечаний в адрес искусственного интеллекта как сферы приложения человеческих усилий было сформулировано Тьюрингом как довод, основанный на "неформализуемости поведения". По сути это критическое замечание сводится к утверждению, что человеческое поведение является слишком сложным для того, чтобы его можно было описать с помощью какого-либо простого набора правил, а поскольку компьютеры не способны ни на что, кроме выполнения множества правил, они не способны и проявлять такое же интеллектуальное поведение, как люди.
В искусственном интеллекте неспособность выразить все, что потребуется, в виде множества логических правил называют проблемой спецификации (см. главу 10). Основными сторонниками этих взглядов были философы Хьюберт Дрейфус, который написал ряд влиятельных критических статей против искусственного интеллекта, в том числе "И%аг Соаригегз Сап) Х)о" (Что не способны делать компьютеры) [414] и "Иушг Соглригегз 51(В Сал 7 !)о" [415[, и его брат Стюарт, совместно с которым Хьюберт написал статью "Мтг) Оаег МасЫпе" [416).
Положение дел, которое критиковали эти ученые, получило известность как "добрый старый искусственный интеллект", или сокращенно ООМА! (Ооог) ОЫГазЫопег( А1); этот термин был предложен Хоглендом [631). При этом предполагается, что в основе ООМА! лежит утверждение, будто все интеллектуальное поведение может быть представлено с помощью системы, которая формирует логические рассуждения на основании множества фактов и правил, описывающих рассматриваемую проблемную область. Поэтому ООГА1 соответствует простейшему логическому агенту, описанному в главе 7. Дрейфус был прав, утверждая, что логические агенты действительно имеют слабое место, поскольку не позволяют решить проблему спецификации.
Но как было показано в главе 13, для использования в открытых проблемных областях в большей степени подходят вероятностные системы формирования рассуждений. Поэтому критические замечания Дрейфуса относятся не к компьютерам как к таковым, а скорее к одному конкретному способу их программирования. Однако, вполне можно предположить, что более правильное название для статьи Дрейфуса, "Иг)ш! Ягзг-Огг(ег Ходка! Ви(е-Вазегу оузгеглз Иуйош Хеагп(пд Сапу Юо" (Что не способны делать 1254 Часть У)П.
Заключение системы на основе правил логики первого порядка, в которых не применяются средства обучения), было бы гораздо менее впечатляющим. Согласно взглядам Дрейфуса, человеческий опыт подразумевает наличие знаний о некоторых правилах, но лишь в качестве "целостного контекста" (или "основы"), в рамках которого действуют люди. Он приводит пример корректного социального поведения при вручении и получении подарков: "Обычно люди, вручая подходящий к случаю подарок, действуют в рамках сложившихся в данном случае обстоятельств".
Очевидно, что люди обладают "непосредственным пониманием того, как следует действовать и чего следует ожидать". Такое же утверждение он выдвигает в контексте игры в шахматы: "Шахматисту среднего уровня может потребоваться обдумать следующий ход, а гроссмейстер просто видит, что положение на доске само требует определенного хода ...правильный ответ сам складывается в его голове".
Безусловно, нельзя отрицать, что основная часть мыслительных процессов лица, готовящего подарок, или гроссмейстера, выбирающего ход, осуществляется на уровне, недоступном для самоанализа со стороны пытливого разума. Но из этого не следует, что сами эти мыслительные процессы не происходят. Важный вопрос, на который не отвечает Дрейфус, состоит в том, как правильный ход появляется в голове гроссмейстера. Напомним читателю один из комментариев Дэниела Деннета )389], приведенный ниже.
Создается впечатление, будто философы взяли на себя роль толкователей приемов фокусников. Когда их спрашивают, как фокусник ставит свой трюк с распиливанием ассистентки пополам, они объясняют, что в этом нет ничего сложного: фокусник фактически никого не распиливает; ои просто заставляет людей верить, что он это делает. Если же философов спрашивают: "Но как ему удается создать такое впечатление?", оии отвечают: "Мы в этом ие компетентны". В статье братьев Дрейфус [416] предложен пятиэтапный процесс приобретения опыта, который начинается с обработки полученной информации на основе правил (осуществляемой по такому же принципу, как в ООМА)) и заканчивается приобретением способности мгновенно выбирать правильные ответы. Но внося свое предложение, братья Дрейфус по сути перешли из разряда критиков искусственного интеллекта в разряд его теоретиков — они предложили архитектуру нейронной сети, организованную в виде огромной "библиотеки примеров", указав при этом на несколько проблем.
К счастью, все указанные ими проблемы полностью решены, причем некоторые частично, а другие полностью. Упомянутые братьями Дрейфус проблемы перечислены ниже. 1. Качественное обобщение на основании примеров не может быть достигнуто без фоновых знаний. Дрейфусы утверждают, что не существует способа, позволяющего использовать фоновые знания в процессе обучения нейронной сети. А в действительности, как было описано в главе 19, уже разработаны такие методы, которые позволяют использовать априорные знания в алгоритмах обучения.
Тем не менее эти методы основаны на том, что в наличии имеются знания, представленные в явной форме, а этот подход братья Дрейфус упорно отрицают. По мнению авторов настоящей книги, взгляды этих ученых являются основательной причиной для серьезного перепроектирования современных моделей нейронной обработки информации, для того чтобы в них можно было воспользоваться знаниями, полученными ранее в процессе обу- Глава 26.
Философские основания 1255 чения, по такому же принципу, как такие знания используются в других алгоритмах обучения. 2. Обучение нейронной сети представляет собой одну из разновидностей контролируемого обучения (см. главу 18), для которой требуется заблаговременное выявление релевантных входных данных и правильных выходных данных. Поэтому, по утверждению братьев Дрейфус, система обучения нейронной сети не может действовать автономно, без помощи учителя-человека.
В действительности обучение без учителя может осуществляться с помощью методов неконтролируемого обучения (см. главу 20) и обучения с подкреплением (см. главу 21). 3. Производительность алгоритмов обучения снижается при использовании большого количества характеристик, а если выбрано лишь подмножество характеристик, то, по словам этих ученых, "не существует способа введения новых характеристик в том случае, если будет обнаружено, что текущее множество не позволяет учитывать некоторые факты, усваиваемые в процессе обучения".
В действительности с большими множествами характеристик очень успешно справляются такие новые методы, как машины поддерживающих векторов. Как было показано в главе 19, существует также принципиальная возможность вырабатывать новые характеристики, хотя для этого требуется гораздо больше усилий. 4.
Мозг способен направлять свои сенсоры на поиск релевантной информации и обрабатывать ее для извлечения аспектов, релевантных для текущей ситуации. Но Дрейфусы утверждают, что "в настоящее время неизвестны детали этого механизма и нет даже таких гипотез о его работе, которые направили бы исследования искусственного интеллекта по правильному пути".
В действительности проблеме выбора правильной ориентации сенсоров посвящена область активного зрения, основанная на теории стоимости информации (см. главу 1б), а полученные теоретические результаты уже были применены при создании некоторых роботов. В конечном итоге многие проблемы, на которых сосредоточились братья Дрейфус (фоновые обыденные знания, проблема спецификации, неопределенность, обучение, компилированные формы средств принятия решений, важность применения агентов, реагирующих на текущую ситуацию, а не бестелесных машин логического вывода), уже были решены, а достигнутые результаты воплощены в стандартных проектах интеллектуальных агентов.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
