Рассел С., Норвиг П. Искусственный интеллект. Современный подход (2-е изд., 2006) (1245267), страница 341
Текст из файла (страница 341)
По-видимому, роботы являются главными героями такого большого количества художественных произведений о завоевании мира в основном из-за того, что они воплощают в себе неизвестное, точно так же, как ведьмы и приведения в сказках, которыми пугали людей в более ранние эпохи. Но действительно ли роботы создают более реальную угрозу, чем ведьмы и приведения? Если роботы правильно спроектированы как агенты, которые соблюдают интересы своего владельца, то они не создают таких угроз: роботы, развивающиеся на основе постоянного усовершенствования текущих проектов, будут служить своим хозяевам, а не бороться против них.
Люди иногда используют свой интеллект в агрессивных формах, поскольку они обладают некоторыми врожденными агрессивными тенденциями, обусловленными естественным отбором. Но машины, созданные людьми, не нуждаются в чертах врожденной агрессивности, если только сами люди не решат, что они должны быть таковыми. С другой стороны, возможно, что компьютеры добьются своего рода победы над людьми, успешно служа и становясь незаменимыми, так же как и автомобили, которые в определенном смысле завоевали промышленно развитый мир. Рассмотрим олин сценарий, заслуживающий дополнительного анализа. И.
Дж. Гуд [576) писал в одном из своих произведений следующее. Дадим определение сверхинтеллектуальной машине как способной намного превзойти во всех областях мыслительной деятельности любого человека, каким бы умным он не был. А поскольку проектирование машин является одним из таких направлений мыслительной деятельности, то сверхинтеллектуальная машина сможет проектировать еше более интеллектуальные машины; это, безусловно, приведет к "взрыву интеллектуальности" и интеллект человека останется далеко позади. Таким образом, первое изобретение сверхннтеллсктуальной машины станет последним изобретением, которое когда-либо сможет сделать человек, и то, если только машина будет достаточно любезна, чтобы сообщить человеку, как держать ее под контролем. Этому "взрыву интеллектуальности" профессор математики и автор научнофантастических произведений Вернор Виндж присвоил другое название— Ъ.
технологическое превосходство; он писал: "В течение тридцати лет люди получат технологические средства для создания сверхчеловеческого интеллекта. Вскоре после этого эра людей закончится" (1542]. Гуд и Виндж (и многие другие) правильно отмечают, что в настоящее время кривая технологического прогресса з Чарльз Бэббидж в молодости испытал сильные впечатления, читая книгу о приключениях Франкенштейна. 1271 Глава 26. Философские основания растет экспоненциально (достаточно вспомнить закон Мура). Однако прогноз, что эта кривая будет и дальше подниматься вверх, следуя законам почти бесконечного роста, был бы слишком смелым.
До сих пор любая технология развивалась по 5-образной кривой, согласно которой экспоненциальный рост в конечном итоге сходит на нет. Виндж озабочен и обеспокоен грядущим технологическим превосходством, но другие специалисты в области компьютерных наук, занимающиеся прогнозами, радуются его наступлению.
Ханс Моравек в своей книге т(оЬогз Меге МасЬ(ле го Тгалзселдепг М(пп' предсказывает, что роботы сравняются по интеллектуальности с человеком за 50 лет, после чего его превзойдут. В своей книге он пишет следующее. Довольно скоро они станут способными вытеснить нас из жизни. Но я не очень встревожен такой возможностью, поскольку считаю, что будущие машины — это наше потомство, "порождение нашего разума", созданное по нашему образу и подобию; это мы, но в более развитой форме. Как и биологические дети предыдуших поколений, они воплотят в себе лучшие надежды человечества на долгосрочное будущее. Это побуждает нас предоставить им все возможное содействие, а затем отойти в сторону, после того, как мы больше не в состоянии будем делать что-то полезное [1085]. Рей Курцвейл в своей книге ТЬе Аде оу5рИгиа! МасИпш [872] предсказывает, что к 2099 году наметится "моцгная тенденция к слиянию человеческого мышления с миром машинного интеллекта, который был изначально создан родом человеческим.
Больше не будет какого-либо четкого различия между людьми и компьютерами". Возникло даже новое слово, 'ш. трансгуманизм, для обозначения активного социального движения, которое охватывает тех, кто готовится к такому будущему. Достаточно сказать, что указанные вопросы становятся вызовом для большинства теоретиков морали, которые считают единственно возможным путем развития сохранение сугцествования человека и самого человеческого рода. Наконец, рассмотрим эту проблему с точки зрения робота.
Если роботы обретут сознание, то трактовка их просто как "машин" (т.е. дальнейшее их принижение) может стать аморальной. Роботы сами должны также действовать морально — нам потребуется запрограммировать в них теорию, по которой они смогут судить, что хорошо и что плохо. Проблема прав и обязанностей роботов рассматривалась в произведениях авторов научной фантастики, начиная с Айзека Азимова [45].
В широко известном фильме "А.1." [145!] Спилберга основой сюжета является рассказ Брайена Олдисса об интеллектуальном роботе, в программу которого была вложена вера в то, что он — человек, поэтому он не мог понять, почему же его когда-то неизбежно покинет владелица-мать.
И в самом рассказе, использованном Спилбергом, и в его фильме приведены доводы в пользу того, что должно быть развернуто движение за гражданские права роботов. 26.4. РЕЗЮМЕ В данной главе рассматривались приведенные ниже темы. ° Философы используют термин слабый искусственный интеллект для обозначения гипотезы о том, что машины могут обладать способностью действовать интеллектуально, и термин сильный искусственный интеллект — для обозначе- 1272 Часть У)П. Заключение ния гипотезы, что такие машины можно рассматривать как действительно обладающие разумом (а не имитирующие разумную деятельность).
° Алан Тьюринг отверг как некорректный вопрос: "Могут ли машины мыслить?" и заменил его поведенческим тестом. Он сумел предугадать многие возражения против самой возможности появления мыслящих машин. В настоящее время исследователи искусственного интеллекта почти не уделяют тесту Тьюринга внимания, поскольку предпочитают работать над повышением производительности своих систем в решении практических задачах, а не над совершенствованием их способности имитировать людей. ° В настоящее время общепризнано, что психические состояния представляют собой состояния мозга. ° Споры за и против сильного искусственного интеллекта еще не закончились.
Но лишь немногие из ведугцих исследователей искусственного интеллекта считают, что итогом этих дебатов могут стать какие-либо существенные достижения. ° Проблема сознания продолжает оставаться нерешенной загадкой. ° Выявлено шесть потенциальных угроз обществу, создаваемых искусственным интеллектом и связанной с ним технологией. Авторы данной книги пришли к заключению, что некоторые из этих угроз либо являются маловероятными, либо ненамного отличаются по степени опасности от угроз, создаваемых другими, "неинтеллектуальными" технологиями. Лишь одна из эти угроз особо заслуживает дальнейшего анализа; она заключается в том, что с появлением сверхинтеллектуальных машин наступит такое будущее, которое весьма отличается от современности; это может нам не нравиться, но в данном вопросе у нас может не оказаться другого выбора.
Указанные соображения неизбежно приводят к выводу, что мы должны тщательно взвешивать свои действия и в дальнейшем заняться анализом возможных последствий исследований искусственного интеллекта, от которых может зависеть будущее человеческой расы.
БИБЛИОГРАФИЧЕСКИЕ И ИСТОРИЧЕСКИЕ ЗАМЕТКИ Природа разума всегда оставалась неизменной темой философских рассуждений от древних времен до настоящего времени. В своем произведении "Федон" Платон отдельно рассмотрел и отбросил идею о том, что разум может быть "настройщиком" или образцом организации частей тела, т.е. ту точку зрения, которая близка к взглядам приверженцев функционализма в современной философии разума. Вместо этого он решил, что разум должен быть воплощен в бессмертной, нематериальной душе, отделимой от тела и состоящей из другой субстанции, т.е.
встал на позиции дуализма. Аристотель различал несколько видов душ (обозначая их греческим словом "психе" — ~л>)р)) в живых существах, но некоторые из них он описгявал в манере функционализма (дополнительные сведения о функционализме Аристотеля можно найти в 11151]). Известным приверженцем дуалистических взглядов на человеческий разум был Декарт, но по иронии судьбы он оказал огромное историческое влияние на развитие Глава 26. Философские основания 1273 механицизма и материализма.
Он явно рассматривал животных в качестве автоматов и предугадал предложенный Тьюрингом тест, написав в своей работе: "Нет ничего невероятного в том [что машина] может обладать способностью производить различные перестановки слов, чтобы дать достаточно осмысленный ответ на то, что сказано в ее присутствии, так же, как это способен сделать даже самый глупый из людей" [391]. Энергичная защита Декартом точки зрения на то, что животные являются автоматами, фактически позволила будугцим философам скорее прийти к выводу о том, что люди также являются автоматами, даже несмотря на то, что сам он не сделал этого шага.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
