Рассел С., Норвиг П. Искусственный интеллект. Современный подход (2-е изд., 2006) (1245267), страница 340
Текст из файла (страница 340)
° Использование систем искусственного интеллекта может привести к тому, что люди станут более безответственными. ° Успех искусственного интеллекта может стать началом конца человеческой расы. Рассмотрим каждую из этих проблем по очереди. ° В результате автоматизации может увеличиться количество безработных. Современная индустриальная экономика стала полностью зависимой от применения компьютеров в целом и отдельных программ искусственного интеллекта в частности.
Например, значительная часть экономики, особенно в Глава 26. Философские основания 1267 Соединенные Штатах, зависит от доступности потребительского кредита. Проверка заявок на выпуск кредитных карт, выдача разрешений на осуществление платежей и раскрытие мошеннических сделок, а также другие операции теперь выполняются программами искусственного интеллекта. Напрашивается вывод, будто из-за появления этих программ свои места потеряли тысячи служаших, но в действительности этих рабочих мест без применения программ искусственного интеллекта просто не было бы, поскольку в случае применения ручного труда стоимость этих операций была бы неприемлемой. До сих пор автоматизация с помошью технологии искусственно~о интеллекта неизменно создавала больше рабочих мест, чем устраняла, к тому же приводила к появлению более интересных и высокооплачиваемых специальностей.
Теперь, после того как канонической программой искусственного интеллекта стал "интеллектуальный агент", предназначенный для помощи человеку, потеря работы становится еше менее вероятным последствием внедрения искусственного интеллекта по сравнению с той эпохой, когда все усилия специалистов по искусственному интеллекту сосредоточивались на создании "экспертных систем", предназначенных для замены людей.
° Может уменьшиться (илн увеличиться) количество свободного времени, имеющегося в распоряжении людей. Алвин Тоффлер в своей книге Еогиге овос)с [1510] указал: "Рабочая неделя с начала столетия сократилась на 50% И никого не удивляет прогноз, что к 2000 году она будет сокрашена еше наполовину". Артур К. Кларк [265] писал, что "люли в 2001 году могут столкнуться с будуьцим, заполненным необычайной скукой, когда главной проблемой в жизни станет принятие решения о том, какой из нескольких сотен телевизионных каналов выбрать для просмотра". Единственным из этих прогнозов, который сбылся хоть в какой-то степени, стало количество телевизионных каналов [1453]. А вместо сокрашения рабочего дня люди, занятые в отраслях промышленности, характеризующихся интенсивным использованием знаний, стали чувствовать себя частью интегрированной компьютеризированной системы, которая работает 24 часа в сутки; чтобы успешно справляться со своими обязанностями, они вынуждены работать все больше и больше.
В индустриальной экономике вознаграждения приблизительно пропорциональны затратами времени; увеличение продолжительности работы на 10% обычно приводит в среднем к увеличению доходов на 10% А в информационной экономике, характеризуюшейся наличием широкополосной связи и упрошением тиражирования интеллектуальной собственности [которую Фрэнк и Кук [495] назвали "обшеством, в котором победитель получает все"), самое большое вознаграждение приносит способность оказаться немного более успешным, чем конкурент; увеличение продолжительности работы на 10% может означать увеличение дохода на 100%. Поэтому каждый испытывает все возрастаюший прессинг, который заставляет его работать все интенсивнее.
Искусственный интеллект способствует увеличению темпов внедрения технологических инноваций и поэтому вносит свой вклад в эту обшую тенденцию, но искусственный интеллект обешает также предоставить нам возможность снять с себя часть нагрузки и позволить нашим автоматизированным агентам хоть какое-то время выполнять работу за нас. 1268 Часть Ч111. Заключение ° Люди могут потерять чувство собственной уникальности. В своей книге Сотригег Роггег апс[ Нитап Яеааоп [1566] Вейценбаум, автор программы Е1ьз, указал на некоторые потенциальные угрозы, с которыми сталкивается общество в связи с развитием искусственного интеллекта.
Одним из самых важных доводов Вейценбаума является то, что в результате исследований в области искусственного интеллекта кажется уже не такой невероятной идея о том, что люли представляют собой автоматы, а эта идея приводит к потере самостоятельности или даже человечности. Но авторы настоящей книги хотят отметить, что эта идея сугцествовала задолго до появления искусственного интеллекта н восходит по меньшей мере к тем временам, когда вышла книга ГНотте Мас!ггпе [875].
Авторы также отмечают, что люди пережили и другие покушения на чувство их уникальности: Коперник, автор книги Ре [гего1иггопгбиг Огбгит Сое!езбит [294], убрал Землю из центра солнечной системы, а Дарвин, автор книги Резсепг оу Мап [326], поместил вид Ното вар[ела на тот же уровень, где находятся все другие виды живых существ. Поэтому даже в случае его широкого и успешного наступления искусственный интеллект станет не большей угрозой для моральных устоев общества ХХ1 века, чем была дарвиновская теория эволюции для Х1Х века.
° Люди могут потерять некоторые из своих прав на личную жизнь. Вейценбаум также указал, что развитие технологии распознавания речи может привести к широкому распространению средств прослушивания телефонных разговоров и поэтому к потере гражданских свобод. Он не предвидел, что когда-то в мире террористические угрозы станут настолько реальными, что изменят отношение людей к тому, с каким уровнем надзора они будут готовы согласиться, однако правильно понял, что искусственный интеллект обладает потенциалом к созданию средств надзора массового применения. Предсказание Вейценбаума вскоре может осуществиться'. правительство США рассматривает вопрос о внедрении системы Есйе1оп, которая "состоит из сети пунктов прослушивания, антенных полей и радарных станции; система опирается на поддержку компьютеров, в которых используется языковой перевод, распознавание речи и поиск по ключевым словам для автоматического просеивания графика, идущего по телефону, электронной почте, факсу и телексу'*.
Многие согласны с тем, что компьютеризация приводит к ущемлению прав на личную жизнь, — один из старших руководителей компании бцп М!сгозуагешз Скотт Макнили даже заявил: "У вас все равно нет никакой личной жизни. Забудьте о ней". Другие с этим не согласны; например, судья Луис Бранлейс писал еше в 1890 году: "Право на личную жизнь является самым всеобъемлющим из всех прав...
ведь это — право оставаться самим собои". ° Использование систем искусственного интеллекта может привести к тому, что люди станут более безответственными. В той атмосфере постоянной готовности к судебным разбирательствам, которая доминирует в Соединенных Штатах, большую важность приобретают вопросы правовой ответственности. Если терапевт принял на веру суждение медицинской экспертной системы в от- ь См. статью "Еачеаг!герр!ца оц Ецгорс" !Применение средств подслушивания в Европе), ЬУ1гег! пеггэ, 9/30/!998, н процитированные в ней отчеты Европейского экономического сообшества. Глава 26.
Философские основания 1269 ношении диагноза, то кто будет нести ответственность, если диагноз окажется неправильным? К счастью, теперь обгдепризнано, что нельзя рассматривать как пренебрежение служебными обязанностями выполнение терапевтом медицинских процедур, которые имеют высокую ожидаемую полезность, даже если фактические результаты оказались катастрофическими для пациента (отчасти такая смена взглядов обусловлена ростом влияния методов теории решений в медицине). Поэтому приведенный выше вопрос должен рассматриваться в такой формулировке: "Кто должен нести ответственность, если диагноз оказался неоправданным?" До сих пор суды исходили из того, что медицинские экспертные системы играют такую же роль, как медицинские учебники и справочники; терапевты обязаны понять ход рассуждений, лежагдий в основе любого решения системы, и использовать свое собственное суждение для принятия решения о том, нужно ли следовать рекомендациям системы.
Поэтому при проектировании медицинских экспертных систем в виде интеллектуальных агентов действия этих систем следует рассматривать не как непосредственно воздействуюгдие на пациента, а как влияюшие на поведение терапевта. А если экспертные системы когда-то будут надежно вырабатывать более точные диагнозы по сравнению с людьми, врачи могут стать юридически ответственными, если они не используют рекомендации экспертной системы. Такая предпосылка рассматривается в 1528). Приобретают также важное значение аналогичные вопросы, касаюшиеся использования интеллектуальных агентов в! пгегпег, Например, достигнут определенный прогресс в части внедрения ограничений в интеллектуальные агенты, чтобы они не могли, допустим, повредить файлы других пользователей [1571]. Проблемы становятся еше более важными, когда речь идет о денежных сделках.
Если финансовые операции выполняются интеллектуальным агентом "от чьего-то имени", то кто будет отвечать за причиненные убытки? Ьудет ли сушествовать такая возможность, чтобы интеллектуальный агент сам имел активы и участвовал в электронных торгах от своего имени? Создается впечатление, что такие вопросы до сих пор еше полностью не изучены. Насколько известно авторам данной книги, еше ни одной программе не был придан правовой статус как индивидуума, способного участвовать в финансовых операциях; в настоящее время такое решение, по-видимому, было бы неблагоразумным. Кроме того, программы еше не рассматриваются как "водители", когда речь идет о контроле за выполнением правил дорожного движения на реальных автомагистралях. По крайней мере, в Калифорнии не предусмотрено никаких юридических санкций, которые исключали бы возможность превышения автоматизированным транспортным средством скоростных пределов, хотя в случае аварии должен нести ответственность проектировшик механизма управления транспортным средством.
Как и в случае технологии клонирования людей, законодателям еше предстоит включить новые разработки в правовое поле. ° Успех искусственного интеллекта может стать началом конца человеческой расы. Почти любая технология, попадая в злонамеренные руки, обнаруживает потенциальные возможности для причинения вреда, но когда речь идет об искусственном интеллекте и робототехнике, возникает новая проблема, связан- Часть Ч1П.
Заключение 1270 ная с тем, что эти злонамеренные руки могут принадлежать самой технологии. Предупреждения о том, какую опасность несут роботы или роботизированные киборги-гуманоиды, вышедшие из-под контроля, стали сюжетом бесчисленных научно-фантастических произведений. К числу самых ранних примеров таких произведений относятся книга РгапИелзгеи, ог где Мойегл РютеглеиР Мэри Шелли 11400] и пьеса )?. (7.Я Карела Чапека (192! год), в которых описано, как роботы завоевывают мир. В кинематографе этой теме посвящены фильм "Т(зе Тегш(пагог" (Терминатор), вышедший на экраны в 1984 году, в котором используются клише "о роботах, завоевывающих мир" и сюжет о путешествии во времени, и фильм "ТПе Магг(х" (Матрица), вышедший в 1999 году, в котором объединены сюжеты "о роботах, завоевывающих мир" и "о мозге, растущем в колбе".
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
