Диссертация (1148978), страница 32
Текст из файла (страница 32)
Юдковски исходит изтого, что любой интеллект, цели которого не идентичны человеческим,является потенциально опасным для человека, поэтому он призывает ксозданию ДИИ. Он полагает, что созданный в будущем ИИ будетчужеродным, а не антропоморфным, как мы привыкли его видеть вфантастических фильмах и книгах. Поэтому, скорее всего, те моральныепринципы, которые кажутся большинству людей очевидными, не будуточевидными для ИИ.«Один из примеров, который приводит Юдковски, состоит в том, чтоИИ,изначальносозданный,чтобыдоказатьгипотезуРимана,самоулучшиться вплоть до уровня сверхчеловеческого интеллекта и создаётмолекулярную нанотехнологию, поскольку он хочет переработать всюматерию вСолнечной системе в вычислительную среду для решенияданной математической проблемы, убивая при этом людей, которыеосмелятся возразить»2.
Юдковски видит причину этой разницы ввосприятии морали в том, что ИИ не разделяет нашего эволюционного1Дружественный искусственный интеллект // Академика: [сайт]. URL:http://dic.academic.ru/dic.nsf/ruwiki/1375480 (дата обращения: 06.01.2017)2Там же.174прошлого, благодаря которому мы обрели определенную чувствительность.Эту чувствительность ИИ «может просто не понимать, если мы ему этого необъясним. Чем хуже ИИ понимает людей, тем проще ему будет их простоубить»1.Юдковски утверждает бесполезность внедрения таких общих законов,как законы робототехники Азимова, поскольку сильный ИИ больше не будетпрограммой, следующей алгоритмам, а будет обладать автономией итворчеством, способной обходить и изменять собственные алгоритмы.Поэтому вместо того, чтобы внедрять подобные принципы, нам нужноприменить более опосредованный подход и выбрать изначальные условияИИ, так чтобы он использовал свои супер интеллектуальные силы, чтобыизвлечь особые цели и экстраполировать наши решения как будто мылучше настроены, лучше информированы и можем лучше рефлексироватьнад силами, влияющими на наши решения2.
Искусственный интеллект,спроектированный на основании принципа дружественности, сделает все,чтобы не причинить людям вреда и чтобы они не причинили себе вредатакже. Как следствие, такой ИИ захочет, чтобы и никакой другой интеллектне смог навредить человеку, поэтому он поможет создать остальные ИИтаким образом, чтобы они также следовали этому принципу.«Одной из наиболее содержательных недавних гипотез в областиДружественности ИИ является модель Когерентного ЭкстраполированногоВолеизъявления, также разработанная Юдковски. Идея КЭВ состоит в том,что первый ИИ составит модель человечества и на основании неё выяснит,какой именно ИИ с какой системой целей будет наиболее благоприятен с его1Там же.Yudkowsky E.
Coherent Extrapolated Volition [Электронный ресурс] // Machine Intelligence ResearchInstitute. 2004. 37 p. . – Режим доступа: https://intelligence.org/files/CEV.pdf. (дата обращения: 06.01.2017)2175точки зрения»1. То есть можно сказать, что он будет обладать всеблагостью,где «добрая вещь всегда устраняет зло настолько, насколько может»2.Критики этой идеи, в частности, Билл Хаббард, автор книги«Сверхинтеллектуальные машины» полагают, что анализ человеческой волине сойдется в единую модель. А также, что первый ИИ будет создан однойизкорпораций,например,корпорацияGoogle,котораянебудетзаинтересована в реализации дружественности, поэтому он полагает, чтонеобходимо большее политическое влияние в этот вопрос.
«Он предложилархитектуру целей для ИИ, в которой человеческое счастье определяетсячерезчеловеческоеповедение,выражающеесчастье,вчастности,выражение улыбки на лице. Юдковски остроумно ответил на эту критику,сказав, что такая функция полезности скорее была бы удовлетворена, еслибы вся Солнечная Системабылазаполнена микроскопическимиулыбающимися манекенами, чем благодаря реальному счастью людей.Другие, например, специалист по ИИ БенГёрцель, поддерживаютосновную идею о Дружественном ИИ, но признают, что гарантироватьДружественность невозможно»3.Дружественный ИИ не остался только теоретической моделью:Singularity Institute for Artificial Intelligence (SIAI, Институт сингулярности)выпустил рекомендации по созданию дружественного ИИ4. А такжеЮдковскисоздалюмористическую«ТаблицукритическихошибокДружественного ИИ», в которой перечислены выдуманные возможностирезультата деятельности ДИИ.
Вот некоторые из них:1Дружественный искусственный интеллект // Академика: [сайт]. URL:http://dic.academic.ru/dic.nsf/ruwiki/1375480 (дата обращения: 06.01.2017)2Plantinga A. God, freedom, and evil. - Wm. B. Eerdmans Publishing, 1974. P. 17 м3 Дружественный искусственный интеллект // Академика: [сайт]. URL:http://dic.academic.ru/dic.nsf/ruwiki/1375480 (дата обращения: 06.01.2017)4Турчин А. SIAI Рекомендации по созданию Дружественного ИИ // Российское ТрансгуманистическоеДвижение. 09.07.2008. : [сайт]. URL: http://transhuman.ru/biblioteka/iskusstvennyi-intellekt/siai-rekomendatsiipo-soz (дата обращения: 06.01.2017)176«Любое высказанное пожелание интерпретируется (буквально) какжелание и исполняется, независимо от того, хотели ли вы этого.Весь человеческий род перенесен в виртуальный мир, основанный наслучайно выбранной фантастической новелле, ТВ шоу или видеоигре.Последующие события определяются волей большинства, при этомИИ считает всех животных, все растения и все сложные машины, как ониесть сейчас, в качестве голосующих граждан.ИИ ведёт себя по отношению к каждому человеку не так, как этотчеловек хочет, чтобы ИИ вёл, но точно так, как этот человек ожидает от ИИ.Пользовательский интерфейс ИИ выглядит в нашем мире как новаяформа бюрократии.
Исполнение желания требует отправки по почте формС-100, К-2210 и Т-12 (а также $25 пошлины) на почтовый ящик вМиннесоте и 30-дневного ожидания»1.Отметим, что, несмотря на юмористический характер этого списка,любой из этих вариантов развития событий имеет одинаковую вероятность,также как и варианты, не перечисленные Юдковским по причине того, чтоих невозможно предугадать. Эта таблица является, по мнению авторадиссертации, прекрасной иллюстрацией того, что развитие не только ДИИ,но и всех технологий искусственного интеллекта, повлечет последствия, ккоторым человечество невозможноподготовить. Многиеученые исотрудники компаний, связанных с разработкой ИИ, выразили беспокойствоотносительно этого факта.
Они подписали открытое письмо о разработке иприменении ИИ. Мы рассмотрим его в финальном параграфе даннойдиссертации.1Yudkowsky E. Humor: GURPS Friendly AI //LessWrong: [сайт]. URL:http://lesswrong.com/r/all/lw/gkh/humor_gurps_friendly_ai/ (дата обращения: 06.01.2017). цитируется попереводу Турчин А. Таблица критических ошибок дружественного ии // Проза.ру: [сайт].http://proza.ru/2007/07/09-228 (дата обращения: 06.01.2017)177ПривыбореспособоврешениявсеновыхпроблемвИИконструкторам приходится сталкиваться с недостаточностью ресурсов, восновном вычислительной мощности, которой на данный момент недостаточно для построения рационального агента, поэтому сейчас егоневозможно построить, говорят Норвиг и Рассел.Технологии ИИ очень развиты и дают много новых возможностейчеловеку.
Еще большее развитие ИИ, даже не очень быстрое, приведет когромным изменениям в повседневной жизни человека, также как этосделали телефон и интернет. В этом ключе П. Норвиг и С. Рассел призываютученых, разрабатывающих ИИ пытаться предугадать последствия, преждевсего, для этики, своих исследований, поскольку они могут привести котрицательным последствиям.4.5. Открытое письмо о разработке ИИВ январе 2015 года Институт будущего жизни (Future of Life Institute)опубликовал открытое письмо об искусственном интеллекте. На данныймомент его подписали более 8 тысяч человек, включая Стивена Хокинга иНоама Хомского, точно также, как и многие ученые и бизнесмены.
Письмобыло озаглавлено так «Научно-исследовательские приоритеты для созданиянадёжного и полезного искусственного интеллекта» (Research Priorities forRobust and Beneficial Artificial Intelligence).178В этом письме ставится следующая проблема: в последние примерно20 лет сфера ИИ достигла больших успехов, глубоко интегрировалась вразные области как науки, так и экономики, стала причиной появлениятаких прорывов в технологиях как «распознавание речи, классификацияизображений, автономные средства передвижения, машинный перевод,передвижение посредством ходьбы и диалоговые системы»1.
Сталоочевидно, что ИИ больше не является исключительно научным феноменом,но феноменом экономическим и оказывающим влияние и на социум, болеетого, нет сомнений, что влияние этой области будет все сильнее с каждымгодом. Та потенциальная польза, которую ИИ принесет человечеству огромна, но поскольку влияние его велико, а всех последствий дальнейшегоразвития ИИ мы не можем предсказать, нам нужно подумать о том, какувеличить пользу и вместе с тем уберечь себя от угроз, которые несут в себеэти технологии.По этойпричине составителиоткрытого письма предлагаютзадуматься не только о способах создания ИИ, но и принять во вниманиецелиего создания.«Мырекомендуемрасширенноеисследование,нацеленное на обеспечение того, что все более способные системы ИИбудут надежными и полезными: наши системы ИИ должны делать то, чтомы хотим, чтобы они делали»2.Для определения более конкретных приоритетов и задач в ИИ кписьму приложена статья с одноименным названием.
Авторы статьи,Стюарт Рассел (уже знакомый нам по предыдущему параграфу), ДэниелДьюи (Daniel Dewey), Макс Тегмарк (Max Tegmark), исследователи изИнститута будущего жизни, полагают, что в последние годы научноесообщество в вопросах искусственного интеллекта было слишком1An Open Letter. Research priorities for robust and beneficial artificial intelligence. [Электронный ресурс]. –Режим доступа: http://futureoflife.org/ai-open-letter/ (дата обращения:18.10.2016)2Там же.179сфокусированонавопросесозданияагентов,«систем,которыевоспринимают и действуют в некоторой среде.
В этом контексте критерийинтеллекта связан со статистическими и экономическими понятиями орациональности — в обыденной речи, способность принимать хорошиерешения, планы и выводы»1. Но сейчас, как призывает открытое письмо,нам стоит сосредоточиться не только на том, чтобы усовершенствоватьспособности ИИ, но и на том, каким образом ИИ может принести пользуобществу.Они разделяют приоритеты в ИИ на два вида: краткосрочные идолгосрочные.Краткосрочныевключаютвсебя«оптимизациюэкономического влияния ИИ, исследования в законодательстве и этике иисследования в информатике для надежного ИИ»2.Что касается первого направления, его проблема заключается в том,что очень сложно провести грань между влиянием именно ИИ и другихтехнологий.
Вопросы, с которыми мы сталкиваемся в этой области —возрастающий уровень неравенства и безработицы. Поскольку цельюавторов не является предложение решений проблем связанных с ИИ, атолько их обозначение, они рассуждают в форме вопросов. В какойпоследовательности и в какое время какие виды труда будут заменены намашинный труд? Как именно это повлияет на заработную плату рабочих?Возрастет ли общий уровень жизни человечества или нет? А также, какиеполитические программы нужно построить, чтобы с большей пользой и сменьшим вредом использовать ИИ. Какие провести реформы в областиобразования, экономики, труда, налогов, социальной политики и т.
д.? Как1Russell S., Dewey D., Tegmark M. Research priorities for robust and beneficial artificial intelligence / AIMagazine. 2015. P. 105 [Электронный ресурс].– Режим доступа:http://futureoflife.org/data/documents/research_priorities.pdf (дата обращения:18.10.2016)2Там же.180превратить безработицу, как негативный эффект, в досуг, как позитивный,улучшить качество жизни?Развитие ИИ требует экспертизы с точки зрения законодательства,этики,гражданскогосообщества,онопотребуетиизменениязаконодательства, появления «киберзаконов», как говорят авторы.Особое внимание государствам нужно уделить применению ИИ ввоенной и коммерческой промышленности.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
