Диссертация (1148978), страница 33
Текст из файла (страница 33)
В качестве примера можнопривести управляемые ИИ машины. Каким образом такая машина должнаоценивать соотношение вреда, нанесенного человеку с материальнымизатратами на ее починку в случае аварии?Ввоеннойпромышленностинеобходиморазработатьтерминологический аппарат, определяющий, что же такое автономноеоружие, как его производство соответствует гуманитарным законам, стоитли его запретить? К чему может привести развитие автономного оружия: ктенденции мирного урегулирования конфликтов или к возрастающемуколичеству войн? Может ли случиться так, что его начнут использоватьтеррористы?Другим серьезным вопросом становится вторжение в личную жизньлюдей. С возможностями технологий ИИ к сбору, хранению и обработкеинформации личная жизнь людей находится под угрозой.Авторытакжеозабоченывопросомпрофессиональнойэтикипрограммистов и их роли в разработке законов и этических кодексов вотношении развития и использования ИИ.
К мнению авторов можнодобавить, что более внимательно стоит рассмотреть и роль другихпрофессиональных деятелей тоже, как то нейроученых, лингвистов,психологов.Каким образом сделать так, чтобы человечество приняло ИИ? Нужнонаправитьисследованиявобластьразработкиверификациииобоснованности, то есть ответить на вопросы «Как доказать, что система181удовлетворяетопределеннымжелаемымформальнымпараметрам.(Построил ли я систему правильно?)»1 и «Как гарантировать, что у системы,которая отвечает этим формальным требованиям, нет нежелательногоповедения и последствий.
(Построил ли я правильную систему?)»2соответственно. Также встают вопросы безопасности («Как предотвратитьнамеренные манипуляции посторонними сторонами?»3) и контроля («Какдать возможность целенаправленного контроля людям над системой ИИпосле того, как она начинает оперировать»4).В этой статье ставится вопрос определений. Мы хотим, чтобы ИИ былнадежным и приносил пользу, вел себя хорошо, говорят авторы.
Но чтоозначают эти слова в данном контексте? Каких общих правил долженпридерживаться ИИ? Должны ли они вести себя «хорошо» в этическомсмысле или же понятия хороший и полезный в данном случае полностьюэквивалентны?Авторыпредлагаютсоздатькомпьютерныемоделиэтической аргументации для решения этой задачи.Послеперспективе.этогоони«Частопереходятобсуждаемаякприоритетамдолгосрочнаявдолгосрочнойцельнекоторыхисследователей ИИ — разработать системы, которые могут учиться наопыте с человекоподобной степенью и превзойти человеческое поведение вбольшинстве когнитивных задач, тем самым имея важное влияние наобщество»5.
Если мы достигнем этой цели, все вышеперечисленныеприоритеты перейдут на новый уровень, на котором нужно будет сделатьвсе возможное для обеспечения надежного и полезного ИИ.Возьмем вопрос верификации. В долгосрочной перспективе мырассматриваем не простые программы, но сильные и важные для1Там же. C.107Там же.3Там же.
C.1084Там же.5Там же. C.1092182безопасности системы. Поэтому системы верификации не отдельныхкомпонентов, а системы в целом займут новое, ключевое место. Более того,в данном случае мы говорим не только о программном обеспечении, но и оего физическом воплощении, к которому не так просто применитьформальные решения, как к обычной программе.Здесь также рассматривается вопрос об интеграции систем в их «тела»и в окружающую их среду.
Каким образом тогда эти агенты должнырассуждать? Очевидно, что эта задача осложняется все повышающейсянеопределенностью среды в процессе этой интеграции.Говоря об обоснованности в долгосрочной перспективе, важнойобластьюбудетмашинноеобучение.Главнаяпроблемаздесь-непредсказуемое обобщение, которое весьма вероятно для больших систем.Правильное же обобщение может снизить вероятность нежелательныхпоследствий в тот момент, когда ИИ станет сильной автономной системой.Проблему также вызывает необходимость создания машинной этики,ведь с большой долей вероятности достаточно сложные машины смогутсами манипулировать своей системой.
Скорее всего, создание машиннойэтики наподобие человеческой, говорят авторы, будет не практичной.Скорее всего, эта система будет построена на наградах и наказаниях, какодном из методов обучения – искусственных нейронных сетях. Их главнойотличительной особенностью является способность к обучению и созданиюсобственных правил, что позволяет избежать дорогостоящего и требующегобольшогоколичествавременисозданияирецензированияправилэкспертами. Машинное обучение в искусственных нейронных сетяхпроисходит благодаря разному весу связей между нейронами – весу вкладаэтой связи во входящий сигнал, -выраженному в цифрах. Этот весвыражает значимость этой связи для долговременной памяти. Таким183образом, «нейронная связь “учится” через постоянное увеличение этихвесов»1. Проще говоря, связь между нейронами, давшая правильный ответ,усиливается, а давшая неверный – ослабляется.
Сейчас искусственныенейронные сети уже имеют широкую область применения и постоянноразвиваются. Их используют, в частности, в медицине, авионике, поисковыхинтернет системах, автоматизации производства2.В долгосрочной перспективе сложно утверждать, облегчит ли ИИ илиусложнит ситуацию с безопасностью. Вопрос безопасности станет оченьострым, если моменты обоснования и контроля не будут решены. Логичнопредположить, что многие системы запрограммированы таким образом,чтобы избегать условий, при которых они не могут выполнить заложенныев них функции.
Таким образом, машины могут избегать внесения серьезныхизменений или отключения их человеком, подрывая его контроль над ними.Потеря контроля над развитым ИИ может привести к серьезнымотрицательным последствиям, в самом худшем варианте — к уничтожениючеловечества.«Исследовательская программа, обрисованная в этой работе иопасения, которые ее мотивировали, были названы анти-ИИ, но мырешительно оспариваем эту характеристику. Кажется самоочевидным, чторастущие способности ИИ ведут к возрастающему потенциалу влияния начеловеческое общество.
Долг исследователей ИИ - позаботиться о том,чтобы его будущее влияние было полезным»3.В данной статье остается непонятным отличие долгосрочнойперспективы от краткосрочной, ведь авторы рассматривают одинаковые1Negnevitsky M. Artificial Intelligence: A Guide to Intelligent Systems. – Pearson Education Limited. 2005.
– С.2122Области применения искусственных нейронных сетей: [сайт]. URL: http://www.neuropro.ru/neu7.shtml(дата обращения: 14.01.2017).3Russell S., Dewey D., Tegmark M. Research priorities for robust and beneficial artificial intelligence[Электронный ресурс] // AI Magazine. - 2015. P.112. - Режим доступа:http://futureoflife.org/data/documents/research_priorities.pdf. (дата обращения:18.10.2016)184проблемы, по сути, просто дублируя друг друга. Можно ли понимать эторазделение не во временном смысле, а в технологическом? Имеют лиавторы ввиду, что в краткосрочной перспективе они рассматривают слабыйИИ, а в долгосрочной – сильный? Можно заметить, что эти термины невстречаются в статье, что делает ее более сложной для понимания.В данной статье и в письме об исследовании ИИ не толькорассматривается как инструмент для получения невероятного количестваполезных для человечества вещей, но также она призывает, к тому, чтобысам ИИ был полезным.
Построение ИИ как такового больше не являетсяцелью, согласно этому письму целью исследований в области ИИ являетсяименно его полезность. Таким образом, ИИ рассматривается здесь в том жеконтексте, что и у Норвига и Рассела — не как новый вид живыхсознательных существ, обладающих собственной целостностью, но каксобрание разных технологий, призванное облегчить жизнь человеку. Втаком ключе невозможно представить себе развитие сильного ИИ, то естьдействительномыслящегосубъекта,вполномсмыслеинтеллект.Интересным парадоксом здесь является то, что ученые ИИ рассуждают осильном ИИ, о возможности и условиях его создания, и в то же время неимеют это своей целью.
Таким образом, в данном парадигмальном поленевозможно создать настоящий искусственный интеллект, тот, которыйпредставляет себе обыватель, который мы видим в книгах и кино, посколькудля современной науки ИИ у этого феномена другие характеристики изадачи.Можно также заметить разницу в восприятии искусственногоинтеллекта между ИИ как точкой зрения, отстаивающей возможностьсуществования разумных машин, и искусственным интеллектом как наукой,создающей технологии ИИ. Первая исследует возможность существованиясильного ИИ, размышляет о том, каким он может быть, рассматривает, какименно его можно создать.
Наука же создает только интеллектуальные185системыисопутствующиетехнологиираспознаваниязвуковиизображений, не ставя своей целью создание разумной машины. По сути,это словосочетание является омонимом, поскольку оно обладает однимлексическим значением и двумя понятиями, которое оно подразумевает.Подобное использование словосочетания «искусственный интеллект» такжевписывается в нашу общую критику когнитивных исследований, гденечеткостьопределений,ихкажущаясяочевидность,приводиткметодологической и смысловой путанице.Поэтому в этой области в частности и в когнитивистике в целомнеобходимы философский анализ и критика, которые дадут всем ееучастникам возможность взглянуть на исследуемые проблемы с другойточки зрения. Без этого анализа не очевидно, правильным ли путем идетнаука, правильные ли цели ставит когнитивистика перед собой.
Можетоказаться, что необходимы лишь небольшие, несущественные изменения вобщем направлении движения этого комплекса наук, тем не менее, без негона данный момент можно утверждать, что когнитивистика идет в тумане безконечной цели, что является не только не «рациональным» и не«полезным», но и может привести к опасным последствиям. Как некоторыеработы в когнитивистике, так и открытое письмо показывают, что этанеобходимость заметна все больше и внутри самой ИИ, поэтому можнопредположить, что в ближайшем будущем когнитивистика и философия вэтой плоскости будут сплетаться все теснее, проникая друг в друга.4.6. Проблемы морали в искусственном интеллекте186Анализируя современный взгляд на искусственный интеллект скогнитивной позиции, рассмотрим с этической точки зрения тезисы книгиРассела и Норвига.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
