Теоретические аспекты получения знаний

17.1. ТЕОРЕТИЧЕСКИЕ АСПЕКТЫ ПОЛУЧЕНИЯ ЗНАНИЙ

СТРАТЕГИИ ПОЛУЧЕНИЯ ЗНАНИИ

Существует несколько стратегий получения знаний. Наиболее распространенные:

• приобретение;

• извлечение;

• формирование.

Под приобретением знаний понимается способ автоматизированного по­строения базы знаний посредством диалога эксперта и специальной программы (при этом структура знаний заранее закладывается в программу). Эта стратегия требует существенной предварительной проработки предметной области. Системы приобретения знаний действи­тельно приобретают готовые фрагменты знаний в соответствии со структурами, заложенны­ми разработчиками систем. Большинство этих инструментальных средств специально ориентировано на конкретные экспертные системы с жестко обозначенной предметной об­ластью и моделью представления знаний, т.е. не являются универсальными. Например, сис­тема TEIRESIAS, ставшая прародительницей всех инструментариев для приобретения знаний, предназначена для пополнения базы знаний системы MYCIN или ее дочерних вет­вей, построенных на "оболочке" EMYCIN в области медицинской диагностики с ис­пользованием продукционной модели представления знаний.

Термин извлечение знаний касается непосредственного живого контакта ин­женера по знаниям и источника знаний. Авторы склонны использовать этот термин как более емкий и более точно выражающий смысл процедуры переноса компетентности экс­перта через инженера по знаниям в базу знаний экспертной системы.

Термин формирование знаний традиционно закрепился за чрезвычайно пер­спективной и активно развивающейся областью инженерии знаний, которая занимается раз­работкой моделей, методов и алгоритмов анализа данных для получения знаний и обучения. Эта область включает индуктивные модели формирования гипотез на основе обучающих выборок, обучение по аналогии и другие методы.

Рекомендуемые материалы

Таким образом, можно выделить три стратегии проведения стадии получения знаний при разработке экспертных систем (рис. 17.1).

На современном этапе разработки экспертных систем в нашей стране стратегия извле­чения знаний, по-видимому, является наиболее актуальной, поскольку промышленных сис­тем приобретения и формирования знаний на отечественном рынке программных средств практически нет.

Извлечение знаний — это процедура взаимодействия эксперта с источни­ком знаний, в результате которой становятся явными процесс рассуждений специалистов при принятии решения и структура их представлений о пред­метной области.

Рис. 17.1.  Три стратегии получения знаний

В настоящее время большинство разработчиков экспертных систем отмечают, что процесс извлечения знаний остается самым "узким" местом при построении промышлен­ных систем.

Процесс извлечения знаний — это длительная и трудоемкая процедура, в которой ин­женеру по знаниям, вооруженному специальными знаниями по когнитивной психоло­гии [3], системному анализу, математической логике и пр., необходимо воссоздать модель предметной области, которой пользуются эксперты для принятия решения. Часто начинаю­щие разработчики экспертных систем, желая избежать этой мучительной процедуры, зада­ют вопрос: может ли эксперт сам извлечь из себя знания? По многим причинам это нежелательно.

Во-первых, большая часть знаний эксперта — это результат многочисленных наслое­ний, ступеней опыта. И часто зная, что из А следует В, эксперт не дает себе отчета, что це­почка его рассуждений была гораздо длиннее, например С —> D, D -» А, А -> В, или А -> Q, Q->R,R-+B.

Во-вторых, как было известно еще древним (вспомним "Диалоги" Платона), мышле­ние диалогично. И поэтому диалог инженера по знаниям и эксперта — наиболее естествен­ная форма "раскручивания" лабиринтов памяти эксперта, в которых хранятся знания, частью носящие невербальный характер, т.е. выраженные не в форме слов, в форме нагляд­ных образов, например. Именно в процессе объяснения инженеру по знаниям эксперт на эти размытые ассоциативные образы надевает четкие словесные ярлыки, т.е. вербализует знания.

В-третьих, эксперту гораздо труднее создать модель предметной области вследствие той глубины и необозримости информации, которой он обладает. Многочисленные причин­но-следственные связи реальной предметной области образуют сложную систему, из кото­рой выделить "скелет", или главную структуру, иногда доступнее аналитику, владеющему к тому же системной методологией. Любая модель — это упрощение, а упрощать легче с меньшим знанием деталей.

Чтобы разобраться в природе извлечения знаний, выделим три основных аспекта этой процедуры (рис. 17.2): психологический, лингвистический, гносеологический, которые по­дробно описаны в.

Рис. 17.2.  Основные аспекты извлечения знаний

ПСИХОЛОГИЧЕСКИЙ АСПЕКТ

Модель общения при извлечении знаний

Из трех выделенных аспектов извлечения знаний психологический является, по-ви­димому, главным, поскольку он определяет успешность и эффективность взаимодействия инженера по знаниям (аналитика) с основным источником знаний — экспертом-профессио­налом. Мы выделяем психологический аспект еще и потому, что извлечение знаний проис­ходит чаще всего в процессе непосредственного общения разработчиков системы.

Стремление и умение общаться могут характеризовать степень профессионализма ин­женера по знаниям.

Рис. 17.3.  Потери информации при общении

Известно, что потери информации при разговорном общении велики (рис. 17.3). В связи с этим рассмотрим проблему увеличения информативности общения аналитика и экс­перта за счет использования психологических знаний.

Рис. 17.4.  Структура

психологического аспекта

извлечения знаний

Мы можем предложить такую структурную модель общения при извлечении знаний:

• участники общения (партнеры);

• средства общения (процедура);

• предмет общения (знания).

В соответствии с этой структурой выделим три "слоя" психологических проблем, возникающих при извлечении знаний (рис. 17.4), и последовательно рассмотрим их.

Контактный слой

Практически все психологи отмечают, что на любой коллективный процесс влияет атмо­сфера, возникающая в группе участников. Существуют эксперименты, результаты которых неоспоримо говорят, что дружеская атмосфера в коллективе больше влияет на результат, чем индивидуальные способности отдельных членов группы. Особенно важно, чтобы в кол­лективе разработчиков складывались кооперативные, а не конкурентные отношения. Для кооперации характерна атмосфера сотрудничества, взаимопомощи, заинтересованности в успехах друг друга, т.е. уровень нравственного общения, а для отношений конкурентного типа — атмосфера индивидуализма и межличностного соперничества (более низкий уро­вень общения).

К сожалению, прогнозировать совместимость в общении со 100%-ной гарантией не­возможно. Однако можно выделить ряд черт личности, характера и других особенностей участников общения, несомненно, оказывающих влияние на эффективность процедуры. Знание этих психологических закономерностей составляет часть багажа психологической культуры, которым должен обладать инженер по знаниям для успешного проведения ста­дии извлечения знаний:

доброжелательность и дружелюбие;

чувство юмора;

хорошая память и внимание;

наблюдательность;

воображение и впечатлительность;

большая собранность и настойчивость;

общительность и находчивость;

аналитичность;

располагающая внешность и манера одеваться;

уверенность в себе.

Процедурный слой

Инженер по знаниям, успешно овладевший наукой доверия и взаимопонимания с экспертом (контактный слой), должен еще уметь воспользоваться благоприятным воздействием этой атмосферы. Проблемы процедурного слоя касаются проведения самой процедуры извлече-

ния знаний. Здесь мало проницательности и обаяния, полезного для решения проблемы кон­такта, тут необходимы профессиональные знания.

Остановимся на общих закономерностях проведения процедуры.

Беседу с экспертом лучше всего проводить в небольшом помещении tete-a-tete. Осве­щение, тепло, уют влияют непосредственно на настроение. Чай или кофе создадут дружес­кую атмосферу. Американский психолог И.Атватер считает, что для делового общения наиболее благоприятная дистанция от 1,2 до 3 м. Минимальным "комфортным" расстояни­ем можно считать 0,7 -- 0,8 м.

Реконструкция собственных рассуждений — нелегкий труд, и поэтому длительность одного сеанса обычно не превышает 1,5 - 2 ч. Эти два часа лучше выбрать в первой полови­не дня (например, с 10 до 12ч). Известно, что взаимная утомляемость партнеров при беседе наступает обычно через 20 - 25 мин, поэтому в сеансе нужны паузы.

Любой инженер по знаниям имеет свою уникальную манеру разговора. Одни говорят быстро, другие медленно; одни громко, другие тихо и т.д. Стиль разговора изменить прак­тически невозможно — он закладывается в человеке в раннем детстве. Однако извлечение знаний — это профессиональный разговор, и на его успешность влияет также длина фраз, которые произносит инженер по знаниям.

Этот факт был установлен американскими учеными — лингвистом Ингве и психоло­гом Миллером. Оказалось, что человек лучше всего воспринимает предложения глубиной (или длиной) 7 плюс-минус 2 слова. Это число (7±2) получило название число Ингве-Мил-лера. Можно считать его мерой "разговорности" речи.

Необходимость фиксации процедуры извлечения знаний ни у кого не вызывает сомне­ний. Встает вопрос: в какой форме это делать? Можно предложить три способа протоколи­рования результатов:

• запись на бумагу непосредственно по ходу беседы (недостатки — это часто мешает беседе, кроме того, трудно успеть записать все, даже при наличии навыков стеногра­фии);

• магнитофонная запись, помогающая аналитику проанализировать весь ход сеанса и  свои ошибки (недостаток — может сковывать эксперта);

• запоминание с последующей записью после беседы (недостаток — годится только для аналитиков с блестящей памятью).

Когнитивный слой

Когнитивная психология (англ. cognition — познание) изучает механизмы, при помощи ко­торых человек познает окружающий мир.

Предложим несколько советов инженеру по знаниям с позиций когнитивной психо­логии:

• не навязывать эксперту ту модель представления, которая ему (аналитику) более по­нятна и естественна;

• использовать различные методы работы с экспертом исходя из условия, что метод должен подходить к эксперту, как "ключ к замку";

• четко осознавать цель процедуры извлечения или ее главную стратегию, которая может быть определена как выявление основных понятий предметной области и свя­зывающих их отношений;

• чаще рисовать схемы, отображающие рассуждения эксперта. Это связано с образной
репрезентацией информации в памяти человека.

Материал, изложенный выше, тесно связан с азами психологической культуры, кото­рая включает понимание и знание себя и других людей; адекватную самооценку и оценку других людей; саморегулирование психического состояния. Овладеть этой культурой легче

с помощью специалистов — психологов, психотерапевтов, но можно самостоятельно с по­мощью книг, хотя бы популярных, например. Кроме этого успешному преодолению психологических неудач способствует овладение основами актерского мастерства и участие в специальных занятиях по социально-психологическому видеотренингу.

В заключение приведем ряд традиционных психологических неудач начинающего аналитика:

• отсутствие контакта между экспертом и инженером по знаниям (из-за психологичес­ких особенностей того или другого; ошибок в процедуре; возникновения эффекта "фа­сада", т.е. желания эксперта "показать себя");

• отсутствие понимания (из-за эффекта "проекции", т.е. переноса взгляда аналитика на взгляды эксперта; или эффекта "порядка", т.е. концентрации внимания в первую очередь на том, что высказывается вначале, и др.);

• низкая эффективность бесед (слабая мотивация эксперта, т.е. отсутствие у него инте­реса; или неудачный темп беседы; или неподходящая форма вопросов; или неудовле­творительные ответы эксперта).

ЛИНГВИСТИЧЕСКИЙ АСПЕКТ

Структура лингвистического аспекта

Поскольку процесс общения инженера по знаниям и эксперта — это языковое общение, рассмотрим лингвистический аспект инженерии знаний. Выделим три слоя важных для ин­женерии знаний лингвистических проблем (рис. 17.5).

Рис. 17.5. Структура

лингвистического аспекта

извлечения знаний

Проблема общего кода

Большинство психологов и лингвистов считают, что язык — это основное средство мышле­ния наряду с другими знаковыми системами "внутреннего пользования". Языки, на которых говорят и размышляют аналитик и эксперт, могут существенно отличаться.

Итак, нас интересуют два языка —язык аналитика, состоящий из трех компонентов:

• терминов предметной области, которые он почерпнул из специальной литературы в период подготовки;

• общенаучной терминологии из его "теоретического багажа";

• бытового разговорного языка, которым пользуется аналитик; и язык эксперта, состоящий:

• из специальной терминологии, принятой в предметной области;

• общенаучной терминологии; бытового языка;

• неологизмов, созданных экспертом за время работы (его профессиональный жаргон). Если считать, что бытовой и общенаучный языки у двух участников общения пример­но совпадают, то некоторый общий язык, или код, который необходимо выработать партнерам для успешного взаимодействия, будет складываться из потоков, представленных на рис. 17.6. В дальнейшем этот общий код преобразуется в некоторую понятийную (семантическую) сеть, которая является прообразом поля знаний предметной области.

Рис. 17.6. Схема получения общего кода

Выработка общего кода начинается с выписывания аналитиком всех терминов, употребляемых экспертом, и уточнения их смысла. Фактически это составление словаря предметной области. Затем следуют группировка терминов и выбор синонимов (слов, озна­чающих одно и то же). Разработка общего кода заканчивается составлением словаря терми­нов предметной области с предварительной группировкой их по смыслу, т.е. по понятийной близости (это уже первый шаг структурирования знаний).

Рис. 17.7 дает представление о неоднозначности интерпретации терминов двумя спе­циалистами. В семиотике, науке о знаковых системах, проблема интерпретации является одной из центральных. Интерпретация связывает "знак" и "означаемый предмет". Только в интерпретации знак получает смысл. Так, на рис. 17.7 слова "прибор X" для эксперта озна­чают некоторую конкретную схему, которая соответствует схеме оригинала прибора, а в го­лове начинающего аналитика слова "прибор X" вызывают пустой образ или некоторый "черный ящик" с ручками.

Рис. 17.7. Неоднозначность проблемы интерпретации

Понятийная структура

Большинство специалистов по искусственному интеллекту и когнитивной психологии счи­тают, что основная особенность естественного интеллекта и памяти в частности — это свя­занность всех понятий в некоторую сеть. Поэтому для разработки базы знаний нужен не словарь, а энциклопедия, в которой все термины объяснены в словарных статьях со ссылка­ми на другие термины.

Таким образом, лингвистическая работа инженера по знаниям на данном слое проблем заключается в построении таких связанных фрагментов с помощью "сшивания" терминов. При тщательной работе аналитика и эксперта в понятийных структурах начинает прогляды­вать иерархия понятий, что в общем согласуется с результатами когнитивной психологии.

Иерархия понятий — это глобальная схема, которая может быть в основе концепту­ального анализа структуры знаний любой предметной области.

Следует подчеркнуть, что работа по составлению словаря и понятийной структуры требует лингвистического "чутья", легкости манипулирования терминами и богатого сло­варного запаса инженера по знаниям, так как зачастую аналитик вынужден самостоятельно разрабатывать словарь признаков. Чем богаче и выразительнее общий код, тем полнее база знаний.

Аналитик вынужден все время помнить о трудности передачи образов и представле­ний в вербальной форме. Часто инженеру по знаниям приходится подсказывать слова и вы­ражения эксперту.

Словарь пользователя

Лингвистические результаты, соотнесенные со слоями общего кода и понятийной структу­ры, направлены на создание адекватной базы знаний. Однако не следует забывать, что про­фессиональный уровень конечного пользователя может не позволить ему применить специальный язык предметной области в полном объеме. Для разработки пользовательско­го интерфейса необходима дополнительная доработка словаря общего кода с поправкой на доступность и "прозрачность" системы.

В заключение перечислим характерные лингвистические неудачи, подстерегающие начинающего инженера по знаниям:

• разговор на разных языках (из-за слабой подготовки инженера по знаниям);

• несоотнесение с контекстом и неадекватная интерпретация терминов (из-за отсутствия обратной связи, т.е. слишком независимой работы инженера по знаниям);

• отсутствие отличий между общим кодом и языком пользователя (не учтены различия в уровне знаний эксперта и пользователя).

ГНОСЕОЛОГИЧЕСКИЙ АСПЕКТ

Суть гносеологического аспекта

Гносеология — это раздел философии, связанный с теорией познания, или теорией отраже­ния действительности в сознании человека.

Инженерия знаний как наука, если можно так выразиться, дважды гносеологична — действительность (О) сначала отражается в сознании эксперта (Mi), а затем деятельность и опыт эксперта интерпретируются сознанием инженера по знаниям (М2), что служит уже основой для построения третьей интерпретации (P_z) — поля знаний экспертной системы (рис. 17.8). Процесс познания в сущности направлен на создание внутреннего представле­ния окружающего мира в сознании человека.

Рис. 17.8.  Гносеологический аспект извлечения знаний

В процессе извлечения знаний аналитика в основном интересует компонент знания, связанный с неканоническими индивидуальными знаниями экспертов, поскольку предмет­ные области именно с таким типом знаний считаются наиболее восприимчивыми к внедре­нию экспертных систем. Эти области обычно называют эмпирическими, так как в них накоплен большой объем отдельных эмпирических фактов и наблюдений, в то время как их теоретическое обобщение — вопрос будущего.

Познание всегда связано с созданием новых понятий и теории. Интересно, что часто эксперт как бы "на ходу" порождает новые знания, прямо в контексте беседы с аналитиком. Такая генерация знаний может быть полезна и самому эксперту, который до того момента мог не осознавать ряд соотношений и закономерностей предметной области. Аналитику, который является "повитухой" при рождении нового знания, может помочь тут и инстру­ментарий системной методологии, позволяющий использовать известные принципы логики научных исследований, понятийной иерархии науки. Эта методология заставляет его за частным увидеть общее, т.е. строить цепочки:

ФАКТ -> ОБОБЩЕННЫЙ ФАКТ -» ЭМПИРИЧЕСКИЙ ЗАКОН -» ТЕОРЕТИЧЕСКИЙ ЗАКОН

Не всегда инженер по знаниям дойдет до последнего звена этой цепочки, но уже само стремление к движению бывает чрезвычайно плодотворным. Такой подход полностью со­гласуется со структурой самого знания, которое имеет два уровня:

• эмпирический (наблюдения, явления);

• теоретический (законы, абстракции, обобщения).

Критерии научного знания

Теория — это не только стройная система обобщения научного знания, это также некото­рый способ производства новых знаний. Основными методологическими критериями науч­ности, позволяющими считать научным и само новое знание, и способ его получения, являются:

• внутренняя согласованность и непротиворечивость;

• системность;

• объективность;

• историзм.

Внутренняя согласованность. Этот критерий в эмпирических областях на первый взгляд просто не работает: в них факты часто не согласуются друг с другом, определения противоречивы, диффузны и т.д. Аналитику, знающему особенности эмпирического зна­ния, его модальность, противоречивость и неполноту, приходится сглаживать эти "шерохо­ватости" эмпирики.

Модальность знания означает возможность его существования в различных категори­ях, т.е. в конструкциях существования и долженствования. Таким образом, часть законе-

мерностей возможна, другая обязательна и т.д. Кроме того, приходится различать такие от­тенки модальности, как: эксперт знает, что ...; эксперт думает, что ...; эксперт хочет, чтобы ...; эксперт считает, что ...

Возможная противоречивость эмпирического знания — естественное следствие из ос­новных законов диалектики, и противоречия эти не всегда должны разрешаться в поле зна­ний, а напротив, именно противоречия служат чаще всего отправной точкой в рассуждениях экспертов.

Неполнота знания связана с невозможностью полного описания предметной области. Задача аналитика эту неполноту ограничить определенными рамками "полноты", т.е. сузить границы предметной области, либо ввести ряд ограничений и допущений, упрощающих проблему.

Системность. Системно-структурный подход к познанию (восходящий еще к Гегелю) ориентирует аналитика на рассмотрение любой предметной области с позиций закономер­ностей системного целого и взаимодействия составляющих его частей. Современный струк­турализм исходит из многоуровневой иерархической организации любого объекта, т.е. все процессы и явления можно рассматривать как множество более мелких подмножеств (при­знаков, деталей) и, наоборот, любые объекты можно (и нужно) рассматривать как элементы более высоких классов обобщений.

Объективность. Процесс познания глубоко субъективен, т.е. он существенно зависит от особенностей самого познающего субъекта. Субъективность начинается уже с описания фактов и увеличивается по мере углубления идеализации объектов.

Следовательно, более корректно говорить о глубине понимания, чем об объективности знания. Понимание — это сотворчество, процесс истолкования объекта с точки зрения субъекта. Это сложный и неоднозначный процесс, совершающийся в глубинах человеческо­го сознания и требующий мобилизации всех интеллектуальных и эмоциональных способ­ностей человека. Все свои усилия аналитик должен сосредоточить на понимании проблемы. В психологии подтверждается факт, что люди, быстро и успешно решающие интеллек­туальные задачи, большую часть времени тратят на понимание ее, в то время как быстро приступающие к поискам решения, чаще всего не могут его найти.

Историзм. Этот критерий связан с развитием. Познание настоящего — есть познание породившего его прошлого. И хотя большинство экспертных систем дают "горизонталь­ный" срез знаний — без учета времени (в статике), инженер по знаниям должен всегда рас­сматривать процессы с учетом временных изменений — как связь с прошлым, так и связь с будущим. Например, структура поля знаний и база знаний должны допускать подстройку и коррекцию как в период разработки, так и во время эксплуатации экспертной системы.

Структура познания

Рассмотрев основные критерии научности познания, попытаемся теперь описать его струк­туру. Методологическая структура познания может быть представлена как последователь­ность этапов (рис. 17.9), которые рассмотрим с позиций инженера по знаниям.

Описание и обобщение фактов. Это как бы "сухой остаток" бесед аналитика с экс­пертом. Тщательность и полнота ведения протоколов во время процесса извлечения и пунк­туальная "домашняя работа" над ними — вот залог продуктивного первого этапа познания.

На практике оказывается трудным придерживаться принципов объективности и сис­темности, описанных выше. Чаще всего на этом этапе факты просто собирают и как бы бро­сают в "общий мешок"; опытный инженер по знаниям часто сразу пытается найти "полочку" или "ящичек" для каждого факта, тем самым подспудно готовясь к этапу концеп­туализации.

Рис. 17.9.  Структура познания

Установление связей и закономерностей. В голове эксперта связи установлены, хотя часто и неявно; задача инженера — выявить каркас умозаключений эксперта. Реконструи­руя рассуждения эксперта, инженер по знаниям может опираться на две наиболее популяр­ные теории мышления — логическую и ассоциативную. При этом, если логическая теория благодаря горячим поклонникам в лице математиков широко цитируется и всячески эксплу­атируется в работах по искусственному интеллекту, то вторая, ассоциативная, менее извест­на и популярна, хотя имеет также древние корни. Красота и стройность логической теории не должны заслонять печального факта, что человек редко мыслит в категориях математи­ческой логики.

Ассоциативная теория представляет мышление как цепочку идей, связанных общими понятиями. Основными операциями такого мышления являются ассоциации, приобретен­ные на основе различных связей; припоминание прошлого опыта; пробы и ошибки со слу­чайными успехами; привычные ("автоматические") реакции и пр.

Построение идеализированной модели. Для построения модели, отражающей пред­ставление субъекта о предметной области, необходим специализированный язык, с помо­щью которого можно описывать и конструировать те идеализированные модели мира, которые возникают в процессе мышления. Язык этот создается постепенно с помощью ка­тегориального аппарата, принятого в соответствующей предметной области, а также фор­мально-знаковых средств математики и логики. Для эмпирических, предметных областей такой язык пока не разработан, и поле знаний, которое полуформализованным способом опишет аналитик, может быть первым шагом к созданию такого языка.

Ещё посмотрите лекцию "2.5 Анализ качества САУ по переходной характеристике" по этой теме.

Объяснение и предсказание моделей. Этот завершающий этап структуры познания является одновременно и частичным критерием истинности полученного знания. Если вы­явленная система знаний эксперта полна и объективна, то на ее основании можно делать прогнозы и объяснять любые явления из данной предметной области. Обычно базы знаний экспертных систем страдают фрагментарностью и модульностью (несвязанностью) компо­нентов. Все это не позволяет создавать действительно интеллектуальные системы, которые, равняясь на человека, могли бы предсказывать новые закономерности и объяснять случаи, не указанные в явном виде в базе. Исключением тут являются системы формирования зна­ний, которые ориентированы на генерацию новых знаний и "предсказание".

В заключение перечислим наиболее часто встречающиеся неудачи, связанные с гносе­ологическими проблемами инженерии знаний:

• обрывочность, фрагментарность знаний (из-за нарушений принципа системности или ошибок в выборе фокуса внимания);

• противоречивость знаний (из-за естественной противоречивости природы и общества, неполноты извлеченных знаний, некомпетентности эксперта);

• ошибочная классификация (из-за неправильного определения числа классов или неточного описания класса);

• ошибочный уровень обобщения (из-за чрезмерной детализации или обобщенности классов объектов).