Диссертация (Автоматическая разметка семантических ролей в русском языке), страница 12

Затем каждый из натренированных классификаторовприменяется к новому экземпляру, и выбирается класс, получившийнаибольший вес.Рисунок 14: Классификация методом "один против всех"Альтернативныйспособприведениязадачимультиклассовойклассификации к задаче бинарной классификации – "каждый против каждого".В этом случае для каждой пары классов строится отдельный классификатор (всумме ( − 1)/2 классификаторов для классов), и результаты работы этихклассификаторов используются для ранжирования меток классов для каждоговходного экземпляра.

Несмотря на то, что в данном случае требуется построитьбольше классификаторов, для обучения каждого из них используется меньшеданных, а решающие функции зачастую оказываются более надёжными. Крометого, данный метод позволяет получить информацию о ранжировании.74Рисунок 15: Классификация методом "каждый против каждого"На практике выбор того или иного метода зависит от параметров задачии от технических возможностей.

В нашем исследовании мы остановились наклассификации "один против всех", но это связано в первую очередь сособенностями имплементации нашей системы, а не с характеристикамизадачи, в контексте которой, впрочем, мы не видим очевидных преимуществиспользования попарной классификации над выбранным нами методом.В заключение хочется отметить, что существует множество алгоритмовклассификации, которые могут быть применены к задаче автоматическойразметки актантов. В рамках настоящего исследования мы стремились сделать75систему максимально простой и при этом содержащей все необходимыекомпоненты и не проводили детального сравнения результатов работыразличных классификаторов на наших данных.

Одним из конкурирующихподходов при выборе алгоритма классификации в нашем случае были деревьяпринятия решений, преимущество которых состоит в том, что полученныемодели могут быть легко интерпретированы человеком. На практикеоказалось, что наши исходные данные содержат неточности, и деревьяпринятия решений работают на них неэффективно. Подбор и оптимизацияклассификатора безусловно имеют большое значение для задач, связанных смашинным обучением, однако поскольку основания выбора классификаторалишь косвенно связаны с лингвистическими задачами исследования, этапроблематика осталась за рамками настоящей работы. Существенно болеезначимым с точки зрения лингвистических оснований решения поставленнойзадачи является проблема выбора тех свойств, которые используются дляобучения системы.

Именно этому вопросу и будет посвящен следующийраздел.II.3.4 Свойства для обученияВ качестве свойств, используемых для представления объекта, мыиспользуем свойства, традиционно применяемые в системах автоматическойклассификации актантов на основе машинного обучения.

Каждый узел деревазависимостей мы описываем в терминах восьми свойств, объединённых в двегруппы: синтаксические и семантические свойства. Остановимся на нихподробнее.76Синтаксические свойстваЗадачасинтаксическихсвойств–предоставитьклассификаторуинформацию о месте узла в синтаксическом дереве зависимостей и обиндивидуальных синтаксических характеристиках узла, которые могут бытьполезны для определения его семантической роли.Свойство "путь" (Path)Данное свойство мы определяем как путь от целевого предиката крассматриваемому узлу в дереве зависимостей.

Путь задаётся в терминахсинтаксических отношений, а также направления этих отношений. Например,рассмотрим предложение "Петя работает на заводе".Здесь "работать" является целевым предикатом конструкции. Путь отпредиката к узлу "завод" будет состоять из двух связей с метками "2-компл"(второе комплетивное отношение) и "предл" (зависимость от предлога) или,более кратко, [2-компл, предл].

Вся структура представлена в виде деревазависимостей на Рис. 16:Рисунок 16: Дерево зависимостейПосколькусемантическиеактантыневсегдасоответствуютсинтаксическим, путь от предиката до его семантического актанта может иметьсущественную длину и выходить за пределы клаузы. Тем не менее, следует77отметить, что поскольку граф зависимостей по определению является деревом,оказывается возможным проложить путь между двумя любыми узлами дерева,в крайнем случае, для этого используется абстрактный корневой узел ROOT.Путь – одно из самых важных и проблемных свойств в автоматическойразметке актантов, и мы подробно остановимся на его особенностях ниже.Свойство "падеж" (Case / FinnCase)Русский язык использует падеж для маркирования синтаксических связеймежду предикатом и его синтаксическими аргументами.

Несмотря на то, чтосемантические аргументы не всегда соответствуют синтаксическим, какправило,свойство"Падеж"предоставляетклассификаторуважнуюдополнительную информацию о маркировании выбранного узла. Например,Рисунок 17: Дерево зависимостей без именованных отношенийВ случае с падежным маркированием глагольных аргументов в русскомязыке, часто оказывается, что значение имеет не столько сам падеж слова,сколько комбинация предлога и падежа, которую мы далее будем именовать"финским падежом" и которой посвящён отдельный раздел.78Рисунок 18: Дерево зависимостей с указанием "финского падежа"Следует дополнительно отметить, что значимость свойств "падеж" и"финский падеж" возрастает в случае, если деревья зависимостей дляобучающих и тестовых данных получены автоматически.

Это происходитпотому, что задача автоматического синтаксического анализа оказывается вцелом сложнее, чем задача морфологического анализа, а качество работысинтаксических парсеров в целом ниже, чем качество морфологическиханализаторов. В этой связи свойства, основанные на падеже, оказываютсяболее надёжными и дают классификатору возможность принять правильноерешение даже в тех случаях, когда синтаксическое дерево для тренировочногоили тестового предложения было построено неверно.Семантические свойстваДанная группа свойств отражает семантические характеристики лексемы,представленной в узле. Одно из свойств семантических ролей состоит в том,что они заполняются близкими по своим семантическим свойствам актантами.Действительно, можно представить себе случаи, когда даже одной тольколексической информации о классах слов было бы достаточно для правильноинтерпретации предложения в терминах семантических ролей.

Рассмотримследующий пример:79Рисунок 19: Представление на основе лексемПри условии, что нам известны семантические ограничения назаполнение ролей (в эксплицитной форме или в форме модели), даже приотсутствии информации о порядке слов и падежном маркировании. мы можемоднозначно установить, что “Петя” является покупателем, “яблоко” – товаром,“рынок” – местом, а “рубль” – ценой.На практике такие примеры встречаются нечасто.

Кроме того,семантическая модель, которая позволила бы производить такой анализ вобщем случае, отличается от традиционных моделей, построенных попринципу тезауруса, т.к. опирается на более тонкие, часто предикатноспецифичные различия между лексемами. В любом случае, семантическиехарактеристики лексемы имеют большое значение для классификацииактантов и традиционно входят в список наиболее важных для этой задачисвойств.Свойство "Лемма"Построение семантических моделей для описания ограничений назаполнение ролей – нетривиальная процедура. Однако приписание роли наосновании буквального совпадения лексем в тренировочном и тестовом80предложении – достаточно надёжная и точная эвристика.

Поскольку нашасистема не использует механизмов автоматического снятия лексическойнеоднозначности, и поскольку данный тип неоднозначности не снят в исходныхданных, мы используем лемму слова, т.е. его начальную форму, например,“покупателям” → “покупатель”, “синего” → “синий” и т.д.Свойство "Кластер"Описание семантики актантов в терминах лемм позволяет добитьсявысокой точности при совпадении леммы, однако ведёт к потерям в полноте,т.к. буквальное совпадение лемм в общем случае маловероятно. Для того,чтобы смягчить этот эффект, как правило, используется внешний ресурс,содержащий, в том числе, обобщенную информацию как о леммах изтренировочного набора, так и о леммах из тестовых предложений: это можетбыть метка значения (как, например, в тезаурусах) или метка кластера.

Такимобразом, все леммы объединяются в определенные группы по семантическойблизости значений. В нашем исследовании мы использовали разбиениелексики на кластеры, автоматически полученное на большом объёме текстовыхданных с помощью метода дистрибутивного семантического анализа [Harris,1954; Mikolov и др., 2013]. Таким образом, вместо того, чтобы сравниватьконкретные леммы их обучающего и тестового корпуса, мы можем сравнить ихсемантические кластеры, и при совпадении класса считать слова сходными.Выбранныйметодирезультатыкластеризациибудутспециальнорассматриваться ниже, здесь же ограничимся примером использованиякластеров при генерации свойств узла. На Рис.

20 показано то, как кластерыслов дают возможность расширения лексических свойств лемм, влияющих наидентификацию ролевой принадлежности узла.81Рисунок 20: Представление на основе лексем с информацией о кластерахСвойство "Часть речи"Наконец, для описания узла мы используем его часть речи. Решение отом, чтобы считать это свойство семантическим, а не синтаксическим, можетпоказаться спорным, однако с нашей точки зрения, в рамках задачи semanticrole labeling для русского языка частеречная принадлежность слова несётскорее семантическую, нежели синтаксическую нагрузку. В английском языкепадеж в общем случае недоступен, и часть речи играет важную роль в томчисле в качестве "подстраховки" в случае сбоев синтаксического парсера.