diss005-ilvovsky_AvtoRef (Методы и алгоритмы обработки текстовых данных на основе графовых дискурсивных моделей)

На правах рукописиИльвовский Дмитрий АлексеевичМЕТОДЫ И АЛГОРИТМЫ ОБРАБОТКИ ТЕКСТОВЫХДАННЫХ НА ОСНОВЕ ГРАФОВЫХ ДИСКУРСИВНЫХМОДЕЛЕЙСпециальность 05.13.18Математическое моделирование, численные методы икомплексы программАВТОРЕФЕРАТдиссертации на соискание ученой степеникандидата технических наукМосква - 2017Работа выполнена в Департаменте анализа данных и искусственного интеллекта федеральногогосударственного автономного образовательного учреждения высшего образования «Национальныйисследовательский университет «Высшая школа экономики»Научный руководительдоктор физико-математических наук,Кузнецов Сергей Олегович,Официальные оппоненты:Богатырев Михаил Юрьевич,доктор технических наук, профессор,Кафедра информационной безопасности Институтаприкладной математики и компьютерных наукТульского государственного университета, профессорВиноградов Дмитрий Вячеславович,кандидат физико-математических наук, Федеральныйисследовательский центр «Информатика и управление»Российской Академии Наук,старший научный сотрудникВедущая организация:Федеральное государственное бюджетное учреждениенауки Институт проблем передачи информации им.

А.А.Харкевича Российской академии наук (ИППИ РАН)Защита состоится «___» _________ 2017 г. в 11 часов на заседании диссертационного советаД 002.073.04 при Федеральном государственном учреждении “Федеральный исследовательскийцентр “Информатика и управление” Российской академии наук” (ФИЦ ИУ РАН) по адресу: 117312,Москва, проспект 60-летия Октября, 9 (конференц-зал, 1-й этаж).С диссертацией можно ознакомиться в библиотеке ФИЦ ИУ РАН, Москва, ул.

Вавилова, д. 40.Электронные версии диссертации и автореферата размещены на официальном сайте ФИЦИУ РАН http://www.frccsc.ru.Электронная версия автореферата размещена на официальном сайте ВАК Министерстваобразования и науки РФ по адресу: http://vak.ed.gov.ruОтзывы и замечания по автореферату в двух экземплярах, заверенные печатью, просьба высылать поадресу 117312, Москва, проспект 60-летия Октября, 9, ФИЦ ИУ РАН, диссертационный советД 002.073.04.Автореферат разослан ____.____._______Телефон для справок: +7(499) 135-51-64Ученый секретарь диссертационного совета Д 002.073.04Д.т.н., профессорКрутько В.Н.3Общая характеристика работыАктуальность работы.

Моделирование языковых процессов порождаетзначительноеколичествооткрытыхпроблем,связанныхсразвитиемсоответствующего математического аппарата, созданием и реализациейэффективных алгоритмов и комплексов программ. К настоящему моментуразработано значительное количество хорошо развитых моделей текста,позволяющих (помимо представления текста) вычислять сходство междутекстами: «мешок слов», n-граммы, синтаксические деревья разбора и т.д.Средиисследователей,внесшихзначительныйвкладвразработкуиприменение этих моделей в прикладных задачах (для английского языка),можно отметить C.Manning, H.Schutze, D.Jurafsky, S.Abney, M.Collins,A.Moschitti и многих других.

Подавляющее большинство реализованных напрактике моделей не полностью учитывает структурные особенности текста,ограничиваясь либо частотными характеристиками слов и n-грамм, либосинтаксическими связями внутри отдельных предложений. Эти модели непозволяют работать с текстом на уровне фрагментов, состоящих из несколькихсвязанных предложений ‒ абзацев. К другому классу моделей относятсямногочисленныелингвистическиетеории,втойилиинойстепениучитывающих семантические связи между предложениями.

Здесь можноотметить работы таких исследователей как W.Mann, D.Marcu, J.Searle,I.Mel’cuk, H.Kamp, M.Recaesens, D.Jurafsky и многих других. Однако этимодели обладают уже другим недостатком: они носят по большей частитеоретическийхарактер,неимеютполногоматематическогоилиалгоритмического описания и не могут напрямую быть использованы длярешения прикладных задач. В то же время учет дискурсивных связей внутриабзаца является критическим фактором в таких важных задачах, как поиск посложным и редким запросам, кластеризация поисковой выдачи по сложнымзапросам, классификация текстовых описаний. Всё это делает применение4существующих моделей текста затруднительным и требует разработки новоймодели, которая была бы предназначена для решения перечисленных задач,одновременно обладала достаточной теоретической базой и была реализуема напрактике.Необходимость интеграции в модель сложных структурных описаний иприменения модели для задач кластеризации, делает актуальным применениеметодов, позволяющих работать со структурным сходством и использоватьэффективные приближения описаний.

Методы теории решеток замкнутыхописаний предоставляют удобный и эффективный математический аппарат дляпостроения моделей в решении целого ряда важных научных и прикладныхзадач, в число которых входит и работа с текстами. Эта теория позволяетосуществлятьконцептуальнуюкластеризациюинаходитьсходствопроизвольного множества объектов (в частности, текстов). Включенный втеорию аппарат проекций позволяет эффективно работать с приближеннымиописаниями, в той или иной мере учитывающими основные свойства структурыи понижающими вычислительную и временную сложность обработки этихописаний.Объект исследований – математические модели текстов на естественномязыке. Предмет исследований – модели текстов на естественном языке,предназначенные для поиска, классификации и кластеризации текстовыхданных.Целью диссертационного исследования является разработка моделей иметодовпредставленияиобработкитекстовнаестественномязыке,учитывающих синтаксическую и дискурсивную структуру текстового абзаца иориентированных на применение в задачах поиска, классификации икластеризации текстовых данных.5К задачам исследования относятся: Разработкаструктурноймоделитекстов наестественном языке,ориентированной на поиск, классификацию и кластеризацию текстов ииспользующей синтаксические и дискурсивные связи внутри текста; Применение построенной модели в задаче поиска сходства текстов сцелью улучшения релевантности поиска по сложным запросам; Применение построенной модели в задаче классификации текстов сцельюповышениякачествасуществующихметодовзасчетиспользования дискурсивной информации; Построениенапредставленияосноверазработаннойтекстовыхдокументовмоделистаксономическогоиспользованиемрешетокзамкнутых структурных описаний и применение представления в задачекластеризации текстов; Разработка математической модели и метода для определения связи «таже сущность» в построенных на основе текстовых данных формальныхописаниях и эффективная алгоритмическая реализация данной модели. Реализация разработанных моделей, методов и алгоритмов в видепрограммного комплекса.К методам, использовавшимся в исследовании, относятся: Методы построения и анализа решёток замкнутых описаний; Методы фильтрации решеток понятий на основе индексов качествамоделей; Методы построения проекций моделей на узорных структурах; Методы построения структурных моделей для текстовых данных; Методы построения синтаксических и дискурсивных моделей текста; Методы порождения моделей, основанных на графовом представлении.6Научная новизна.

В диссертации получен ряд новых научныхрезультатов, которые выносятся на защиту:1. Разработана графовая модель текстов, использующая и обобщающаяструктурное синтактико-дискурсивное представление текстового абзаца(чащу разбора). Новизна модели заключается в совместном использованиисинтаксических деревьев разбора и дискурсивных связей для представлениятекстовых абзацев на английском языке.

Модель ориентирована наприменение в задачах поиска, классификации и кластеризации текстов ипозволяет описывать сходство текстов в терминахобобщения ихструктурных графовых и древесных описаний.2. Предложенная модель применена в задаче поиска ответов по сложнымзапросам. Разработан численный метод, использующий разработаннуюмодель. Применение метода позволяет улучшить качество поиска иустранить недостатки существующих моделей благодаря применениювпервыевведеннойвработеоперацииструктурногосинтактико-дискурсивного сходства для запроса и ответов.3. Разработанная модель применена в задаче классификации текстовыхданных. На основе предложенной модели реализован численный метод,использующий ядерные функции. Применение модели позволяет устранитьнедостатки существующих моделей благодаря ранее не применявшемуся взадачах классификации абзацев использованию дискурсивной информации.4.

Разработано на базе предложенной модели таксономическое представлениеколлекции текстовых данных в виде решетки замкнутых структурныхсинтактико-дискурсивных описаний. Полученное представление примененов задачекластеризациитекстовыхданныхипозволяетулучшитьрезультаты, достигаемые альтернативными моделями.5. Разработана на основе модели текстов и теории решеток замкнутыхописаний оригинальная модель тождественных денотатов для формальных7описаний. Предложены численный метод и алгоритм построения связейтипа «та же сущность», использующие разработанную модель. Новизнаметода заключается в использовании оригинального индекса ранжированиязамкнутых формальных описаний для нахождения денотатов.Теоретическаязначимостьработызаключаетсявразработкепринципиально новых моделей и методов: синтактико-дискурсивной моделитекстов, позволяющей представлять текстовые абзацы в виде графов (полноеописание) и лесов (приближенное описание) и вычислять сходство междутекстами, таксономического представления текстовых данных, модели и методавыявления тождественных денотатов для формальных описаний.Практическая ценность подтверждена экспериментами по оценкерелевантности поиска по сложным запросам, обучению на текстовых абзацах,выявлению тождественных денотатов.