dsmts-1 (1015704)
Текст из файла
Введение Принципы Архитектура Оценка Перспективы +(МОСКОВСКИЙ АВИАЦИОННЫЙ ИНСТИТУТ(национальный исследовательский университет (МАИ)))Распределенноепрограммно-информационноеобеспечение статистической моделиперевода естественных языковВыполнил студент группы 08-606Никитин Илья КонстантиновичНаучный руководительассистент кафедры 806Гаврилов Евгений Сергеевич16 января 2012 г.: Е. C. Гаврилов и И. К. НикитинСтатистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Зачем МетодыДля чего нужен машинный перевод?Iбытовой перевод:IIIIIкниги,переписка;поиск в Интернете на разных языках (внутри поисковыхалгоритмов и дополнительная функция для пользователя);перевод научных публикаций c других языков;применения достижений в других областях:IIIавтоматическое реферирование,распознавание речи,распознавание последовательностей аминокислот (ДНК).16 января 2012 г.: Е.
C. Гаврилов и И. К. Никитин#2 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Зачем МетодыОсновные методы машинного перевода.. перевод.Машинный..Правила..Пословные..Данные..Интерлингвистические..Трансфеные16 января 2012 г.: Е. C. Гаврилов и И. К. Никитин.Основанные .на примерах..Статистические#3 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода ДекодерМодель зашумленного канала I..Источник(R).Шум...Передачик..Приемник.Цель. (E)1. Пусть ϕr — фраза оригинала (русская).2. Требуется найти ϕe — фразу перевода (английскую).Максимизировать P(ϕe |ϕr ).P(ϕe |ϕr ) =(P(ϕe ) · P(ϕr |ϕe ))⇒P(ϕr )ϕeg = arg max P(ϕe |ϕr ) = arg max (P(ϕe ) · P(ϕr |ϕe ))∪ϕe16 января 2012 г.: Е.
C. Гаврилов и И. К. Никитин∪ϕe#4 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода Декодер.Статистическая система. машинного перевода.Модель языка.P(ϕe ).Модель перевода.P(ϕr |ϕe )arg max P(ϕe |ϕr ) = arg max (P(ϕe ) · P(ϕr |ϕe ))∪ϕeII∪ϕeϕe — фраза перевода (английская);ϕr — фраза оригинала (русская).16 января 2012 г.: Е.
C. Гаврилов и И. К. Никитин#5 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода Декодер.Статистическая система. машинного перевода.Модель языка.P(ϕe ).Модель перевода.P(ϕr |ϕe )Декодер..arg max (P(ϕe ) · P(ϕr |ϕe ))∪ϕe16 января 2012 г.: Е. C.
Гаврилов и И. К. Никитин#6 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода Декодер.Статистическая система. машинного перевода.Модель языка.P(ϕe ).Модель перевода.P(ϕr |ϕe )Декодер..arg max (P(ϕe ) · P(ϕr |ϕe ))∪ϕe.Корпус текста.на языке ϕe .16 января 2012 г.: Е. C.
Гаврилов и И. К. Никитин.Параллельныйкорпус .текстана языках ϕe и ϕr .#7 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода ДекодерМодель языкаIПравильный порядок слов.IВычисляется с помощью n-грамм слов. Пример для 3-грамм:(ω1 ,ω2 ,ω3 ); (ω2 ,ω3 ,ω4 );ϕ = (ω1 , ω2 , ω3 , ω4 , . .
. , ωl ) ⇒.........(ωl−2 , ωl−1 , ωl ).IВычисляется по формуле:P(ϕ) = P(ω1 . . . ωl ) =i=l+n−1∏P0 (ωi |ωi−1 . . . ωi−n+1 ).i=016 января 2012 г.: Е. C. Гаврилов и И. К. Никитин#8 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода ДекодерМодель перевода IIВводим выравнивание для пары предложений Πe , Πr .IДля выравнивания нужны вероятности лексическогоперевода ωe → ωr .IДля вероятности лексического перевода нужнывыравнивания.IПроблема «курицы и яйца».16 января 2012 г.: Е.
C. Гаврилов и И. К. Никитин#9 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода ДекодерМодель перевода IIДля оценки вероятности лексического перевода −→ EM-алгоритм(Витерби):Iинициализируем параметры модели (одинаковымизначениями, на первой итерации);Iоценим вероятности отсутствующей информации;Iоценим параметры модели на основании новой информации;Iперейдем к следующей итерации.16 января 2012 г.: Е.
C. Гаврилов и И. К. Никитин#10 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода Декодер∃ Что предложили мы: отличия от других системСистема используется для перевода научно-технической литературы..Слова → n-грамы.....⇐ Устойчивые формальные выражения в научных текстах.....Выравнивание по круппным группам n-грам...⇐ прямой порядок слов;..⇐ стереотипная структура предложений.....Модели низких порядков...⇐ важность локального порядка слов;.16 января 2012 г.: Е.
C. Гаврилов и И. К. Никитин#11 6 36 | Статистический машинный перевод.⇐ фертильности и вероятностной грамматики могут его разрушить....Введение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода ДекодерДекодер.Среди всех возможных вариантовперевода выбрать правильный:Iполный перебор;IA*:.IIИсходная фразаϕ.rМодельперевода.P(ϕr |ϕe )жадный инкрементный поиск;Iсведение к обобщенной задачекоммивояжера.16 января 2012 г.: Е.
C. Гаврилов и И. К. НикитинМодельязыка.P(ϕe )Декодер..стековый поиск,многостековый поиск;I..Перевод исходной фразыarg max (P(ϕe ) · P(ϕr |ϕe ))ϕe#12 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Модель Шеннона Модель языка Модель перевода ДекодерЖадный инкрементный поискIIIпростой и быстрый поиск;«плохой» вариант перевода получаем сразу;последовательно применяя набор операций можемулучшить перевод;IIIIIизменить перевод слова (группы слов, n-граммы),удалить слово (группу слов, n-грамму),поменять слова местами (группы слов, n-граммы);можно делать отсечку по времени;можем сразу оценить модель языка большой фразы.16 января 2012 г.: Е. C. Гаврилов и И.
К. Никитин#13 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Обзор Обучение Декодеривание∃ Что предложили мы: из чего состоит.Корпус .En, Ru... ЧитательB ErlangI Набор приложений.I Могут быть удаленыдруг от друга.I Распределеныгде это возможно..ПРС-СМПданных... БазаB Redis.. ДекодерB Erlang.Веб..интерфейсы.Консоль...
ОбработчикB Erlang.16 января 2012 г.: Е. C. Гаврилов и И. К. Никитин#14 6 36 | Статистический машинный перевод.Rest..Читатель...Обработчик..............Nо ·Nч ·.Декодер...Iжадный инкрементныйпоиск;Iдва режима работы:I.....Iперевода,улучшения.Iпошаговый веб-интерфейс;Iпотоковый RESTful-сервис;Iпошаговый консольныйинтерфейс.Введение Принципы Архитектура Оценка Перспективы +Примеры BLEU Скорость∃ Примеры IОригинал... adopted at the 81st plenary meeting ...Переводчик...
принята на 81-м пленарном заседании ...Система... принята без голосования на 81 пленарном заседаниив Брюсселе ...16 января 2012 г.: Е. C. Гаврилов и И. К. Никитин#17 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Примеры BLEU Скорость∃ Примеры IIОригиналIt will be instructive to exhibit Euclid’s algorithm here.ПереводчикДумаю, имеет смысл привести здесь описание этого алгоритма.СистемаБудет поучительно выставить алгоритм Евклида здесь.16 января 2012 г.: Е. C. Гаврилов и И. К. Никитин#18 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Примеры BLEU Скорость∃ Примеры IIIОригиналMany years have passed since the author wrote most of thecomments above ...ПереводчикСо времени первого написания автором большинстваприведенных выше комментариев утекло много воды ...СистемаМного лет прошло с тех пор, автор написал большую частькомментариев выше ...16 января 2012 г.: Е.
C. Гаврилов и И. К. Никитин#19 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Примеры BLEU СкоростьОценка перевода с использованием метрики BLEUIBLEU — Bilingual Evaluation UnderstudyIЧисленная оценка качества перевода.IНужен перевод, выполненный человеком.IПоказывает величину близостик «человеческому» переводу.IСравнивались:IIСистемаПРС-СМП (1)ПРС-СМП (100)Moses (IBM 3)Moses (IBM 5)ПРС-СМП;cистемы построенная на основеMoses.16 января 2012 г.: Е. C. Гаврилов и И. К. Никитин#20 6 36 | Статистический машинный переводBLEU0.2430.2090.2010.173Введение Принципы Архитектура Оценка Перспективы +Примеры BLEU СкоростьОценка скорости обученияПроцессор: Intel Core2 Duo, 1 ядро 64 бит, ОП 4Гб, ФС:ext4СистемаПРС-СМП (1)Moses (GIZA++)Chaski (MGIZA++)Время, ч≈5≈ 25≈ 26Процессор: Intel Xeon E5506, 8 ядер 64 бит, ОП 10Гб, ФС:xfsСистемаПРС-СМП (1)Moses (GIZA++)Chaski (MGIZA++)16 января 2012 г.: Е.
C. Гаврилов и И. К. НикитинВремя, ч≈1≈ 22≈3#21 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Примеры BLEU СкоростьОценка скорости декодированияПроцессор: Intel Core2 Duo, 1 ядро 64 бит, ОП 4Гб, ФС:ext4СистемаПРС-СМП (1)ПРС-СМП (100)Moses (IBM 3)Moses (IBM 5)Время, мкс11327108124≈ 10000000≈ 30000000Процессор: Intel Xeon E5506, 8 ядер 64 бит, ОП 10Гб, ФС:xfsСистемаПРС-СМП (1)ПРС-СМП (100)Moses (IBM 3)Moses (IBM 5)16 января 2012 г.: Е.
C. Гаврилов и И. К. НикитинВремя, мкс10121119024≈ 5000000≈ 6000000#22 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Результаты Развитие РезультатыРезультатыIРазработан подход:IIбыстрого обучения модели перевода для научных текстов.Реализивана система машинного перевода:IIIIмногопроцессорная, распределенная;только научно-техническая литература;быстрое обучение;быстрое (пошаговое) декодирование.16 января 2012 г.: Е.
C. Гаврилов и И. К. Никитин#23 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Результаты Развитие РезультатыДальнейшее развитиеМатематика:Iполноценный фразовый перевод;Iсинтаксический перевод;Iсмешанная система перевода:IIIпара русский-английский,морфологический анализ.Архитектура и реализация:Iиспользовать пословное сжатиепри хранении в БД;Iпереписать обработчика на Cи сlibevent;Ilibevent для RESTful-сервисадекодера:опробовать более точные методыпоиска.II16 января 2012 г.: Е. C. Гаврилов и И.
К. Никитин1 млн. одновременныхсоединенийпопробовать Redis → leveldb.#24 6 36 | Статистический машинный переводВведение Принципы Архитектура Оценка Перспективы +Результаты Развитие РезультатыРезультатыIРазработан подход:IIбыстрого обучения модели перевода для научных текстов.Реализивана система машинного перевода:IIIIмногопроцессорная, распределенная;только научно-техническая литература;быстрое обучение;быстрое (пошаговое) декодирование.16 января 2012 г.: Е. C.
Характеристики
Тип файла PDF
PDF-формат наиболее широко используется для просмотра любого типа файлов на любом устройстве. В него можно сохранить документ, таблицы, презентацию, текст, чертежи, вычисления, графики и всё остальное, что можно показать на экране любого устройства. Именно его лучше всего использовать для печати.
Например, если Вам нужно распечатать чертёж из автокада, Вы сохраните чертёж на флешку, но будет ли автокад в пункте печати? А если будет, то нужная версия с нужными библиотеками? Именно для этого и нужен формат PDF - в нём точно будет показано верно вне зависимости от того, в какой программе создали PDF-файл и есть ли нужная программа для его просмотра.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
