2012 Теормин и Программа экзамена по курсу МОТП (экзаменационые вопросы)

Теоретический минимум по курсу «Математические основы теориипрогнозирования» 2012Незнание ответа на любой из нижеследующих вопросов автоматически влечетнеудовлетворительную оценку за экзамен. Эти вопросы являются лишь необходимымтребованием. Знание ответов только на эти вопросы не обеспечивает положительной оценки заэкзамен.1. В каких случаях применяются методы распознавания, методы регрессионного анализа?2.

Что такое обобщающая способность? Методы оценки обобщающей способности.Что такое скользящий контроль?3. Что такое эффект переобучения? Привести пример переобучения.4. Что такое Байесовский классификатор?5. Структура алгоритма распознавания. Что такое распознающий оператор?6.

Каковы цели использования ROC анализа в задачах распознавания.5. Что такое метод максимального правдоподобия? Привести пример функции правдоподобия.6. Что такое метод наименьших квадратов?7. Дать определение математического ожидания, ковариации, дисперсии, коэффициентакорреляций. Что такое ковариационная матрица для многомерных случайных величин.8. Записать формулу для одномерного/многомерного нормального распределения.9. Записать формулу для биномиального распределения? Что оно описывает?10. Что такое метод k-ближайших соседей?11. Что такое Линейный дискриминант Фишера?12 Что такое многослойный перцептрон?13 .

Основная идея метода Опорных векторов. К решению какой оптимизационной задачисводится МОВ.14. Дать определение теста и тупикового теста. Общая схема тестового алгоритма.15. Что такое представительный набор.16. Изложить общую схему алгоритма вычисления оценок.Дать определение опорного множества и характеристического вектора опорного множества.распознавания.17. Каким образом вводятся алгебраические операции над алгоритмами распознавания ? Чтотакое линейное и алгебраическое замыкание множества алгоритмов распознавания?18. Общая схема решающего дерева.19.

Общая схема методов распознавания, основанных на голосовании по системамзакономерностей.20. Цели использования кластерного анализа. Что такое иерархические методы кластеризации?21. Основные цели методов анализа выживаемости (надёжности).Программа экзамена.1. Область применения методов, основанных на обучении по прецедентам (машинномобучении). Примеры применения. Понятие обучающей выборки. Способ обучения,основанный на минимизации эмпирического риска.2. Понятие обобщающей способности. Для каких алгоритмов достигается максимумобобщающей способности. Байесовский классификатор.3.

Способы оценки обобщающей способности. Скользящий контроль.4. Эффект переобучения.5. Теоретические подходы к исследованию обобщающей способностиТеория Вапника-Червоненкиса. Понятие равномерной сходимости частот ошибок к ихвероятностям. Условия достижения равномерной сходимости. Функции роста и еёсвойства. Понятие ёмкости множества алгоритмов и свяхь её с обобщающейспособностью.6.

Метод линейная машина. Способ обучения.7. Линейная регрессия. Использование метода наименьших квадратов для оценкикоэффициентов. Связь МНК с методом максимального правдоподобия. Оценкапараметров одномерной регрессии.8. Поиск коэффициентов многомерной регрессии с помощью МНК. Формула длярегрессионных коэффициентов. Явление мультиколлинеарности.9. Свойства оптимальных регрессий.10.

Трёхкомпонентное разложение обобщённой ошибки. Смысл шумовой составляющей,составляющей сдвига и дисперсионной составляющей. Bias-Variance дилемма.11. Байесовские методы обучения. Аппроксимация с помощью многомерного нормальногораспределения. Способ обучения.12. Линейный дискриминант Фишера. Способ обучения.13. Метод k-ближайших соседей. Способ обучения.14. Логистическая регрессия. Способ обучения.15. Распознавания при заданной точности распознавания одного из классов. Оптимальноерешение согласно лемме Неймана-Пирсона.16. ROC анализ.

Основные цели метода. Способ построения ROC кривых.17. Принцип частичной прецедентности. Понятие тупикового теста. Общая схема тестовогоалгоритма. Обобщение для вещественнозначной информации.18. Понятие тупикового представительного набора. Общая схема алгоритма распознавания,основанного на тупиковых представительных наборах. Обобщение длявещественнозначной информации.19. Модель Алгоритмов вычисления оценок. Понятия и опорного множества, функцииблизости, для вычисления оценок за классы.

Компактные формулы для оценок в случае,когда признаки равноправны, а мощность опорных множеств фиксирована.Способыобучения для модели АВО.20. Модель искусственного нейрона. Пецептрон Розенблатта и метод его обучения, условиесходимости.21. Многослойный перцептрон и его структура. Аппроксимирующая способностьмногослойных перцептронов.

Метод обратного распространения ошибки.22. Ядерные методы оценки плотности распределения классов.23. Метод опорных векторов. Концепция максимального “зазора”. Сведение к задачеквадратичного программирования. Условия, налагаемые теоремой Каруша-Куна-Таккера.Двойственная задача квадратичного программирования. Опорные вектора и их роль вформирование распознающего алгоритма.24. Обобщение исходного варианта метода опорных векторов на случай отсутствия линейнойразделимости. “Смягчение” условия линейной разделимости с помощью введениядополнительных переменных. Основные отличия от исходного варианта метода.25.

Обобщение метода опорных векторов, позволяющее строить нелинейные разделяющиеповерхности.26. Решающие деревья. Методы обучения. Индексы неоднородности. Критерии остановкиветвления. Методы “подрезки”.27. Коллективные методы. Обоснование. Ошибка выпуклой комбинации алгоритмовпрогнозирования. Простые комитетные методы. Наивный Байесовский классификатор.28. Логическая коррекция.

Монотонный логический корректор.29. Алгебраические методы коррекции. Введение алгебраических операций надраспознающими алгоритмами. Линейное и алгебраическое замыкание. Полнота задачираспознавания относительно множества операторов. Условие существования корректногоалгоритма в линейном замыкании и алгебраическом замыканиях.30. Линейное и алгебраическое замыкания над моделями алгоритмов. Корректностьалгебраического замыкания модели АВО относительно регулярных задач.31. Коллективные методы основанные на бутстрэп репликациях. Метод бэггинг.32. Метод бустинг.33. Методы, основанные на голосовании по системам логических закономерностей. Полные ичастичные логические закономерности.

Методы поиска. Коллективное решение.34. Метод «Статистически взвешенные синдромы». Оптимальные разбиения в рамкахфиксированных моделей. Коллективное решение.35. Методы кластеризации. Цели кластерного анализа. Метод k-внутригрупповых средних.Алгоритм Форель. Иерархические методы кластеризации.36. Коллективные решения в кластерном анализе.

Сумматоры. Контрастные матрицы. Поископтимального коллективного решения.37. Методы многомерной визуализации.38. Метод главных компонент. Метод поиска и свойства главных компонент.39. Методы анализа выживаемости (надёжности). Оценки кривых выживаемости по методуКаплан-Майера. Модель Кокса.40. Прогнозирование временных рядов. Метод скользящего среднего.

Использованиеметодов машинного обучения при прогнозировании временных рядов. Поиск циклов..