Курсовая работа: Машинное обучение

Содержание

• Введение…………………………………………………………………….4
• Постановка задачи……………………………………………………….....4
  • Основные понятия………………………………………………………...4

2.1.1 Задача бинарной классификации……...……………………………...4
2.1.2 Оценка качества алгоритмов………………………………...………5
2.2 Постановка задач с категориальными признаками……………………………..5
2.3 Примеры задач с категориальными признаками……………...………………..6

• Используемые методы……………………………………………………..7
  • Группировка значений признаков………………………………….……….7
  • Метод q ближайших соседей……………………...……………….……….7
  • Произвольная перенумерация значений…………………….…………….…8
  • Наивный байесовский классификатор…………………….…………..…….9
  • Аппроксимация целевых меток с помощью взвешенных разреженных разложений матриц…………………….………………………………....10
  • Стекинг алгоритмов…………………….………………………………...11
  • Использование частот совместных встречаемости значений признаков для их перекодировки……………………………………....…………………....12

3.7.1. Перекодировка частотами встречаемости наборов значений….........12
3.7.2. Разложение матриц частот…………………………...……….….13

• Данные………………………………………………………………….….14
  • Amazon Employye Access Challenge…….…………………………….…….15

4.1.2 Выбор способа тестирования алгоритмов………………………...….15

• Movie Lens……………………………………………………………….16
  • Обзор набора данных……………………………………...……….16
  • Выбор способа тестирования алгоритмов………………………..….17
• Эксперименты……………………………………………………………..17
  • Используемая система для экспериментов…………………………………17
  • Метод ближайшего соседа………………………………………………...18
  • Наивный байесовский классификатор и его расширения……………………18

5.3.1 Классический наивный байес……………………………………...…18
5.3.2 Обучение внешнего мира-алгоритма………………………………....20

• Разреженная логистическая регрессия……………………………….…….22
• Произвольные перенумерации значений признаков………………………...24
• Аппроксимация целевых меток с помощью матричных разложений………...25
• Перекодировки частотами………………………………………………...25

5.7.1 Выбор количества компонентов……………………………..………25

• Заключение………………………………………………………………..26

Список литературы………………………………………………………………27

• Введение

С развитием технологий растет востребованность на методы нахождения закономерностей в больших объемах данных и, в частности, алгоритмы машинного обучения на прецедентах. Большая часть таких алгоритмов позволяют учитывать лишь вещественные признаки для описания наблюдаемых объектов. Но на практике часто встречаются задачи с категориальными признаками, принимающими свои значения из конечного неупорядоченного множества. В настоящей работе проанализированы имеющиеся алгоритмы, учитывающие категориальные признаки, а также предложены новые методы. Работа всех описанных в данной курсовой работе была исследована и проверена на реальных наборах данных.

• Постановка задачи