Ответы к контрольной работе: Алгоритмы интеллектуальной обработки больших объемов данных

Весь процесс обучения глубокой сети можно свести к процессу?

Укажите достоинства машины Боцмана:

На электронную почту пришло письмо. Пусть X – бинарный признак, указывающий, содержит входящее письмо сочетание слов "вам оставили наследство" (=1), или нет(=0), а Y – класс письма, указывающий, спам это (=1), или нет (=0). Известно, что P(Y=1)=0,05, P(X=1|Y=1)=0,0001, P(X=1|Y=0)=0,00001, и в письме присутствует указанное словосочетание. Каким решающим правилом нужно воспользоваться – максимального правдоподобия (ML) или апостериорного максимума (MAP), чтобы определить, пришедшее письмо – спам или нет:

Слой нейронной сети – это:

Какие задачи может решать Text Mining

Укажите пропущенные слова в первом правиле Хебба: "Если два нейрона по разные стороны от синапсов активируются …, то "вес" синапса … "

Какое утверждение можно отнести к первому правилу Хебба ?

Сети с обратными связями – это

Выберите сферы применения PCA

Иерархические дивизимные методы характеризуются следующим:

Назовите причины использования алгоритмов кластеризации.

Выберите лишний этап методологии CRISP-DM:

Что из перечисленного является средством EDA?

Сколько слоев может обработать одна ограниченная машина Больцмана (restricted Boltzmann machine - RBM)?

Какая функция активации применяется наиболее удобна для описания выходного сигнала нейрона?

Укажите не верное выражение характеристики использования алгоритма RandomForest

Какие характерные активности этапа подготовки данных (Data Preparation) для процесса CRISP-DM

На диаграмме процесса CRISP-DM после этапа Моделирование (Modeling) следует этап

Рассмотрим многослойный персептрон, состоящий из вытянутых в линейную цепочку 10 нейронов (один из них входной, один выходной, а 8 образуют 8 скрытых слоев). Для коррекции весов используется алгоритм обратного распространения ошибки (back propagation). Функция ошибки среднеквадратическая. Значения весов и ошибка на выходе не превышают по модулю единицы. Выберите, при каких значениях сигнала на входе градиент на входе может превысить 0,0001.

Укажите основные подходы к построению стохастических методов:

Выберете верное высказывание, характеризующее паралич сети для Backprop?

Выберете верное высказывание, характеризующее семплирование по Гиббсу?

Дан единичный квадрат с координатами вершин (0;0), (0;1), (1;1), (1;0). При этом первая и третья вершины относятся к классу "-1", а вторая и четвертая – "1". Требуется построить классификатор, получающий на входе координату вершины, а на выходе дающий метку класса (задача XOR). Функция потерь определяется числом неправильно классифицированных вершин с учетом их веса. В результате применения алгоритма AdaBoost были построены три модели со следующими разделяющими границами: (1) прямая, проходящая через точки (1/2;0) и (0;1/2), (2) прямая, проходящая через точки (1/2;1) и (1;1/2), (3) прямая, проходящая через точки (1/2;1) и (0;1/2). Изначально веса вершин одинаковы и равны 1/4, далее они пересчитываются в соответствии с алгоритмом. Укажите получившиеся веса первой, второй и третьей модели соответственно:

Какой из режимов обучения для "Ограниченной машины больцмана" будет самым точным и давать истинный градиент?

В чем задача функции активации?

Укажите минимальное количество скрытых слоев многослойного персептрона и нейронов в них, которое достаточно для построения равномерной аппроксимации с заданной точностью для любого обучающего множества, представленного набором m>1 входов и желаемого отклика f.

Что из указанного работает лучше для больших обучающих выборок в ситуациях когда в данных имеются сложные зависимости

Выберите верные утверждения

Факты об алгоритме бустинга. При нулевой ошибке на обучающей выборке, количество ошибок на тестовой выборке ?

Где лучшая область применения нейронных сетей ?

Укажите верное утверждение

Какова идея метода главных компонент?

Какая мотивация для сдерживания размерности признакового описания данных?

Выберите верные свойства функции, присущие функции ядра

Преимущества SVM?

Даны три обучающих примера (x1,x2): (0;4), (0;-4), (4;-4), первый относится к классу "1", второй и третий – к классу "-1". Постройте решающую границу методом опорных векторов (SVM). В качестве тестовых возьмите примеры A(-1;-1), B(-1;1), C(1;1), D(1;-1), первые два относятся к классу "-1", вторые два – к "1". Укажите, какие тестовые примеры подтверждают решающую границу.

В модели линейной регрессии h(x,w) чем является w?

Назовите преимущества "наивного Байесовского классификатора" ?

При обработке текстов, укажите подходы для приведения токенов к единому виду, чтобы избавиться от поверхностной разницы в написании ?

В обобщенной формуле обучения модели learning= representation +Evaluation+ optimization критериями Evaluation являются

Что из этого является видом модели классификации?

На чем основана кластеризация DBSCAN?

Для использования алгоритмов иерархической кластеризации текста, какие подходы существуют для выбора "типичного" представителя - кластроида в каждом из кластеров ?

Укажите достоинство использования PCA

Дендрограмма формируется как результат работы:

Для задачи функции активации - ограничить амплитуду выходного значения нейрона, чаще всего используется сигмоидальная (S-образная) функция(и) ?

На плоскости даны 6 точек с координатами A(1;1), B(2;2), C(3;2), D(3;4), E(4;5), F(5;4). Осуществите алгоритм иерархической агломеративной кластеризации. Расстояние между кластерами определите как полную связь (complete linkage). Определите точку, объединившуюся последней:

Физический смысл соотношения между большим смещением и маленькой дисперсией характеризуется

Если в сети автоэнкодера находится всего один скрытый слой, то чему будет эквивалентен результат?

В задачах Text Mining, при извлечения очевидной информации, основные трудности для "машины" представляют ?

Какие проблемы решают задачи кластеризации, отыскивая "скрытую структуру" исследуемых данных и не имея опорной целевой переменной?

Что следует предпринять, если функция, которую стараемся оптимизировать, не дифференцируема?

Укажите основные преимущества алгоритма адаптивного бустинга

Плюсы использования алгоритма SVM

В синхронных нейронных сетях в каждый момент времени свое состояние меняет

Объект 1 находится выше функции принятия решений, объект 2 - ниже функции принятия решений. Выберите верное утверждение.

Суть алгоритма Expectation-Maximization:

Укажите основные плюсы использования Naive Bayes

Можно ли использовать в качестве базовых моделей линайную регрессию для алгоритма AdaBoots?

Для чего используется логарифм правдоподобия Бернулли?

Тип нейросетей которые на данный момент доминируют во всем компьютерном зрении?

Зачем нужен backprop?

Жадный алгоритм предобучения включает этапы ?

Решением проблемы паралича сети могут быть следующие идеи.

Согласно стандартной модели зрительной коры головного мозга, считается что?

Ошибкой обучения нейронной сети называется:

Выберете не верное высказывание характеризующее машину Больцмана?

Что из этого не нужно сэмплировать: скрытый слой, видимой слой, значения скрытого слоя, значения видимого слоя

Продолжите фразу "Машина Больцмана - стохастический генеративный…"

Машина Больцмана представляет из себя полносвязный неориентированный граф, где ?

Дан отрезок, четко "раскрашенный" слева на 4/7 черным цветом, а справа на 3/7 – белым, что можно представить в виде вектора (1;1;1;1;-1;-1;-1). Чтобы запомнить этот "правильный" образ, обучается нейронная сеть Хопфилда с семью нейронами (возможные состояния нейронов 1/-1, порог нулевой), где указанный вектор подается как образец (обучающий пример).В качестве тестового образца подадим на вход обученной нейронной сети черно-белый отрезок с "размытой" границей (1;1;1;-1;1;-1;-1). Проверьте, сможет ли обученная нейронная сеть проигнорировать испорченный участок и восстановить исходный отрезок:

Что является задачей функции активации

Сколько скрытых слоев нейронов применяют в реальной практике в соответствии с обычным алгоритмом обратного распространения ошибки

Что можно сказать о нейронах в мозгу человека ?

Что является задачей функции активации?

Укажите не верное высказывание про алгоритм AdaBoost

Укажите метод, который одновременно уменьшает смещение и дисперсию

Выберете верное утверждение про алгоритмы бустинга :

Выберите верное утверждение

Дан единичный квадрат с координатами вершин (0;0), (0;1), (1;1), (1;0). При этом первая и третья вершины относятся к классу "-1", а вторая и четвертая – "1". Требуется построить классификатор, получающий на входе координату вершины, а на выходе дающий метку класса (задача XOR). Применим алгоритм градиентного бустинга (gradient boosting) с функцией потерь L(y,h)=ln(1+exp(-2*y*h)). Очевидно, h0(x)=const=0. Далее, выбираем в качестве a1 функцию, равную -1 левее разделяющей границы, проходящей через точки (1/2;0) и (0;1/2), и 1 в противном случае. Найдите итоговый коэффициент перед функцией a1 с учетом коэффициента регуляризации (shrinkage) 0,55.

Укажите достоинства алгоритма AdaBoots:

Если зависимая переменная принимает непрерывные значения, то дерево решений решает задачу:

Назовите основные недостатки алгоритма Random Forest ?

Где лучшая область применения ансамблей деревьев решений ?

Что может служить мотивацией для снижения размерности пространства

Каковы недостатки метода главных компонент?

Укажите два основных подхода к снижению размерности.

Класс алгоритмов, являющийся элегантной идей по построению разделяющей поверхности, а также осуществляющий переход в новое пространство значительно дешевле, чем вычисление всех обучающие объектов в новом пространстве напрямую:

Укажите плюсы метода опорных векторов

Недостатки SVM?

Выберите особенность SVM, о которой говорится ниже: SVM оптимизирует квадратичную функцию, которая является вогнутой и её максимум существует только один:

С помощью какого принципа можно справляться с переобучением методом ограничения весов

Выберите верное утверждение.

Основный принцип, который используется в машинном обучении – это принцип:

На диаграмме "Этапы обработки текста" этап токенизации идет следом за этапом…

Что такое токенизация в обработке текстов?

В результате действия чего из знаменитой фразы "to be or not to be" может удалиться все содержимое?

На электронную почту пришло два подозрительных письма, одно из них (A) содержало слово "лотерея", второе (B) – слова "лекарство" и "похудение". Дано, что спам составляет 3% писем, доля писем, где встречается слово "лотерея": спам - 0,04%, не спам – 0,01%; слово "лекарство": спам - 0,02%, не спам – 0,01%; слово "похудение": спам - 0,01%, не спам - 0,0005%. Пользуясь наивным байесовским классификатором (Naive Bayes) с правдоподобием Бернулли (BernoulliNB), определить, какие из полученных писем являются спамом.

Все переменные являются одинаково важными и статистически независимыми, т.е. значение одной переменной ничего не говорит о значении другой. Это свойства:

Назовите плюсы использования вероятностных моделей против функций решений