Нейронные сети и машинное обучение - ответы на вопросы на СтудИзбе

Говоря о характеристичных особенностях связи между нейронами, можно утверждать, что …

• взаимосвязи между нейронами представляются весами, которые определяют силу влияния одного нейрона на другой
• связи между нейронами устанавливаются случайно и не влияют на процесс обучения
• связи между нейронами фиксированы и неизменны на протяжении всей жизни организма
• каждый нейрон соединён абсолютно со всеми остальными нейронами мозга, формируя единую сеть одинаковой силы связей

В задаче частичного обучения, … данные обычно составляют большую часть обучающей выборки

Случайный лес для агрегации прогнозов отдельных деревьев использует …

• взвешенное усреднение
• голосование
• медиану
• геометрическое среднее

Линейное … — это функция, которая отображает векторы из одного векторного пространства в другое, сохраняя операции сложения и умножения на скаляр

… описывает математическое представление зависимости между входными и выходными данными

• Модель кластеризации
• Модель регрессии
• Математическая модель
• Вероятностная модель

Преобразование … разделяет непрерывный признак на несколько интервалов

• масштабирования
• нормализации
• кодирования
• дискретизации

… матрицы равен сумме элементов, расположенных на главной диагонали

• Ранг
• Определитель
• След
• Минор

Метод … является разновидностью градиентного спуска, который использует адаптивный размер шага для каждого параметра

• Momentum
• Adam
• RMSprop
• Nesterov momentum

Расположите этапы процесса оценки качества решения задачи машинного обучения в правильной последовательности:

• 1 разделение данных на обучающую и тестовую выборки (или использование кросс-валидации)
• 2 выбор метрики оценки (например, точность, F1-мера, AUC-ROC)
• 3 обучение модели на обучающей выборке
• 4 применение обученной модели к тестовой выборке и расчет выбранной метрики оценки
• 5 анализ результатов оценки и сравнение с другими моделями (если применимо)

Умножение матрицы на … представляет собой изменение масштаба вектора

• вектор
• матрицу
• скаляр
• ноль-вектор

Векторы, которые образуют … векторного пространства, линейно независимы и порождают все векторы этого пространства

• нормаль
• базис
• ортогональ
• диагональ

Представьте, что вы аналитик данных в компании, которая занимается автоматизацией обработки текстовой информации из финансовых отчетов.
Вам нужно выбрать подходящую архитектуру нейронной сети для задачи классификации финансовых новостей по темам, например, «макроэкономика», «рынок акций», «корпоративные финансы». Какую следует выбрать стандартную архитектуру нейронных сетей для решения поставленной задачи? Перечислите основные преимущества выбранной архитектуры. (укажите 2 варианта ответа)

• Следует выбрать многослойный персептрон (MLP). Ее преимущества: способность к обучению нелинейным зависимостям, могут эффективно моделировать сложные, нелинейные взаимосвязи между входными признаками и вероятностью дефолта, что часто характерно для кредитных данных.
• Следует выбрать сверточную нейронную сеть (CNN). Ее преимущества: хорошо извлекает локальные признаки из текста, такие как сочетания слов, и не требует ручного извлечения признаков.
• Следует выбрать рекуррентную нейронную сеть (RNN). Ее преимущества: хорошо учитывает последовательность слов в тексте и может улавливать долгосрочные зависимости.
• Следует выбрать автоэнкодер. Ее преимущества: обучаются без учителя, используя только входные данные, эффективно кодирует данные в сжатое представление (латентное пространство).

Представьте, вы младший аналитик в отделе рисков банка. Ваша команда разрабатывает систему для прогнозирования вероятности невозврата кредита (дефолта) физическими лицами. Для этого планируется использовать нейронные сети. Вам необходимо продемонстрировать понимание основных концепций, лежащих в основе нейронных сетей, чтобы эффективно участвовать в процессе разработки и анализа модели. Предложите базовую архитектуру многослойного персептрона (MLP) для решения задачи прогнозирования невозврата кредита. Укажите: Количество входных нейронов и почему вы выбрали именно это количество. Количество скрытых слоев и нейронов в каждом слое. Обоснуйте свой выбор (какие факторы вы учитывали?). Функцию активации для каждого слоя (скрытых слоев и выходного слоя). Обоснуйте свой выбор. Функцию потерь, которую вы будете использовать для обучения сети.

• Входной слой: 10-20 нейронов (по количеству признаков заемщика, например, возраст, доход, кредитная история) Скрытые слои: 2 слоя: 64 и 32 нейрона (обеспечивают достаточную сложность, но без сильного риска переобучения), ReLU активация (эффективна, избегает проблем с градиентом) Выходной слой: 1 нейрон. Сигмоида активация (выдает вероятность дефолта от 0 до 1) Функция потерь: Binary Cross-Entropy (стандарт для бинарной классификации)
• Входной слой: 40-50 нейронов (по количеству признаков заемщика, например, возраст, доход, кредитная история) Скрытые слои: 3 слоя: 64 нейрона (обеспечивают достаточную сложность, но без сильного риска переобучения), ReLU активация (эффективна, избегает проблем с градиентом) Выходной слой: 2 нейрона. Сигмоида активация (выдает вероятность дефолта от 0 до 1) Функция потерь: Binary Cross-Entropy (стандарт для бинарной классификации)
• Входной слой: 20-30 нейронов (по количеству признаков заемщика, например, возраст, доход, кредитная история) Скрытые слои: 4 слоя: 72 нейрона (обеспечивают достаточную сложность, но без сильного риска переобучения), ReLU активация (эффективна, избегает проблем с градиентом) Выходной слой: 10 нейронов. Сигмоида активация (выдает вероятность дефолта от 0 до 1) Функция потерь: Binary Cross-Entropy (стандарт для бинарной классификации)
• Входной слой: 60 нейронов (по количеству признаков заемщика, например, возраст, доход, кредитная история) Скрытые слои: 3 слоя: 2 нейрона (обеспечивают достаточную сложность, но без сильного риска переобучения), ReLU активация (эффективна, избегает проблем с градиентом) Выходной слой: 5нейронов. Сигмоида активация (выдает вероятность дефолта от 0 до 1) Функция потерь: Binary Cross-Entropy (стандарт для бинарной классификации)

Вы — аналитик данных в компании, занимающейся онлайн-кредитованием. Ваша задача — повысить эффективность системы оценки кредитоспособности заемщиков с помощью технологий машинного обучения. Какая задача машинного обучения наиболее релевантна для непосредственной классификации заемщиков по степени риска (например, «высокий риск», «средний риск», «низкий риск») на основе исторических данных? Укажите входные данные (признаки), которые будут использоваться, и ожидаемый результат.

• Регрессия: прогнозирование конкретной суммы кредита, которую можно одобрить заемщику. Входные данные: возраст, доход, кредитная история, профессия. Ожидаемый результат: рекомендуемая сумма кредита в денежных единицах.
• Кластеризация: группировка заемщиков по общим признакам (например, возрасту и доходу) без предварительного определения классов риска. Входные данные: возраст, доход, кредитная история, профессия. Ожидаемый результат: группы (кластеры) заемщиков, объединенных по сходству признаков.
• Классификация: оценка вероятности невозврата кредита. Входные данные: возраст заемщика, кредитная история, доход, профессия, наличие собственности. Ожидаемый результат: класс риска («высокий риск», «средний риск», «низкий риск»).
• Ассоциативные правила: выявление закономерностей между различными характеристиками заемщиков (например, «если заемщик молод и имеет низкий доход, то он часто допускает просрочки»). Входные данные: возраст, доход, кредитная история. Ожидаемый результат: правила, описывающие связи между характеристиками заемщиков.

Одним из преимуществ частичного обучения является возможность улучшения производительности модели при ограниченном количестве … данных

Важность признаков в случайном лесу можно оценить, измеряя, насколько … точность модели при исключении этого признака

• повышается
• уменьшается
• не изменяется
• стабилизируется

Вы работаете аналитиком в компании, занимающейся оценкой кредитных рисков. Вы создали модель машинного обучения для прогнозирования вероятности дефолта заемщиков. Исходный набор данных содержал 100 различных признаков, характеризующих заемщиков (возраст, доход, кредитная история, образование, место работы и т. д.). После обучения модели вы обнаружили, что ее производительность на тестовом наборе данных не так высока, как ожидалось, и наблюдаете признаки переобучения. Какое действие целесообразно предпринять для оптимизации признакового пространства и улучшения обобщающей способности модели (снижения переобучения)?

• Следует добавить в модель регуляризацию (например, L1- или L2-регуляризацию) и увеличить размер обучающей выборки.
• Следует увеличить количество признаков, добавив новые, сгенерированные случайным образом признаки.
• Следует выбрать наиболее важных признаков и исключения остальных, с помощью метода отбора признаков (например, Recursive Feature Elimination или SelectFromModel с использованием Lasso).
• Следует преобразовать все числовые признаки в категориальные, разбив их на небольшое количество интервалов (биннингом).

Вы работаете аналитиком в банке и разрабатываете систему автоматической обработки обращений клиентов. Вам необходимо классифицировать каждое обращение по типу. У вас есть следующие варианты классификации: вариант 1: «Мошенническая операция» или «Не мошенническая операция»; вариант 2: «Запрос на кредит», «Жалоба», «Консультация», «Техническая поддержка», «Мошенничество». Какая задача машинного обучения соответствует каждому из этих вариантов классификации?

• Варианту 1: многоклассовая классификация; варианту 2: бинарная классификация.
• Варианту 1: бинарная классификация; варианту 2: регрессия.
• Варианту 1: бинарная классификация; варианту 2: многоклассовая классификация.
• Варианту 1: регрессия; варианту 2: многоклассовая классификация.

Специалист по разработке стандартных архитектур нейронных сетей разрабатывает систему оценки кредитоспособности клиентов банка. В качестве входных данных у него есть: возраст, доход, кредитная история (количество просрочек, наличие кредитных карт), место работы, образование. Его задача — классифицировать клиентов по трем категориям: «высокий риск», «средний риск», «низкий риск». Для решения этой задачи он решил использовать радиальную нейронную сеть (RBF-сеть). Какой тип радиальной базисной функции специалист должен выбрать для построения эффективной системы оценки кредитоспособности клиентов банка?

• Все радиальные базисные функции одинаково хорошо подходят для этой задачи, поэтому выбор не имеет значения.
• Следует использовать линейную РБФ, так как она наиболее проста в вычислениях и подходит для задач классификации с небольшим количеством входных данных.
• Следует использовать многомерную гауссовскую РБФ (Gaussian RBF), так как она обеспечивает гладкую аппроксимацию нелинейных зависимостей в многомерном пространстве признаков и подходит для задач классификации с непрерывными входными данными.
• Следует использовать мультиквадратичную РБФ, так как она обеспечивает высокую точность аппроксимации, даже если входные данные имеют высокую размерность.

Представьте, что вы аналитик данных в отделе по борьбе с мошенничеством в банке. Вам необходимо разработать систему, которая могла бы выявлять мошеннические транзакции, даже если информация о них поступает частично или с искажениями. Вы рассматриваете возможность использования ассоциативных запоминающих нейронных сетей для этой цели. Опишите, в каких конкретных экономических задачах, помимо выявления мошеннических транзакций, ассоциативные запоминающие нейронные сети (АЗС) могут быть полезны. Объясните, почему использование АЗС может быть эффективным.

• Прогнозирование цен на акции на основе исторических данных. Объяснение: АЗС могут восстанавливать закономерности в исторических данных, даже если поступает неполная или зашумленная информация, что позволяет прогнозировать цены на акции.
• Прогнозирование цен на акции на основе исторических данных. Объяснение: АЗС не могут быть обучены на нормальных финансовых отчетах, и аномальные отчеты, отличающиеся от запомненных образцов, будут выявлены как подозрительные.
• Прогнозирование цен на акции на основе исторических данных. Объяснение: АЗС могут анализировать закономерности в исторических данных, даже если поступает полная или зашумленная информация, что позволяет прогнозировать цены на акции.

Машинное обучение позволяет компьютерам … из опыта без явного программирования

Векторное … — это множество объектов, называемых векторами, для которых определены операции сложения и умножения на скаляр

Расположите этапы работы двунаправленной ассоциативной памяти (BAM) в правильной последовательности при извлечении сохраненного паттерна:

• 1 преобразование входного паттерна в биполярный формат (+1 и -1)
• 2 подача входного паттерна (например, паттерна X) на входной слой сет
• 3 вычисление выходного паттерна, соответствующего входному паттерну, с использованием матрицы весов
• 4 проверка на сходимость: повторное преобразование выходного паттерна (паттерн Y) обратно во входной слой и сравнение с исходным входным паттерном

Преобразование … используется для обработки категориальных признаков, заменяя их числовыми значениями

• масштабирования
• нормализации
• кодирования
• дискретизации

Модель Хопфилда используется для решения задач …, таких как задача коммивояжера

• классификации
• регрессии
• оптимизации
• кластеризации

… — это процесс группировки объектов по схожим характеристикам

• Классификация
• Регрессия
• Кластеризация
• Оптимизация

При каком алгоритме обучения обучающее множество состоит как из входных, так и из выходных векторов?

Сети с обратными связями - это:

… модели, основанные на нечеткой логике, позволяют учитывать неопределенность и неточность данных

• Древовидные
• Линейные
• Вероятностные
• Нечеткие

Говоря о характеристиках «Карты ансамблевого ландшафта» (Ensemble Landscape), можно утверждать, что … (Укажите 2 варианта ответа)

• карта ансамблевого ландшафта отображает разнообразие моделей в ансамбле, но не показывает их производительность
• карта ансамблевого ландшафта позволяет визуализировать производительность и разнообразие моделей в ансамбле
• различные методы снижения размерности могут быть использованы для визуализации карты ансамблевого ландшафта в двух или трех измерениях

Для успешного применения частичного обучения важно, чтобы неразмеченные данные были … размеченным данным

• релевантны
• не связаны с
• противоположны
• независимы от

Расположите этапы построения и анализа ROC-кривой в правильной последовательности:

• 1 упорядочить предсказанные вероятности принадлежности к классу по убыванию
• 2 рассчитать TPR (True Positive Rate) и FPR (False Positive Rate) для каждого порога
• 3 вычисление координат точек ROC-кривой (TPR, FPR) для различных пороговых значений классификатора
• 4 построение графика ROC-кривой на основе вычисленных координат
• 5 анализ площади под кривой (AUC) и формы кривой для оценки производительности классификатора

Установите соответствие между терминами и их определениями в контексте ROC-анализа:

• A. True Positive Rate (TPR) / Чувствительность
• B. False Positive Rate (FPR)
• C. ROC-кривая
• D. доля верно классифицированных положительных объектов (из всех положительных)
• E. доля неверно классифицированных отрицательных объектов (из всех отрицательных)
• F. график, показывающий зависимость между TPR и FPR для различных порогов классификации

Расположите этапы построения модели на основе правил в правильной последовательности:

• 1 извлечение или генерирование правил из данных
• 2 определение критериев для оценки качества правил
• 3 оценка и выбор лучших правил
• 4 применение правил к новым данным для предсказания результата

Установите соответствие между терминами и их определениями в контексте применения сети Хопфилда для решения задач комбинаторной оптимизации:

• A. Нейрон
• B. Энергетическая функция
• C. Вес связи
• D. элемент сети, представляющий переменную задачи, состояние которого кодирует решение
• E. функция, минимизация которой соответствует нахождению оптимального решения комбинаторной задачи
• F. параметр, представляющий влияние одного элемента задачи на другой; задает силу взаимодействия между ними

Представьте, что вы используете сеть Кохонена (карту Кохонена, самоорганизующуюся карту — SOM) для сегментации клиентской базы банка на основе их транзакционной активности (средний чек, частота покупок, типы покупок). Сеть обучена. Теперь, согласно принципу «Победитель получает все», вам нужно отнести нового клиента к существующему кластеру. Как определить кластер, к которому будет отнесен новый клиент?

• Для определения необходимого кластера рассчитывается среднее значение векторов всех нейронов.
• Для определения необходимого кластера определяется нейрон, как среднее значение векторов всех нейронов (нейрон-победитель)
• Для определения необходимого кластера определяется нейрон, вектор весов которого наиболее близок к вектору транзакционной активности клиента (нейрон-победитель).
• Для определения необходимого кластера определяется нейрон, вектор весов которого наиболее далекий к вектору активности клиента (нейрон-победитель).

Вы аналитик в компании, которая специализируется в прогнозировании спроса на электроэнергию в регионе. Вам необходимо разработать модель, которая сможет точно предсказывать потребление электроэнергии на следующий день, чтобы оптимизировать производство и избежать дефицита или избытка. Определите тип задачи машинного обучения, который наиболее подходит для прогнозирования спроса на электроэнергию. Опишите, что является целевой переменной в этой задаче, и какие значения она может принимать.

• Тип задачи: регрессия (прогнозирование непрерывного числового значения). Целевая переменная: потребление электроэнергии (спрос на электроэнергию). Возможные значения целевой переменной: любое неотрицательное вещественное число, выражающее объем потребления энергии в единицах измерения (кВт/ч, МВт/ч и т.д.).
• Тип задачи: классификация (предсказание категорий). Целевая переменная: категория энергопотребления (например, низкий/нормальный/высокий уровень потребления). Возможные значения целевой переменной: три фиксированные категории: низкий, нормальный, высокий уровень потребления электроэнергии.
• Тип задачи: генерация текста (создание новых предложений). Целевая переменная: текстовое описание ожидаемых условий потребления электроэнергии. Возможные значения целевой переменной: произвольные тексты, описывающие ожидаемое поведение потребителей электроэнергии (например, «Ожидается умеренное потребление в течение суток»).

Установите соответствие между этапами анализа главных компонент (PCA) и их описаниями:

• A. Центрирование данных
• B. Вычисление ковариационной матрицы
• C. Вычисление собственных векторов и собственных значений
• D. Выбор главных компонент
• E. вычитание среднего значения из каждого признака, чтобы данные имели нулевое среднее значение
• F. описывает, как признаки изменяются вместе, и используется для вычисления собственных векторов и значений
• G. определяет направления максимальной дисперсии в данных и соответствующие значения, показывающие величину дисперсии в этих направлениях
• H. выбор подмножества собственных векторов (главных компонент), соответствующих наибольшим собственным значениям

Установите соответствие между компонентами и характеристиками прямых произведений нейронных сетей:

• A. Базовые сети (Basic Networks)
• B. Результирующая сеть (Resulting Network)
• C. Оператор прямого произведения
• D. состоит из базовых сетей, которые обрабатывают различные входные данные или решают отдельные подзадачи
• E. обладает способностью обрабатывать входные данные разных типов или размерностей, объединяя результаты базовых сетей
• F. определяет способ объединения выходов базовых сетей

Установите соответствие между элементами радиальной базисной нейронной сети (RBF) и их функциями:

• A. Входной слой
• B. Скрытый слой (RBF-нейроны)
• C. Выходной слой
• D. Радиальная базисная функция (RBF)
• E. принимает входные данные и передает их в скрытый слой
• F. вычисляет расстояние между входным вектором и центром RBF-нейрона и преобразует его с помощью RBF
• G. объединяет выходы RBF-нейронов с помощью весов для формирования окончательного результата
• H. определяет реакцию RBF-нейрона на входной сигнал, обычно гауссова функция

Если сеть содержит два промежуточных слоя, то она моделирует:

Если сеть имеет очень большое число нейронов в скрытых слоях, то:

Нейронная сеть является обученной, если:

С помощью каких инструментов формируется решение в условиях риска

С помощью каких инструментов формируется решение в условиях определенности

С помощью каких инструментов формируется решение в условиях неопределенности

Что необходимо выполнить, чтобы нейросеть могла помочь в формировании решения:

Какие виды обучения нейронных сетей вы знаете?

При каком алгоритме обучения обучающее множество состоит только из входных векторов?

"Обучение без учителя" характеризуется отсутствием:

Сети прямого распространения - это:

Можно ли построить однослойную нейронную сеть с обратными связями?

Слоем нейронной сети называется множество нейронов

Активационная функция называется "сжимающей", если

В 2016 году программа AlphaGo обыграла одного из мировых по шахматам чемпионов Ли Седоля. Следующий турнир за звание мирового чемпиона запланирован на май 2017. Какая компания разработала ИИ AlphaGo?

Программа от Google научилась рисовать на основе эскизов, сделанных людьми. Что при этом учитывала программа?

Современную историю искусственного интеллекта связывают с появлением обучающих алгоритмов. Их существует множество типов, и среди них — алгоритмы сортировки. Какой из них считается самым простым?

К какому времени относятся первые упоминания об искусственно созданных человекоподобных существах?

Кто создал первую модель искусственных нейронных сетей?

Сеть Хопфилда заменяется на сеть Хэмминга, если:

Стратегия избежания локальных минимумов при сохранении стабильности заключается в

Процессом обучения нейронной сети называют: