Ответы к экзамену: Ответы к экзамену по дисциплине «Обнаружение и распознавание сигналов»

Вопросы к экзамену по дисциплине «Обнаружение и распознавание сигналов» Весенний семестр, четвертый курс, 2023 г.

1. Постановки основных задач машинного обучения. Функции потерь. Расхождение Кульбака-Лейблера. Перекрестная энтропия. Среднеквадратическая ошибка.
2. Методы оптимизации: градиентный спуск, градиентный спуск с импульсом, метод Нестерова.
3. Понятие нейронной сети. Дифференцирование на графе вычислений. Алгоритм обратного распространения.
4. Функции активации: сигмоида, гиперболический тангенс, ReLU, LReLU, PReLU и др.
5. Сверточные сети. Операция свертки. Операция субдискретизации (пулинг).
6. Метрики качества в задачах бинарной классификации: верность (accuracy), точность (precision), полнота (recall), специфичность, F-мера и др. ROC-кривая, AUC. Подходы к оценке качества многоклассовой классификации: micro-averaging и macro-averaging.
7. Регуляризация: использование регуляризаторов, ранняя остановка, дропаут. Понятие о генеративных моделях.
8. Прикладные архитектуры сверточных сетей в задачах распознавания изображений: LeNet, AlexNet, VGG16, ResNet.
9. Рекуррентные нейронные сети: задачи обработки последовательностей, архитектура рекуррентной сети, LSTM (Long Short-Term Memory).
10. Обработка текстов: основные задачи обработки текстов, модель векторного представления слов word2vec.
11. Основные атаки на нейронные сети: состязательные атаки, атаки отравления данных. Понятие о методах противодействия этим атакам.