В чем заключается идея fine-tuning? "Голова" нейронной сети, - Ответ на вопрос №14990
Вопрос
В чем заключается идея fine-tuning?- "Голова" нейронной сети, формирующая выход сети для конкретной задачи, обучается с нуля, а "тело" нейронной сети, формирующее векторные представления слов "замораживается" (то есть, веса этой части нейронной сети остаются неизменными при обучении)
- "Голова" нейронной сети, формирующая выход сети для конкретной задачи, "заморачивается" (то есть, веса этой части нейронной сети остаются неизменными при обучении), а "тело" нейронной сети, формирующее векторные представления слов обучается с нуля
- "Голова" нейронной сети, формирующая выход сети для конкретной задачи, и "тело" нейронной сети, формирующее векторные представления слов обучаются вместе (с возможной поэтапной "разморозкой" слоев)
Ответ
Если нужен другой вариант работы или отдельная задача из любой работы, пишите в комментарии
tddd
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
