Структурированный блокнот
Машинное обучение (Machine Learning, обучающиеся алгоритмы)
→
Обучение с учителем (Supervised learning)
→
Нейронные сети (neuron network)
→
Функции активации
→
GLU - Gated Linear Unit
https://arxiv.org/pdf/2002.05202.pdf
Следующий шаг после Swish, где мы ещё добавляем сдвиг в sigmoid.
Формула y = sigmoid(x*W + b) * (x*V + c)
Поиск по записям:
только в текущем разделе.
