Структурированный блокнот   
 Машинное обучение (Machine Learning, обучающиеся алгоритмы) →  Обучение с учителем (Supervised learning) →  Language models →  Стратегии обучения LLM →  

Prompt engineering и P-tuning

Под конкретную задачу можно подбирать запрос, который даёт наилучшую результат работу сети. Например: "Оцените этот отзыв, как позитивный или негативный: ..." и далее подставляем отзыв. Подбор хорошего запроса под задачу и называют "prompt engineering"

Есть подход, который позволяет подобрать лучший prompt в пространстве эмбедингов. Для этого нам нужны примеры заданий и ответов, а далее методом градиентного спуска (с некоторыми трюками) мы подбираем эмбединги prompt'а, чтобы ответы чаще всего совпадали с желаемыми. Этот подход называет P-tuning. Подробнее: https://habr.com/ru/companies/yandex/articles/588214/
Поиск по записям: только в текущем разделе.