Под конкретную задачу можно подбирать запрос, который даёт наилучшую результат работу сети. Например: "Оцените этот отзыв, как позитивный или негативный: ..." и далее подставляем отзыв. Подбор хорошего запроса под задачу и называют "prompt engineering"
Есть подход, который позволяет подобрать лучший prompt в пространстве эмбедингов. Для этого нам нужны примеры заданий и ответов, а далее методом градиентного спуска (с некоторыми трюками) мы подбираем эмбединги prompt'а, чтобы ответы чаще всего совпадали с желаемыми. Этот подход называет P-tuning. Подробнее: https://habr.com/ru/companies/yandex/articles/588214/