https://habr.com/ru/companies/wunderfund/articles/739744/ Идея: чтобы объяснить, какой фактор повлиял на предсказание таргета для одного конкретного предсказания мы поочерёдно подменяем факторы и их группы на случайные из других значений обучающей/тестовой выборки и получаем, что в среднем относительно случайного значения именно этот фактор даёт такую добавку, а этот другую. Можно посчитать и важность конкретного фактора и знак. Если сделать такое же для всех значений из тестовой выборки, то можно посчитать среднюю важность каждого фактора (по модулю), и даже вывести связь между изменением каждого фактора и таргета.