#shapley_values — Public Fediverse posts

Практическая устойчивость значений Шепли в интерпретации моделей ИИ

Привет, Хабр! В исследованиях и на практике значения Шепли (Shapley values) — один из наиболее популярных методов интерпретации как на практике, так и в исследованиях. На практике этого не делается — применяется аппроксимация. Отсюда возникают вопросы, ответы на которые мы рассмотрим с вами в этой статье :)

https://habr.com/ru/articles/853794/

#explainable_ai #shap #shapley_values

Использование теории игр для повышения прозрачности моделей машинного обучения

Интерпретация современных моделей машинного обучения может быть чрезвычайно сложным делом учитывая, что количество параметров и весовых коэффициентов может идти на тысячи и даже миллионы. Тем не менее это совершенно необходимо, для повышения качества, обеспечения стабильности и предсказуемости работы модели. В этом нам может помочь теория игр, математическая дисциплина позволяющая выделить из сложного взаимодействия факторов модели отдельный вклад каждого в конечное предсказание.

https://habr.com/ru/articles/795957/

#теория_игр #машинное+обучение #интерпретация #чёрный_ящик #математика #shapley_values #shap #feature_importance #data_science