explainable_ai's Introduction

MADE Explainable AI

Применение SHAP

Сравнить важность признаков, получаемую с помощью SHAP с важностью признаков, получаемую с помощью модели на основе ансамбля деревьев решений. Прокомментировать результат (Есть ли разница? Можете ли вы это объяснить?).
Среди 3 методов, выбрать один, который обеспечивает наилучшее качества решения. Проанализировать SHAP-values для всего набора данных в целом. Меняется ли существенно важность признаков внутри класса и между классами? Какие признаки наиболее важны?
Для того же метода, что и в вопросе выше, выбрать 2 примера из разных классов, где модель дает правильный ответ, и 2 примера из разных классов, где модель ошибается. Проанализировать эти примеры для всех 3 моделей с помощью SHAP. Похожи ли объяснения? (Внимание: 4 картинки * 3 модели = 12 примеров). Примеры брать из тестового набора данных.

Применить LIME к тем же моделям и тем же примерам, что и в предыдущем задании ( 4 картинки * 3 модели = 12 примеров). Получили ли вы похожее объяснения, что и в предыдущем примере? Если нет, можете ли вы это объяснить.

Recommend Projects