solawak/2022l-wb-xic

⚙️ Case Study course for DS studies in Spring 2021/22

WB-XIC: Explaining Image Classification

Semestr Wiosenny 2021/22 @hbaniecki

Tematyka zajęć

Kontekst: Knowing What and Why? — Explaining Image Classifier Predictions

Projekty:

1. Klasyfikacja obrazu i kreatywne wyjaśnianie zagadnień opisanych w pracy Kandinsky Patterns
2. Zostanie podany na zajęciach

Materiały:

1. Neural networks by 3Blue1Brown, Neural Network Playground
2. An Introduction to Statistical Learning, Chapter 10
3. Interpretable Machine Learning. A Guide for Making Black Box Models Explainable, Chapter 10
4. Dive into Deep Learning, Chapters 1-7
5. Explanatory Model Analysis. Explore, Explain and Examine Predictive Models

Technologie:

• torch, torchvision
• captum - Model Interpretability for PyTorch
• shap - SHapley Additive exPlanations

Dane:

• Fashion-MNIST: [GitHub] [PyTorch]
• .

Literatura:

• M. T. Ribeiro et al. "Why Should I Trust You?": Explaining the Predictions of Any Classifier. KDD, 2016. https://doi.org/10.1145/2939672.2939778
• S. M. Lundberg & S. Lee. A Unified Approach to Interpreting Model Predictions. NeurIPS, 2017. https://dl.acm.org/doi/10.5555/3295222.3295230
• M. Sundararajan et al. Axiomatic attribution for deep networks. ICML, 2017. https://dl.acm.org/doi/10.5555/3305890.3306024
• J. Adebayo et al. Sanity Checks for Saliency Maps. NeurIPS, 2018. https://dl.acm.org/doi/10.5555/3327546.3327621

Terminy zajęć

	data	temat	zadanie
1	02-24	Opis zajęć i przedstawienie tematyki projektu.
2	03-03	Wstęp do sieci neuronowych i PyTorch.	PD-1 start
3	03-10	Sieci neuronowe w praktyce.
4	03-17	Wstęp do konwolucyjnych sieci neuronowych.	PD-1 oddanie, PD-2 start
5	03-24	Konwolucyjne sieci neuronowe w praktyce (ResNet, DenseNet).
6	03-31	Wstęp do wyjaśnień konwolucyjnych sieci neuronowych (SHAP, IG etc.).	PD-2 oddanie, PD-3 start
7	04-07	Wyjaśnienia konwolucyjnych sieci neuronowych w praktyce.	KM-1 start
8	04-14	Przegląd danych związanych z projektem.	PD-3 oddanie
9	04-21	Przedstawienie postępów projektów, konsultacje.	KM-1 oddanie, KM-2 start
10	04-28	Przegląd modeli związanych z projektem.
11	05-05	Przedstawienie postępów projektów, konsultacje.	KM-2 oddanie, KM-3 start
12	05-19	Przegląd wyjaśnień związanych z projektem.
13	05-26	Przedstawienie postępów projektów, konsultacje.	KM-3 oddanie, Prezentacja
14	06-02	*Manipulowanie wyjaśnieniami sieci neuronowych.	Raport
15	06-09	Podsumowanie projektu.

Zasady oceniania (100 pkt)

Warszataty Badawcze składają się z wykładu, zajęć laboratoryjnych i projektowych:

• praca podczas projektu -- 6 x 8 pkt = 48 pkt.
• prezentacja końcowa na wykładzie -- 16 pkt. (deadline: 29 maja)
• raport końcowy -- 32 pkt. (deadline: 3 czerwca)
• stosowanie dobrych praktyk wykorzystania GitHub -- 4 pkt.