Etyka analityki
Systemy predykcyjne podejmują decyzje lub zasilają decyzje dotyczące osób. W tym kontekście etyczność algorytmu przestaje być abstrakcyjną kwestią filozoficzną — staje się wymaganiem prawnym, operacyjnym i reputacyjnym.
Articles published on this website summarize publicly available information, industry research and educational materials.
Stronniczość algorytmu
Stronniczość (bias) modelu predykcyjnego to systematyczne zniekształcenie prognoz na niekorzyść określonych grup — demograficznych, geograficznych lub socjoekonomicznych. Może być zakorzeniona w danych historycznych, które odzwierciedlają istniejące nierówności społeczne, lub wynikać z błędów metodycznych.
Rodzaje stronniczości: historyczna (dane odzwierciedlają dyskryminujące praktyki przeszłości), próbkowania (niedoreprezentacja grup mniejszościowych), pomiaru (różna jakość danych dla różnych grup), agregacji (stosowanie globalnego modelu do niejednorodnych podgrup).
Detekcja stronniczości wymaga analizy metryk wydajności modelu z podziałem na podgrupy — ogólna dokładność może maskować znaczące dysproporcje między nimi.
Wyjaśnialność AI (XAI)
Wyjaśnialność (explainability) to zdolność systemu do uzasadnienia konkretnej predykcji w zrozumiały sposób. Rozróżnia się dwa poziomy: interpretowalność modelu (globalnie — jak model działa w ogóle) i wyjaśnienie predykcji (lokalnie — dlaczego dla tego konkretnego rekordu model zwrócił taki wynik).
Metody globalnej interpretacji: waga cech w Random Forest, współczynniki regresji logistycznej. Metody lokalnej wyjaśnialności: LIME (lokalne liniowe przybliżenie) i SHAP (Shapley Additive exPlanations — dekompozycja wkładu każdej zmiennej w prognozę).
Przejrzystość i audytowalność
Przejrzystość systemu predykcyjnego obejmuje: dokumentację metodologiczną (opis zmiennych, algorytmu, procesu trenowania), rejestr decyzji (możliwość odtworzenia, na jakiej podstawie system wydał konkretną rekomendację), mechanizm zaskarżenia (ścieżka dla osoby, której decyzja dotyczy) i audyt wewnętrzny lub zewnętrzny.
Regulacje prawne
Regulacje dotyczące zautomatyzowanych systemów decyzyjnych są w Polsce i UE obszarem dynamicznie się rozwijającym:
- RODO (GDPR) — art. 22: prawo do niebycia poddanym wyłącznie zautomatyzowanemu przetwarzaniu wywołującemu skutki prawne; wymóg logiki zrozumiałej dla podmiotu danych
- AI Act (UE 2024) — rozporządzenie klasyfikujące systemy AI według poziomu ryzyka; systemy w obszarach zatrudnienia, kredytu i edukacji kwalifikowane jako wysokiego ryzyka
- Dyrektywa NIS2 — wymagania wobec systemów informatycznych krytycznej infrastruktury, obejmujące systemy analityczne instytucji finansowych