Faza 05 cyklu Data Science

Walidacja modeli:
jakość systematycznie i rygorystycznie zapewniona

Walidacja modeli to faza 5 procesu data science: zanim model trafi na produkcję, musi udowodnić swoją wydajność względem Państwa celów biznesowych w sposób mierzalny, wyjaśnialny i uczciwy.

Powrót do przeglądu Phase 04 Phase 06
Walidacja modeli

Zaufanie poprzez przejrzystą ewaluację

Oceniamy według kryteriów istotnych dla Państwa biznesu i czynimy decyzje możliwymi do prześledzenia.

Walidacja modeli to sprawdzenie, czy wytrenowany model na danych, których nigdy nie widział, osiąga wydajność wymaganą przez Państwa cel biznesowy. Odpowiada na cztery pytania: Jak dobrze model trafia (metryki)? Czy będzie trafiał także jutro (generalizacja)? Dlaczego decyduje właśnie tak (Explainable AI)? Czy traktuje wszystkie grupy jednakowo (fairness)? Odpowiedzi trafiają do raportu ewaluacyjnego, który może przeczytać Państwa dział biznesowy, nie tylko zespół data science.

Trafność biznesowa

Ocena według kryteriów istotnych biznesowo, nie tylko technicznych wskaźników.

Wyjaśnialność

Pokazujemy, dlaczego model dochodzi do określonych wyników.

Odporność & sprawiedliwość

Sprawdzanie pod kątem uprzedzeń i zachowania w realistycznych warunkach.

Macierz pomyłek

Metryki dopasowane do celu biznesowego

Metryka jest właściwa dopiero wtedy, gdy mierzy błąd, który kosztuje Państwa firmę pieniądze. Dlatego uzgadniamy ją wspólnie już przy kryteriach sukcesu z fazy 1, a nie dopiero wtedy, gdy liczby z walidacji modeli leżą na stole.

Macierz pomyłek w języku biznesu

Macierz pomyłek to tabela czteropolowa, która zestawia klasę przewidywaną z rzeczywistą: przypadki poprawnie wykryte, poprawnie wykluczone, fałszywe alarmy i przypadki przeoczone. Dla sklepu internetowego oznacza to: zwrot przewidziany i zaistniały, zwrot przewidziany i niezaistniały, zwrot nieprzewidziany, a mimo to zaistniały, oraz zwrot nieprzewidziany i niezaistniały. Każde pole ma własną cenę. Fałszywy alarm kosztuje niepotrzebny kontakt z klientem, przeoczony zwrot kosztuje wysyłkę, ponowne magazynowanie i marżę. Dopiero gdy te ceny są znane, można zdecydować, którą metrykę model ma optymalizować.

Precision, recall i F1 w jednym zdaniu każda

Precision (precyzja) mówi, ile alarmów modelu jest trafnych, i liczy się tam, gdzie każdy alarm uruchamia nakład pracy, na przykład kontakt marketingowy lub telefon handlowca. Recall (czułość) mówi, ile prawdziwych przypadków model znajduje, i liczy się tam, gdzie przeoczony przypadek jest kosztowny, na przykład awaria maszyny. F1 to średnia harmoniczna obu i nadaje się jako kompromis, gdy oba rodzaje błędów kosztują podobnie. ROC-AUC ocenia, jak czysto model rozdziela klasy przy wszystkich progach.

Jak mocno wybór metryki zmienia decyzję, pokazuje nasze wykrywanie malarii z użyciem deep learningu: na zbiorze testowym z 1 300 zainfekowanymi i 1 300 zdrowymi komórkami krwi jeden wariant modelu miał najwyższą dokładność (accuracy) 98,88 procent, ale przeoczył 12 infekcji. Wybrano wariant o dokładności 98,85 procent, bo przeocza tylko 3 infekcje (czułość 99,77 procent). Tam, gdzie przeoczona infekcja jest nieporównanie droższa niż fałszywy alarm, decyduje nie dokładność, lecz recall.

Accuracy, czyli udział poprawnych predykcji, przy niezrównoważonych klasach jest prawie zawsze niewłaściwą liczbą. Jeśli 3 na 100 maszyn ulega awarii, model, który nigdy nie zgłasza awarii, osiąga 97 procent accuracy i mimo to jest bezwartościowy.

Regresja: MAE, RMSE i R²

W modelach regresyjnych, które przewidują liczbę, MAE (średni błąd bezwzględny) i RMSE (pierwiastek średniego błędu kwadratowego) mierzą typową odległość między predykcją a rzeczywistością; RMSE mocniej karze duże odchylenia. R² mówi, jaką część zmienności model wyjaśnia. Co taka liczba naprawdę oznacza, pokazuje nasza regresja cen mieszkań: co naprawdę mówi R² równe 0,77: model wyjaśnia około 77 procent wariancji, ale 5 procent MAPE (średni procentowy błąd) obowiązuje na skali logarytmicznej i nie jest błędem ceny o 5 procent. Kto przenosi metrykę do jednostki, w której nigdy nie była mierzona, nie zwalidował jej, lecz upiększył.

Walidacja krzyżowa

Sprawdzanie generalizacji: holdout, walidacja krzyżowa, overfitting

Model, który zna swoje dane treningowe na pamięć, niczego się nie nauczył. Czy sprawdzi się na nowych danych, weryfikuje walidacja modeli trzema uzupełniającymi się procedurami.

Podział train/test: dane testowe pozostają nietknięte

Przed treningiem dane dzieli się na treningowe i testowe, często w proporcji 80 do 20. Zatrzymane dane testowe (holdout) nie mogą odgrywać żadnej roli aż do końcowej walidacji modelu, ani przy wyborze cech, ani przy wyborze parametrów modelu. Decydująca jest jednostka podziału: jeśli kilka wierszy należy do tej samej sesji, tego samego klienta lub tej samej maszyny, podział przebiega wzdłuż tej jednostki; inaczej ta sama sesja trafia na obie strony, a model uczy się odpowiedzi na pamięć.

Czysty podział nie chroni jednak przed cechami, które zdradzają wynik. W naszej prognozie konwersji dla sklepu internetowego model ze stanem koszyka z końca sesji osiągnął AUC 0,961, a bez niego 0,860. Te dziesięć punktów było wyciekiem danych (leakage), bo cecha zdradzała wynik, zamiast go przewidywać. Użyteczna była wczesna predykcja po pierwszej interakcji z AUC 0,848, a cały wynik znajdą Państwo w artykule dlaczego niemal idealne modele konwersji zwykle tylko opowiadają koszyk.

Walidacja krzyżowa: k-krotna, czasowa, grupowa

Walidacja krzyżowa dzieli dane na k bloków (foldów), trenuje k razy na wszystkich blokach poza jednym i testuje za każdym razem na pominiętym. Daje średnią i rozrzut. W regresji cen mieszkań 10-krotna walidacja krzyżowa dała średnie R² 0,7291 przy rozrzucie ±0,2322: średnia potwierdza model, rozrzut mówi, że pojedyncze podziały danych wypadają wyraźnie gorzej, czego przy 506 obserwacjach należy się spodziewać.

Przy szeregach czasowych losowe mieszanie jest zabronione, bo model uczyłby się z przyszłości. Jego miejsce zajmuje walidacja czasowa z oknem przesuwanym do przodu. W naszym backteście zmienności, retrospektywnej próbie na historycznych danych czterech surowców rolnych, okno treningowe rośnie, model jest szacowany na nowo co 21 dni handlowych i za każdym razem przewiduje jeden dzień naprzód. Tam, gdzie zbiory danych są powiązane z maszynami, klientami lub lokalizacjami, dzieli się według grup: maszyna leży w całości w treningu albo w całości w teście, inaczej ocena waha się wraz z podziałem, a najbardziej pochlebna rzadko jest tą właściwą.

Rozpoznawanie i unikanie overfittingu

Overfitting (przeuczenie) występuje, gdy model odwzorowuje dane treningowe razem z ich szumem, zamiast uczyć się stojącego za nimi wzorca. Znakiem rozpoznawczym jest luka: bardzo dobre metryki treningowe, wyraźnie gorsze na danych walidacyjnych lub testowych. Krzywa uczenia uwidacznia lukę, nanosząc obie metryki względem postępu treningu.

Dwa wyniki z naszych badań pokazują obie strony. W regresji cen mieszkań testowe R² 0,7725 było nawet minimalnie wyższe od wartości treningowej 0,7672: brak overfittingu, osiem cech generalizuje. W wykrywaniu malarii sieć VGG16 z 14,7 mln parametrów na około 20 000 obrazach treningowych doprowadziła do overfittingu i z dokładnością 97,62 procent pozostała w tyle za kompaktową siecią z 98,85 procent.

Środki zaradcze są znane: mniej cech, regularyzacja karząca duże wagi, early stopping kończący trening, gdy tylko metryka walidacyjna zaczyna się pogarszać, oraz więcej danych. Underfitting to przeciwieństwo, zbyt prosty model, który słabo trafia już w dane treningowe; między nimi leży kompromis między obciążeniem a wariancją. Co dzieje się po starcie produkcyjnym, gdy dane zmieniają się powoli (dryf), należy do monitoringu i dryfu w fazie 6.

Explainable AI

Explainable AI: dlaczego model decyduje właśnie tak

Explainable AI (XAI, wyjaśnialna AI) obejmuje metody, które pozwalają prześledzić, które dane wejściowe i jak mocno wpłynęły na decyzję modelu. W walidacji modeli odpowiada na dwa pytania: które cechy napędzają model jako całość (wyjaśnienie globalne) i dlaczego ocenił ten jeden przypadek właśnie tak (wyjaśnienie lokalne)? Bez obu odpowiedzi model pozostaje czarną skrzynką, której Państwa dział biznesowy nie może sprawdzić, a Państwa audyt wewnętrzny nie może zatwierdzić.

Wyjaśnialna AI: feature importance i SHAP

Feature importance (ważność cech) porządkuje dane wejściowe według ich wkładu w jakość predykcji i odpowiada na pytanie globalne. Wartości SHAP (Shapley Additive Explanations) idą o krok dalej: rozkładają każdą pojedynczą predykcję na wkłady cech, ze znakiem, i odpowiadają tym samym także na pytanie lokalne. Dla obrazów to samo robią metody takie jak GradCAM++, zaznaczając, na co sieć patrzyła.

Co dział biznesowy z tym robi, pokazuje nasz przypadek użycia przewidywanie rotacji kierowców, obliczenie modelowe z 210 symulowanymi kierowcami: czynnikami ryzyka odejścia na poziomie grup są spójność zmian, obciążenie weekendowe i trend nadgodzin. Z jednego wykresu powstają w ten sposób trzy dźwignie dla dyspozycji. Wyjaśnialność jest zarazem kontrolą błędów w walidacji modeli. W wykrywaniu malarii GradCAM++ pokazał, że aktywacja sieci leży dokładnie na pasożycie; przy kilku fałszywych alarmach pokazał aktywację nieodróżnialną od prawdziwych trafień, co wskazuje na błędne etykiety w zbiorze danych, a nie na słaby model.

Czego wymaga EU AI Act

Rozporządzenie w sprawie AI (UE) 2024/1689 wymaga dla systemów wysokiego ryzyka między innymi zarządzania danymi z badaniem pod kątem stronniczości (artykuł 10) oraz przejrzystości wobec podmiotów stosujących (artykuł 13). Terminy stosowania tych obowiązków wysokiego ryzyka przesunął Digital Omnibus: na 2 grudnia 2027 r. dla samodzielnych systemów wysokiego ryzyka z załącznika III i na 2 sierpnia 2028 r. dla AI w produktach regulowanych według załącznika I. Niezależnie od tego obowiązki przejrzystości z artykułu 50 dla treści generowanych przez AI obowiązują co do zasady od 2 sierpnia 2026 r.; co oznaczają w codziennej eksploatacji, opisuje nasz artykuł o oznaczaniu treści AI: kto musi oznaczać treści AI.

Bias AI

Sprawdzanie fairness i biasu AI

Bias AI to systematyczne zniekształcenie, przez które model konsekwentnie ocenia określone grupy lepiej lub gorzej, niż uzasadnia to sprawa. Bias AI powstaje z reguły nie w algorytmie, lecz w danych: w historycznych decyzjach zawierających dawne nierówne traktowanie, w próbach, w których jedna grupa jest niedoreprezentowana, oraz w etykietach (labels), które ludzie nadali według własnych uprzedzeń. Model uczy się takich wzorców równie chętnie jak każdych innych.

Jak przebiega sprawdzenie pod kątem biasu AI

Metryki z sekcji o metrykach oblicza się osobno dla każdej grupy, na przykład według wieku, płci lub regionu, a w raporcie widać, gdzie wskaźniki fałszywych alarmów i trafień się rozchodzą. Dodatkowo sprawdzamy disparate impact, stosunek odsetka pozytywnych ocen między grupami. Szukamy też zmiennych zastępczych: cech, które pośrednio odwzorowują cechę chronioną, na przykład kodu pocztowego zdradzającego pochodzenie albo stażu pracy ściśle powiązanego z wiekiem. Score, który sortuje zainteresowanych, jak w lead scoringu dla pośredników nieruchomości, musi więc wykazać, że osoby o tej samej gotowości do zakupu otrzymują ten sam wynik niezależnie od miejsca zamieszkania czy grupy wiekowej. Inaczej model sortuje ludzi, a nie zapytania.

Model rotacji kierowców strukturalnie omija ryzyko oceny indywidualnej: raportuje wyłącznie na poziomie grup, nie przekazuje indywidualnych wyników przełożonym i od początku jest uzgadniany z radą pracowników.

Jeśli znajdziemy zniekształcenie, nie znika ono w załączniku. Dokumentujemy je w raporcie ewaluacyjnym, usuwamy lub zastępujemy cechy, które je powodują, ważymy na nowo grupy w danych treningowych albo ustawiamy progi specyficzne dla grup, a potem walidujemy ponownie. Podstawowe wprowadzenie w rodzaje biasu oraz metody ich wykrywania i ograniczania daje whitepaper o biasie w sztucznej inteligencji niemieckiego Federalnego Urzędu ds. Bezpieczeństwa Informacji (BSI).

Truth-Check

Walidacja biznesowa: Truth-Check przed startem produkcyjnym

Techniczna walidacja modeli dowodzi, że model działa. Nie dowodzi, że się opłaca. Walidacja biznesowa zamyka lukę między wydajnością techniczną a korzyścią biznesową i przebiega u nas według tego samego protokołu, którym sprawdzamy nasze artykuły badawcze: protokołu Truth-Check dla wyników badań AI.

Porównanie przebiega względem modelu bazowego z fazy 1, czyli tego, co dziś w Państwa firmie podejmuje decyzję: doświadczenia dyspozytora, reguły w systemie ERP, istniejącego modelu. Mierzony względem „braku wsparcia” każdy model wygląda dobrze, dlatego mierzy się względem sprawdzonej praktyki. Progi sukcesu są ustalone wcześniej, a nie po poznaniu liczb. Każda metryka modelu ma przy tym uzgodnione z góry przełożenie na euro: jaki recall odpowiada jakim unikniętym awariom, jaka precision jakim zaoszczędzonym telefonom.

Tam, gdzie pozwala na to eksploatacja, model działa przed dopuszczeniem w trybie cienia równolegle z istniejącą procedurą, nie ingerując w decyzje, albo w teście A/B na części przypadków. Przed startem produkcyjnym nazywamy co najmniej trzy realistyczne obrazy błędów, każdy z mechanizmem wykrywania i ścieżką eskalacji.

Na końcu walidacji modeli powstaje projekt decyzji z jedną z trzech rekomendacji: dopuszczenie do fazy 6, zwrot do fazy 3 lub 4 z konkretnym zleceniem albo przerwanie. Model, który nie osiąga kryteriów sukcesu, nie trafia do eksploatacji, a raport otwarcie mówi dlaczego. Każdy tydzień, w którym upiększony model podejmuje decyzje, kosztuje więcej niż uczciwe „nie” przed nim.

Podejście w projekcie data science

Nasze podejście

01

Ocena techniczna

Kompleksowa analiza z odpowiednimi metrykami dostosowanymi do kryteriów sukcesu.

02

Interpretowalność

Badanie czynników wpływających i czy model nauczył się właściwych wzorców.

03

Testowanie odporności

Testy w realistycznych i wymagających warunkach.

04

Walidacja biznesowa

Weryfikacja, czy model może dostarczyć oczekiwaną wartość.

Rezultaty data science

Typowe rezultaty

Raport ewaluacyjny z metrykami biznesowymi
Analiza przejrzystości modelu
Ocena odporności i sprawiedliwości
Rekomendacja dotycząca kolejnych kroków
Powrót do przeglądu Phase 04 Phase 06

Najczęstsze pytania o walidację modeli

Czym jest walidacja modeli w uczeniu maszynowym?

Walidacja modeli to sprawdzenie, czy wytrenowany model na nowych, dotąd nieznanych danych osiąga wydajność wymaganą przez cel biznesowy. Obejmuje metryki na zatrzymanych danych testowych, walidację krzyżową, sprawdzenie pod kątem overfittingu, wyjaśnialność decyzji i sprawdzenie pod kątem biasu AI. Dopiero gdy model zaliczy wszystkie sprawdzenia walidacji modeli, trafia do eksploatacji.

Jakie metryki nadają się do oceny modelu klasyfikacyjnego?

Podstawą walidacji modeli jest macierz pomyłek z poprawnymi i błędnymi trafieniami dla każdej klasy. Z niej wynikają precision (ile alarmów jest trafnych), recall (ile prawdziwych przypadków zostaje znalezionych) i F1 jako średnia obu. ROC-AUC ocenia zdolność rozdzielania przy wszystkich progach. Sama accuracy myli przy niezrównoważonych klasach, bo klasa częsta dominuje wynik.

Czym jest walidacja krzyżowa i kiedy jest potrzebna?

Walidacja krzyżowa dzieli dane na k bloków, trenuje k razy na k-1 blokach i testuje za każdym razem na pozostałym bloku. Wynikiem jest średnia wraz z rozrzutem zamiast pojedynczej liczby. Jest obowiązkowa przy małych zbiorach danych, gdzie pojedynczy podział testowy wypada przypadkowo dobrze lub źle. Przy szeregach czasowych jej miejsce zajmuje walidacja czasowa z oknem przesuwanym do przodu.

Po czym poznać overfitting?

Overfitting objawia się w walidacji modeli luką między wydajnością treningową a testową: model trafia w dane treningowe niemal idealnie, a na nowych danych wyraźnie spada. Typowe oznaki to metryka testowa daleko poniżej wartości treningowej, wysoki rozrzut między foldami walidacji krzyżowej i predykcje odwzorowujące pojedyncze wartości odstające. Środki zaradcze to mniej cech, regularyzacja, early stopping i więcej danych.

Co oznacza Explainable AI i dlaczego jest ważna dla firm?

Explainable AI (wyjaśnialna AI) pozwala prześledzić, które dane wejściowe i jak mocno wpłynęły na decyzję modelu, globalnie dla wszystkich przypadków i lokalnie dla pojedynczego przypadku. Firmy potrzebują tego z trzech powodów. Działy biznesowe akceptują tylko wyniki, które mogą sprawdzić. Błędy w modelu ujawniają się przy nieprawdopodobnych czynnikach wpływu. Do tego EU AI Act wymaga przejrzystości dla systemów wysokiego ryzyka.

Jak sprawdzić model AI pod kątem biasu?

Oblicza się metryki modelu osobno dla każdej grupy, na przykład według wieku, płci lub regionu, i porównuje wskaźniki błędów i trafień. Jeśli odbiegają systematycznie, występuje zniekształcenie. Dodatkowo sprawdza się, czy cechy chronione lub ich zmienne zastępcze tkwią w danych wejściowych i skąd pochodzą dane treningowe. Znalezione zniekształcenia są dokumentowane, ograniczane przed startem produkcyjnym i potem ponownie walidowane.

Co się dzieje, gdy model nie osiąga kryteriów sukcesu?

Wtedy nie trafia do eksploatacji. Raport ewaluacyjny otwarcie podaje, które kryteria zostały chybione i na czym to polega: na danych, na cechach czy na celu. Z trzech możliwych rekomendacji (dopuszczenie, zwrot, przerwanie) pozostają dwie: powrót do fazy 3 lub 4 z konkretnym zleceniem albo przerwanie z udokumentowanym wynikiem. Wynik negatywny to też wynik.

Pogłębienie

Regresja cen mieszkań: co naprawdę mówi R² równe 0,77 - walidacja krzyżowa, kontrola założeń i uczciwe odczytanie metryk. Dlaczego niemal idealne modele konwersji zwykle tylko opowiadają koszyk - rozpoznawanie leakage, zanim błyszcząca liczba trafi na slajd. Protokół Truth-Check dla wyników badań AI - siedem kroków, według których sprawdzamy także modele. Przewidywanie rotacji kierowców - wyjaśnialność na poziomie grup, z radą pracowników zamiast indywidualnych wyników.

Porozmawiajmy o Państwa projekcie

Każdy projekt jest wyjątkowy. Prosimy opowiedzieć o Państwa wyzwaniu.

Zarezerwuj bezpłatną rozmowę wstępną