🗊Презентация Sztuczna Inteligencja. (Laboratorium 6)

Wprowadzenie Wprowadzenie Konstruowanie systemu klasyfikującego Budowa regułowych baz informacyjnych Parametry oceny bazy reguł Proces klasyfikacji przypadków nieznanych Optymalizacja reguł

Ocena zbioru reguł: liczba reguł liczba warunków w regule (średnia liczba warunków w regułach) dokładność zbioru reguł (ang. accuracy) – liczba popra-wnie klasyfikowanych przypadków do liczby wszystkich klasyfikowanych przypadków błąd klasyfikacji (ang. error rate) - liczba błędnie skla-syfikowanych przypadków w stosunku do liczby wszyst-kich klasyfikowanych przypadków

H = G + sqrt(A) H = G + sqrt(A) przy czym: G (generality) = (Ec + Ee)/E gdzie: Ec – jest liczbą przykładów ze zbioru treningowego, popra-wnie sklasyfikowanych Ee - jest liczbą przykładów ze zbioru treningowego, sklasy-fikowanych błędnie E - jest liczbą wszystkich przykładów w zbiorze treningowym natomiast A (accuracy) = Ec / (Ec + Ee) (gdy A=1, system GTS tworzy regułę)

Ocena wybranej reguły: Ocena wybranej reguły: Siła reguły (ang. Strength, EC) jest liczbą poprawnie klasyfikowanych przypadków ze zbioru uczącego. Siła reguły jest używana w obliczaniu pozostałych parametrów reguły. Dokładność reguły (ang. Accuracy) jest to stosunek liczby poprawnie klasyfikowanych przypadków ze zbioru uczącego (EC) do sumy liczby poprawnie (EC) oraz błędnie (EE) klasyfikowanych przypadków ze zbioru uczącego.

Ocena wybranej reguły: Ocena wybranej reguły: Ogólność reguły (ang. Generality) jest to stosunek sumy liczby poprawnie (EC) oraz błędnie (EE) klasyfikowanych przypadków ze zbioru uczącego do liczby wszystkich przypadków ze zbioru uczącego (EALL). Specyficzność reguły (ang. Specificity) jest to stosunek liczby poprawnie klasyfikowanych przypadków ze zbioru uczącego (EC) do liczby przypadków z danej klasy decyzyjnej (ECLASS).

Ocena wybranej reguły: Ocena wybranej reguły: Wsparcie reguły (ang. Support) jest to stosunek liczby poprawnie klasyfikowanych przypadków ze zbioru uczącego (EC) do liczby wszystkich przypadków ze zbioru uczącego (EALL).

Reguły decyzyjne wygenerowane z przykładów uczących uży- wane są do klasyfikowania nowych obiektów (lub przykładów testowych) Klasyfikowanie obiektów opiera się na dopasowaniu (ang. matching) opisu obiektu do części warunkowych reguł decy- zyjnych. Wyróżniamy dopasowanie pełne i częściowe. Pełne dopasowanie (ang. complete matching) – opis klasyfi- kowanego obiektu spełnia wszystkie warunki elementarne, występujące w części warunkowej reguły Częściowe dopasowanie (ang. partial matching) – istnieje przynajmniej jeden warunek elementarny, który nie jest speł- niony przez opis klasyfikowanego obiektu

Dla danego rozpatrywanego przypadku nieznanego sprawdzamy czy istnieje dopasowana do niego reguła. W takim przypadku można wyróżnić trzy sytuacje: Dla danego rozpatrywanego przypadku nieznanego sprawdzamy czy istnieje dopasowana do niego reguła. W takim przypadku można wyróżnić trzy sytuacje: Jeżeli istnieje tylko jedna reguła to obiekt jest przez nią klasyfikowany.

Dla danego rozpatrywanego przypadku nieznanego sprawdzamy czy istnieje dopasowana do niego reguła. W takim przypadku można wyróżnić trzy sytuacje: Dla danego rozpatrywanego przypadku nieznanego sprawdzamy czy istnieje dopasowana do niego reguła. W takim przypadku można wyróżnić trzy sytuacje: Jeżeli istnieje więcej niż jedna reguła system sprawdza czy reguły wskazują różne klasy. - jeżeli tak to obliczane jest poparcie dla danej klasy decyzyjnej: gdzie RK= oznacza reguły z RK (wskazujące klasę KK) dopasowane do obiektu nieznanego. Przypadek nieznany jest przydzielany do klasy KK, dla której poparcie SUP(KK) jest największa - jeżeli nie to obiekt jest przypisywany do klasy wskazywanej przez reguły.

Dla danego rozpatrywanego przypadku nieznanego sprawdzamy czy istnieje dopasowana do niego reguła. W takim przypadku można wyróżnić trzy sytuacje: Dla danego rozpatrywanego przypadku nieznanego sprawdzamy czy istnieje dopasowana do niego reguła. W takim przypadku można wyróżnić trzy sytuacje: Jeżeli nie istnieje reguła dopasowana do przypadku, szukamy reguł częściowo dopasowanych do obiektu nieznanego e. Dla każdej z nich obliczamy dodatkową miarę Dla reguł częściowo dopasowanych z danej klasy KK liczymy Gdzie RK= oznacza reguły RK częściowo dopasowane do obiektu e. Obiekt e jest przypisywany do klasy KK która ma największe SUPP(KK)

Macierz rozproszenia (confusion matrix)

Macierz rozproszenia (confusion matrix)

Usunięcie reguł redundantnych (RR): Usunięcie reguł redundantnych (RR): Operacja polegająca na usunięciu reguł, które posiadają identyczne warunki i ich wartości w części warunkowej w ramach tej samej kategorii decyzji. Usunięcie reguł zbędnych (NU): Operacja polegająca na usunięciu reguł, które nie klasyfikują prawidłowo żadnego z przypadków ze zbioru uczącego. Usunięcie reguł pochłaniających się (AR): Operacja polegająca na usunięciu reguł, które posiadają wspólną z innymi regułami część warunkową, wzbogaconą dodatkowo warunkami uzupełniającymi.

Usunięcie zbędnych warunków (W): Usunięcie zbędnych warunków (W): Operacja polegająca na usunięciu z danej reguły warunków, które nie powodują zmiany liczby prawidłowo klasyfikowanych przypadków ze zbioru uczącego. Łączenie reguł (Ł): Operacja polegająca na połączeniu reguł zawierających ten sam zestaw atrybutów numerycznych w części warunkowej. Wartości tych atrybutów stanowią przedziały liczbowe zawierające się w sobie lub zachodzące na siebie. Zestaw atrybutów symbolicznych i ich wartości w części warunkowej łączonych reguł musi być identyczny. Cała operacja odbywa się w ramach tej samej klasy decyzji.

Utworzenie reguł brakujących (BR): Utworzenie reguł brakujących (BR): Często obserwuje się że opracowany model uczenia (zbiór reguł) nie klasyfikuje wszystkich przypadków ze zbioru uczącego. Na podstawie tych przypadków nieklasyfikowanych tworzone są tzw. reguły brakujące. Reguły te tworzone mogą być dwoma metodami: - pierwsza metoda (Standardowa) polega na utworzeniu reguł zawierających warunki utworzone na podstawie wszystkich atrybutów opisujących i ich wartości występujących w przypadkach nieklasyfikowanych, - druga metoda (Algorytm GTS) polega na utworzeniu nowych, dodatkowych reguł przy użyciu algorytmu pokrycia General-To-Specific (GTS) operującego na zbiorze przypadków nieklasyfikowanych.

Wybór reguł finalnych (FR): Wybór reguł finalnych (FR): Operacja polega na wyborze spośród całego zbioru reguł, tzw. reguł finalnych. Reguły te wybierane są na podstawie wartości parametru Istotność reguły (Importance) obliczanego dla każdej reguły r Istotność(r) = Siła(r) * Liczba_warunków(r) + Specyficzność(r) – Słabość(r) gdzie Słabość reguły (Weakness) jest to stosunek liczby błędnie klasyfikowanych przypadków ze zbioru uczącego (EE) do liczby poprawnie klasyfikowanych przypadków ze zbioru uczącego (EC)

Wybór reguł finalnych (FR): Wybór reguł finalnych (FR): Następnie reguły są sortowane rosnąco według parametru H(r). Wyłączana jest pierwsza reguła (najmniejszy parametr Istotność H) i sprawdzane czy pozostałe reguły klasyfikują wszystkie przypadki z tablicy decyzji. Jeżeli tak to reguła ta wyłączana jest ze zbioru reguł. Operacja ta jest wykonywana na wszystkich kolejnych regułach. Efektem działania jest zbiór reguł o najwyższym parametrze H(r) – najbardziej istotnych w zbiorze reguł - pokrywający wszystkie przypadki ze zbioru uczącego.

Zadania 1. Oceń ten zbiór reguł dla pliku źródłowego Socz_v0X.tab, oblicz: siłę, specyficzność, dokładność, ogólność, wsparcie reguł. W pliku SOCZ_REG.txt zamieszczono zbiór reguł decyzji. 2. Wyznacz reguły dla WSZYSTKICH zbiorów uczących Socz_v0X.tab (przy użyciu programu K:MW\NSI\SOFT\RuleSEEKER\). Zastosuj krok NR -> Algorytm GTS. 3. Regułami Socz_REG.kb, oblicz błąd klasyfikacji: przed optymalizacją po optymalizacji metodą standardową i częściowym dopasowaniem dla swojego zbioru Socz_v0X – testowego. (X – ostatnia cyfra z numeru indeksu studenta)