Przykład zastosowania metod sztucznej inteligencji w technice cieplnej i chłodniczej (cz. 2)

FOTOREPORTAZE

ON-LINE

Naszą witrynę przegląda teraz 90 gości

Facebook

Chłodnictwo & Klimatyzacja

Miesięcznik indeksowany
jest w bazie czasopsim
technicznych

Przykład zastosowania metod sztucznej inteligencji w technice cieplnej i chłodniczej (cz. 2)

Data dodania: 25.05.2009

W pierwszej części artykułu (Ch&K 3/2009) przedstawiono teorie działania, modele numeryczne i matematyczne Sztucznych Sieci Neuronowych (SSN) oraz scharakteryzowano rodzaje tych sieci. Dopełnieniem tematu będzie omówienie, w niniejszej publikacji, sposobu uczenia jednokierunkowej sieci neuronowej metodą wstecznej propagacji błędów.

Uczenie jednokierunkowej sieci neuronowej metodą wstecznej propagacji błędów (uczenie z nauczycielem)

Uczenie w systemach biologicznych prawdopodobnie zmienia ustawienia w połączeniach synaptycznych, znajdujących się pomiędzy neuronami. Uczenie SSN natomiast zmienia liczbowe wartości wag znajdujących się również pomiędzy neuronami. Uczenie zatem zachodzi poprzez bezpośrednią ekspozycję rzeczywistego zestawu danych, gdzie algorytm uczący modeluje wagi połączeń. Te właśnie wagi połączeń mają zapisane dane niezbędne do rozwiązywania specyficznych problemów. Pomimo pojawienia się SSN w późnych latach 50., dopiero w połowie lat 80. stały się wystarczająco dojrzałe do zastosowania w poważnych aplikacjach. Kiedy uczymy sieć jednowarstwową (rys. 3), sytuacja jest klarowna. Znamy wartości wejść dla swojej warstwy, znane są również wartości wyjść wygenerowane przez nią, oraz wiemy, jakie mają być prawidłowe wartości wyjść. Na tej podstawie obliczony jest popełniany przez sieć błąd, zmieniamy wagi.

Sieci wielowarstwowe to przydatne narzędzie. Pamiętać należy, że to dzięki dodaniu do sieci jednej warstwy można rozwiązać na przykład zadanie XOR. Wiemy także, że aby zmienić wagi danego neuronu, trzeba znać wartość błędu, jaki ów neuron popełnia. Zwróćmy uwagę na ostatnią warstwę sieci wielowarstwowej. Znając wartości jej wyjść, wiedząc, jakie powinny one być po nauczeniu sieci, możemy obliczyć błąd. Nie ma zatem problemu z nauczeniem ostatniej warstwy. Zwrócimy jednak uwagę na warstwę przedostatnią. Tu również znamy wartości wyjść, nie znamy natomiast wartości wyjść przedostatniej warstwy po nauczeniu sieci. Znamy docelową odpowiedź całej sieci (w końcu to my ją ustaliliśmy), ale nie wiemy nic o tym, według jakiego algorytmu sieć ustala wagi (a tym samym wyjścia) w warstwach ukrytych (czyli od pierwszej do przedostatniej włącznie). Skoro nie wiemy, jakie powinny być wartości wyjść warstwy ukrytej, to nie obliczymy też wartości popełnianego przez nią błędu, a zatem nie nauczymy jej niczego sensownego.
Algorytm uczenia sieci wielowarstwowej został opracowany niezależnie przez trzech naukowców w latach 1974, 1982 i 1986. Został on nazwany algorytmem wstecznej propagacji błędów (rys. 4).
Znając odpowiedź ostatniej warstwy, czyli odpowiedź sieci, możemy rozpocząć proces uczenia. Pamiętamy, że nie możemy bezpośrednio obliczyć błędów popełnianych przez neurony warstw ukrytych. Możemy je jednak oszacować. A dzieje się to w następujący sposób: ponieważ wiemy, jakie wartości mają być na wyjściu drugiej warstwy sieci oraz wiemy, jakie są teraz, możemy obliczyć błąd każdego z wyjść. Następnie ów błąd jest przenoszony na wejście neuronu (to właśnie ta czynność powoduje wymóg, żeby funkcja aktywacji była różniczkowalna). Ten błąd na wejściu neuronu drugiej warstwy propagowany jest do warstwy poprzedniej. Na jego podstawie oraz na podstawie wag neuronów drugiej warstwy oblicza się błędy na wyjściach warstwy pierwszej. Te z kolei są przenoszone na ich wejścia. Kiedy już wszystkie neurony sieci mają wyliczone błędy, następuje w całej sieci korekta wag. Jednak zawsze istotne jest zoptymalizowanie algorytmu przetwarzającego lub posiadanie szybkiego komputera. (...)