Activation Map – wizualizacja tego, na co reagują neurony w sieciach CNN.

Wizualizacja wykorzystywana w sieciach neuronowych typu konwolucyjnego (CNN) do przedstawienia obszarów obrazu, na które reagują poszczególne neurony lub filtry sieci. Pozwala ona na identyfikację fragmentów danych wejściowych, które mają największy wpływ na aktywację danego neuronu w warstwach konwolucyjnych, dzięki czemu można lepiej zrozumieć proces przetwarzania informacji przez sieć. Technika ta jest narzędziem interpretowalności modeli, umożliwiającym analizę ich działania i weryfikację, czy sieć uczy się rozpoznawać cechy istotne dla danego zadania.

Proces generowania jest oparty na mapowaniu wartości aktywacji neuronów na dane wejściowe, co obrazowo pokazuje intensywność reakcji sieci na konkretne fragmenty obrazu. W praktyce wizualizacje te często przyjmują formę map ciepła (heatmap), które nakłada się na oryginalny obraz, co pozwala na zobrazowanie, które części obrazu wpływają na ostateczną decyzję sieci. Dzięki temu można obserwować, czy model koncentruje się na odpowiednich cechach, co jest szczególnie istotne w aplikacjach wymagających wysokiej wiarygodności, takich jak medycyna czy rozpoznawanie obiektów.

Stosowanie tej metody przyczynia się do zwiększenia transparentności działania sztucznych sieci neuronowych oraz wspomaga projektowanie lepszych architektur i strategii uczenia. Pozwala również na diagnostykę i poprawę jakości modeli przez identyfikację błędnych wzorców rozpoznawania i ewentualne modyfikacje danych treningowych lub parametrów sieci.