Backpropagation

Backpropagation (propagacja wsteczna błędu) to fundamentalny algorytm uczenia sieci neuronowych. Polega na obliczaniu, jak bardzo każdy parametr (waga) w sieci przyczynił się do błędu wyniku, a następnie korygowaniu tych parametrów.

Wyobraź sobie, że uczysz się rzucać do kosza. Rzucasz piłkę, chybiasz o 30 cm w lewo. Twój mózg automatycznie "koryguje" siłę i kąt rzutu, żeby następnym razem trafić bliżej. Backpropagation działa podobnie dla sieci neuronowej: 1. Sieć generuje odpowiedź (rzut piłką). 2. Obliczany jest błąd – różnica między odpowiedzią a prawidłowym wynikiem (o ile chybiliśmy). 3. Algorytm "cofa się" przez wszystkie warstwy sieci, sprawdzając, która waga najbardziej "zawiniła" (które "mięśnie" źle się napięły). 4. Wagi są korygowane, by zmniejszyć błąd w przyszłości. Ten proces powtarza się miliardy razy podczas treningu modelu.

Bez backpropagation nie byłoby nowoczesnego deep learningu. To właśnie ten algorytm umożliwia sieciom neuronowym "uczyć się" na błędach. Rozumiejąc go, lepiej pojmujesz, dlaczego modele potrzebują tak dużo danych i mocy obliczeniowej do treningu.