Dear students,
I have uploaded the differentiation pdf (in Exercise 2) that I showed in the tutorial. It contains, the rules for differentiation and differentiation of MSE loss and activation functions. I would recommend that you practice differentiating various activation functions mentioned in Lecture 2.
Below are two YouTube links for very good explanation of the backpropagation algorithm:
Wenn Sie auf dieses Video klicken, werden alle YouTube-Videos direkt auf WueCampus angezeigt, bis Sie Ihren Browser schließen (oder Ihre Cookies bereinigen). Bitte denken Sie daran, dass Daten an YouTube automatisch gesendet werden, sobald Sie die Anzeige aktivieren.
Wenn Sie auf dieses Video klicken, werden alle YouTube-Videos direkt auf WueCampus angezeigt, bis Sie Ihren Browser schließen (oder Ihre Cookies bereinigen). Bitte denken Sie daran, dass Daten an YouTube automatisch gesendet werden, sobald Sie die Anzeige aktivieren.
Best,
Saad