Który to optymalizator?

Zaczynasz nowy projekt i musisz wybrać optymalizator do trenowania modelu. Aby podjąć właściwą decyzję, przeglądasz każdy z nich i analizujesz ich kompromisy. Czy potrafisz opisać każdy optymalizator?