Всех приветствую,
хочу протестировать в качестве функции активации Exponential Linear Unit. Вопрос такой, что брать в качестве производной? Ведь функция по сути представляет из себя две разные функции для x<0 и x>0:
И производная также - разные функции для разных диапазонов аргументов:
Вот хорошая статья с примерами функций активации и их производных: https://mlfromscratch.com/activation-functions-explained/
И производная также - разные функции для разных диапазонов аргументов:
Вот хорошая статья с примерами функций активации и их производных: https://mlfromscratch.com/activation-functions-explained/
Понял, за ссылку отдельное спасибо)