Парабола как функция активации искусственных нейронных сетей

Рассматриваются вопросы применения параболы и ее ветвей как нелинейности, расширяющей логические возможности искусственных нейронов. В частности, обусловлена применимость ветвей параболы для построения s-образной функции активации, пригодной для настройки нейронной сети методом обратного распространения ошибки. Продемонстрирована реализация функции XOR на двух и трех нейронах с применением предложенного подхода. Основное преимущество параболы перед сигмоидом - более простая реализация, что ускоряет работу искусственных нейронных сетей.

The use of parabola and its branches as a nonlinearity expanding the logical capabilities of artificial neurons is considered. In particular, the applicability of parabola branches for constructing an s-shaped function suitable for tuning a neural network by reverse error propagation is determined. The implementation of the XOR function on two and three neurons using the proposed approach is demonstrated. The main advantage of the parabola over the sigmoid is a simpler implementation, which speeds up the work of artificial neural networks.

Издательство
Федеральное государственное учреждение "Федеральный исследовательский центр "Информатика и управление" Российской академии наук
Номер выпуска
2
Язык
Русский
Страницы
89-97
Статус
Опубликовано
Год
2023
Организации
  • 1 Институт программных систем им. А. К. Айламазяна РАН
  • 2 Федеральный исследовательский центр «Информатика и управление» РАН
  • 3 Российский университет дружбы народов
Ключевые слова
sigmoid; parabola; s-shaped activation function; neuron; neural network; XOR problem; Tuning rate; сигмоид; парабола; s-образная функция активации; нейрон; нейронная сеть; xor; скорость настройки
Дата создания
28.12.2023
Дата изменения
28.12.2023
Постоянная ссылка
https://repository.rudn.ru/ru/records/article/record/103166/
Поделиться

Другие записи