Обзор и сравнительный анализ библиотек машинного обучения для построения нейронных сетей

Статья носит обзорный характер. В ней проведено сравнение актуальных библиотек машинного обучения, которые могут быть использованы для построения нейронных сетей. В первой части статьи даётся краткое описание библиотек TensorFlow, PyTorch, Theano, Keras, SciKit Learn, стека библиотек SciPy (NumPy, SciPy, Pandas, Matplotlib, Jupyter). Делается обзор области применения перечисленных библиотек и основных технических характеристик, таких как быстродействие, поддерживаемые языки программирования, текущее состояние разработки. Среди рассматриваемых библиотек только PyTorch и TensorFlow непосредственно конкурируют друг с другом. Остальные библиотеки взаимодополняют друг друга и часто используются совместно при построении различных моделей машинного обучения. Во второй части статьи проводится сравнение пяти библиотек на примере многослойного перцептрона, который применяется к задаче распознания рукописных цифр. Данная задача хорошо разработана и является модельной для тестирования различных реализаций нейронных сетей. Сравнивается время обучения в зависимости от количества эпох и точности работы классификатора. Результаты сравнения представлены в виде графиков времени обучения и точности в зависимости от количества эпох и в табличном виде.

Review and comparative analysis of machine learning libraries for machine learning

The article is an overview. We carry out the comparison of actual machine learning libraries that can be used the neural networks development. The first part of the article gives a brief description of TensorFlow, PyTorch, Theano, Keras, SciKit Learn libraries, SciPy library stack. An overview of the scope of these libraries and the main technical characteristics, such as performance, supported programming languages, the current state of development is given. In the second part of the article, a comparison of five libraries is carried out on the example of a multilayer perceptron, which is applied to the problem of handwritten digits recognizing. This problem is well known and well suited for testing different types of neural networks. The study time is compared depending on the number of epochs and the accuracy of the classifier. The results of the comparison are presented in the form of graphs of training time and accuracy depending on the number of epochs and in tabular form.

Издательство
Федеральное государственное автономное образовательное учреждение высшего образования Российский университет дружбы народов (РУДН)
Номер выпуска
4
Язык
Английский
Страницы
305-315
Статус
Опубликовано
Том
27
Год
2019
Организации
  • 1 Российский университет дружбы народов
Ключевые слова
машинное обучение; нейронные сети; machine learning; neural networks; mnist; TensorFlow; PyTorch
Дата создания
02.11.2020
Дата изменения
17.11.2020
Постоянная ссылка
https://repository.rudn.ru/ru/records/article/record/71001/
Цитировать
Поделиться

Другие записи

Максимов В.М.
Вестник РГГУ. Серия: Информатика. Информационная безопасность. Математика. Федеральное государственное бюджетное образовательное учреждение высшего образования Российский государственный гуманитарный университет. 2019. С. 72-93
Диваков Д.В., Егоров А.А., Ловецкий К.П., Севастьянов Л.А., Древицкий А.С.
Discrete and Continuous Models and Applied Computational Science. Федеральное государственное автономное образовательное учреждение высшего образования Российский университет дружбы народов (РУДН). Том 27. 2019. С. 325-342