Данная работа посвящена задаче языкового моделирования. Анализ естественного языка применительно к построению различных информационных моделей применяется в целом ряде практических задач. Три основных направления, это - генерация осмысленного текста по заданным исходным данным, визуализация текстов на естественном языке (например, в виде изображений) и построение текстового описания различных объектов и процессов. В последнее время активно и крайне успешно идут исследования в этом направлении, и создаются все новые и более эффективные решения в области машинного обучения, которые демонстрируют высокую результативность. Целью данной работы является сравнение эффективности различных архитектур языковых моделей машинного обучения.
This paper is devoted to the problem of language modeling. Natural language analysis in relation to the construction of various information models is used in a number of practical tasks. The three main directions are the generation of meaningful text based on the given source data, the visualization of texts in natural language (for example, in the form of images), and the construction of a textual description of various objects and processes. Recently, research in this direction has been actively and extremely successful, and new and more effective solutions in the field of machine learning are being created, which demonstrate high performance. The purpose of this paper is to compare the effectiveness of different architectures of machine learning language models.