Применение алгоритма кластеризации k-means для анализа вариативности языковой картины мира носителей арабского и русского языков: корпусный подход

Cтатья посвящена исследованию возможностей применения алгоритмов кластеризации и обработки естественного языка при изучении вариативности языковой картины мира носителей русского и арабского языков. Эта статья актуальна, поскольку сегодня необходимо изучить возможности алгоритмов кластеризации в рамках корпусной лингвистики, особенно в исследовании вариативности языковой картины мира. Новизна этого исследования заключается в том, что впервые алгоритм k-means используется для анализа вариативности языковой картины мира носителей русского и арабского языков. Автор использует алгоритм кластеризации k-means из-за его простоты, масштабируемости, скорости и универсальности. Задачи исследования являются как теоретическими, так и практическими. Теоретические включают объяснение механизмов работы алгоритма кластеризации и описание корпусного подхода исследования. Практические задачи включают в себя сбор наборов данных в формате JSON как для арабского, так и для русского языков, проведение экспериментов для оценки точности с использованием моделей TF-IDF, а затем визуализацию лучших результатов. Это исследование демонстрирует потенциал алгоритмов кластеризации в понимании вариативности языковой картины мира, особенно в контексте арабского и русского языков. Оно предоставляет доказательства вариативности языковой картины мира, показывая, что алгоритмы кластеризации работают по-разному с разными языками. Полученные результаты имеют практическое применение в таких областях, как лингвистика, межкультурное общение, преподавание языков, машинный перевод и программирование.

Utilization of the k-means clustering algorithm for examining the linguistic worldview of Russian and Arabic native speakers: corpus-based approach

The article is devoted to researching the possibilities of using clustering algorithms and natural language processing in studying the variabilities of the linguistic picture of the world for native speakers of both Russian and Arabic. This paper is relevant because there is a need nowadays to explore the capabilities of clustering algorithms within corpus linguistics, particularly in investigating the variability of the world linguistic picture. The novelty of this research is that, for the first time, the k-means algorithm is utilized in analyzing the Arabic and Russian language pictures of the world. The author utilizes the k-means clustering algorithm due to its simplicity, scalability, speed, and versatility. The tasks of the study are both theoretical and practical. The theoretical ones include explaining the working mechanisms of the clustering algorithm and describing the corpus-based approach of the study. The practical tasks encompass gathering datasets in JSON format in both Arabic and Russian, followed by experimentation with TF-IDF models to assess accuracy. Subsequently, the most effective outcomes are visualized. This investigation showcases the utility of clustering algorithms in comprehending the variability of language worldviews, specifically within Russian and Arabic. By demonstrating that clustering algorithms exhibit distinct behavior across languages, the study offers insights into the variability of world linguistic pictures. The findings have practical applications in fields such as linguistics, cross-cultural communication, language teaching, machine translation, and programming.

Authors
Аль Дауд Джаафар 1 , Козеренко Е.Б.1
Number of issue
4
Language
Russian
Pages
84-90
Status
Published
Department
Институт русского языка РУДН
Year
2024
Organizations
  • 1 Patrice Lumumba Peoples' Friendship University of Russia
Keywords
алгоритма кластеризации k-means; языковая картина мира; арабский язык; русский язык; корпусная лингвистика; нормализация текста; TF–IDF; обработка естественного языка; k-means clustering algorithm; linguistic picture of the world; Arabic language; Russian language; corpus linguistics; text normalization; TF–IDF; natural language processing
Date of creation
16.09.2024
Date of change
16.09.2024
Short link
https://repository.rudn.ru/en/records/article/record/157511/
Share

Other records