Социальное исключение как побочный эффект механизмов нейрообучения

В условиях развития нейросетевых технологий и внедрения их в процессы принятия решений на уровне таких значимых социальных институтов, как здравоохранение, образование, трудоустройство и других, встает вопрос о корректности использования искусственного интеллекта в подобной деятельности. Основная цель работы - рассмотреть возникновение и воспроизводство социального исключения, неравенства и дискриминации в обществе как результат процесса нейрообучения. Под нейрообучением понимаются принципы обучения любых нейронных сетей. Социальная эксклюзия и вытекающая из нее дискриминация в решениях, принимаемых искусственным интеллектом, рассматривается как последствие принципов обработки больших данных. Обозреваются теории зарубежных и российских авторов, затрагивающие влияние искусственного интеллекта на укрепление существующего социального порядка, а также проблемы с обработкой и интерпретированием данных для обучения на них компьютерных систем. Кроме того, приводятся реальные ситуации, в которых специфика самих данных и их интерпретация привели к усилению неравенства и эксклюзии. В связи со схожестью функционирования естественных и искусственных нейросетей делается вывод об источниках социального исключения и стигматизации в обществе. Высказывается предположение, что именно принципы нейрообучения в «естественном» обществе ведут не только к дискриминации на макроуровне, но и обусловливают негативные реакции по отношению к представителям эксклюзированных групп, например, межнациональную ненависть, гомофобию, сексизм и прочее. Поднимается вопрос о возможности изучения «естественного» общества в сравнении с «искусственным».

The development of neural network technologies leads to their integration in decision-making processes at the level of such important social institutions as healthcare, education, employment, etc. This situation brings up the question of the correctness of artificial intelligence decisions and their consequences. The aim of this work is to consider the origin and replication of social exclusion, inequality and discrimination in society as a result of neurotraining. Neurotraining understood as the principles of any neural networks’ training. Social exclusion and the resulting discrimination in decisions made by artificial intelligence is considered as a consequence of the big data processing principles. The authors review the theories of foreign and Russian authors concerning the impact of artificial intelligence on strengthening the existing social order, as well as problems with processing and interpreting data for training computer systems on them. Real situations of the specifics of the data itself and its processing that have led to increased inequality and exclusion are also given. The conclusion about the sources of social exclusion and stigmatization in society is made due to the similarity between natural and artificial neural networks functioning. The authors suggest that it is the principles of neurotraining in a “natural” society that lead not only to discrimination at the macro level, but also cause vivid negative reactions towards representatives of the exclusive groups, for example, interethnic hatred, homophobia, sexism, etc. The question about the possibility of studying “natural” society in comparison with “artificial” one is raised.