Социальные проблемы развития и применения искусственного интеллекта

Сегодня мир переживает период стремительного развития искусственного интеллекта (далее - ИИ). Достижения в этой области приводят к появлению машин, способных учиться и выполнять когнитивные задачи, с которыми раньше могли справиться только люди. ИИ выступает одним из ключевых элементов эпохи конвергенции технологий, который сопряжен с глубокими последствиями для человека, культуры, общества и окружающей среды. Поскольку ИИ является когнитивной технологией, различные ее аспекты неразрывно связаны с основными формами деятельности людей: образованием, наукой, культурой и коммуникацией. Алгоритмы социальных сетей и новостных сайтов могут способствовать распространению дезинформации и воздействовать на восприятие смысла понятий «факты» и «истина», сказываться на политическом взаимодействии и активности. Машинное обучение может способствовать укоренению и углублению предвзятости, которая, в свою очередь, может повлечь за собой усиление неравенства и отчужденности, создавая угрозу для культурного разнообразия. Масштабы и мощность технологий ИИ усиливают асимметрию между людьми, социальными группами и целыми странами, проявляющуюся, в частности, в возникновении так называемого «цифрового разрыва» внутри стран и между ними. Таким образом, хотя ИИ и обладает потенциалом для изменения будущего человечества в лучшую сторону в интересах устойчивого развития, все больше людей осознают связанные с этой технологий риски и проблемы, особенно в плане усугубления неравенства и диспропорций, а также последствия его использования для прав человека. Чтобы наметить возможные сценарии и задействовать потенциал ИИ для реализации возможностей в сфере развития при сохранении контроля над рисками, необходимо более всестороннее понимание того, как общество меняется под воздействием таких революционных технологий, как ИИ.

Today the world is going through a period of rapid development of artificial intelligence (AI). Advances in this field determine the creation of machines capable of learning and performing of previously purely human cognitive tasks. AI is one of the key elements in the era of convergence of technologies, which is associated with profound consequences for humans, culture, society and environment. Since AI is a cognitive technology, its various aspects are inextricably linked with the main forms of human activity: education, science, culture and communication. Algorithms of social networks and news sites can contribute to the spread of misinformation and affect the perception of the concepts ‘facts’ and ‘truth’, affect political interaction and activity. Machine learning can reinforce and deepen bias, which, in turn, can increase inequality and alienation, pose a threat to cultural diversity. The scale and power of AI technologies increase the asymmetry between individuals, groups and countries, which is manifested in the ‘digital divide’ within and between countries. Thus, although AI has the potential to change the future of humanity for the better, people are increasingly aware of the risks and challenges of this technology, especially in terms of aggravating existing inequalities and imbalances, and its consequences for human rights. To develop possible scenarios and to use the potential of AI for development aims under the control over risks, we need a more comprehensive understanding of how society is changing under the influence of such a revolutionary technology as AI.