Проблемы социальной эффективности и защиты прав человека при использовании искусственного интеллекта в рамках социального скоринга

Abstract

Статья посвящена исследованию социальной эффективности и защиты прав человека при использовании искусственного интеллекта в рамках социального скоринга. Социальный скоринг порождает ряд рисков – несанкционированного сбора персональных данных, вторжения в частную жизнь, дискриминации того или иного человека или социальной группы, незаконного использования персональных данных в рекламных и иных коммерческих целях. Автор полагает, что официальное использование социального скоринга государством или другими субъектами должно обязательно строиться на принципах информирования о проведении социального скоринга и использовании персональных данных граждан, получения согласия на социальный скоринг, а также открытости и доступности информации об основаниях использования системы; принципах ее работы; персональных данных и иной информации о гражданах, используемой для скоринга; возможностях корректировки данных и оспаривания результатов скоринга. Важно запрещать неофициальное, скрытое использование социального скоринга и устанавливать ответственность за нарушение этих требований и нарушение прав человека и гражданина. Делается вывод, что риск использования сформированных в рамках социального скоринга данных для влияния на принятие человеком того или иного решения, обусловливает необходимость законодательного ограничения таких действий, если только сам человек явным образом не выразил желание, чтобы полученная информация использовалась для таких целей. The article is devoted to the study of social effectiveness and protection of human rights when using artificial intelligence in the framework of social scoring. Social scoring creates a number of risks – unauthorized collection of personal data, invasion of privacy, discrimination of a particular person or social group, illegal use of personal data for advertising and other commercial purposes.The author believes that the official use of social scoring by the state or other entities should be based on the principles of informing about the conduct of social scoring and the use of personal data of citizens, obtaining consent to social scoring, as well as openness and availability of information about the grounds for using the system; the principles of its operation; personal data and other information about citizens used for scoring; opportunities to correct data and challenge the results of scoring. It is important to prohibit the unofficial, hidden use of social scoring and establish responsibility for violations of these requirements and violations of human and civil rights. It is concluded that the risk of using data generated in the framework of social scoring to influence a person's decision-making makes it necessary to restrict such actions by law, unless the person has explicitly expressed a desire to use the information obtained for such purposes.