Page 110 - Диссертация

юридическими представителями компании. Людям, отказавшимся служить в
армии, также запрещают отдыхать в определѐнных местах и отелях, выезжать
за границу. При этом государство как награждает людей, так и наказывает.
Люди с высоким социальным рейтингом могут быстрее получать разрешение
на отдых за рубежом. Граждане с высоким рейтингом также могут получать
скидки на счета по электроэнергии, брать вещи в аренду без залога и получать
пониженный процент по кредиту в банке. Активно используется система
распознания лиц. Объединив эти данные с базами полиции, банков и онлайн-
сервисов, власти смогут выявлять нарушения в общественных местах и
понижать социальный рейтинг в автоматическом режиме. Баллы система
зачисляет и снимает автоматически в порядке обработки зафиксированных
факторов поведения человека, вплоть до мелочей. Например, в одном из
городов в провинции Шаньдун каждый житель получает начальный балл в 1000
очков. Люди могут заработать дополнительные баллы за поведение,
поощряемое правительством, например, благотворительность, а оштрафованы –
за нежелание уступить место в транспорте инвалиду, беременной женщине или
пожилому человеку [154, р. 372-391].
Минимизировать риски, обусловленные наличием в обществе мнения о
скрытых целях цифровизации можно теми же мерами, что и риски реальных
скрытых целей цифровизации.
Этические
Людям не нравится находиться постоянно в поле зрения искусственного
интеллекта, чувствовать себя под контролем.
Этические риски проявляются в протестном поведении населения,
саботаже внедрению технологий Big Data.
Важно отметить, что китайская система социального рейтинга обнажает

одну из ключевых проблем Big Data – этическую. Любые системы контроля, а
тем более настолько полные как проект «Система социального рейтинга» в
КНР, вмешиваются в частную жизнь, ограничивают свободу и права человека,
стирают грани неприкосновенности и конфиденциальности частной жизни, что
в итоге ведет к снижению цифрового доверия населения, причем не только в
Китае, но и за его пределами. Это вредит даже не самому Китаю, граждане
которого, возможно, уже привыкли к тотальному контролю, а другим
государствам, где Data-Driven Government только начинает внедряться. Факты
из опыта китайского проекта «Система социального рейтинга» КНР зачастую
муссируются блогерами в социальных сетях, формируя в обществе нарратив
негативного восприятия не только Data-Driven Government, но и цифровизации
гос. управления в целом. Недостаток цифрового доверия является серьезным
барьером дальнейшего развития Data-Driven Government.
Минимизировать этические риски можно теми же мерами, что и риски,
обусловленные наличием реальных скрытых целей цифровизации.
Дискриминационные
Вследствие недостатка транспарентности и интерпретируемости методов
обработки больших данных с использованием искусственного интеллекта
возможны проявления дискриминации пользователей по расовому,

110