Он не может купить билет на самолет или скоростной поезд. Его не принимают на работу. Банк не разрешает ему делать крупные покупки. О кредитах он может вообще забыть. Это – не страшный сон, а реальность, в которой после банкротства оказался CEO и основатель компании LeEco Цзя Юэтин.
«Я очень сожалею. Виню себя из-за негативного влияния долгового кризиса LeEco», заявил Юэтин. Финансовые проблемы компании начались с одного просроченного платежа в июле 2017 года, по словам предпринимателя, это привело к замораживанию активов. Юэтин добавил, что негативное влияние на бизнес оказали также «ложные и зловредные» сообщения, из-за которых начались сложности с кредиторами и поставщиками», – сообщает vc.ru. Юэтин решил не возвращаться в Китай и остался в США, где работает над новым стартапом Farady Future.
Система социального рейтинга уже работает в Китае. Россиян перспектива цифровой дискриминации ожидает в недалеком будущем. «В рамках эксперимента планируется создать единую систему идентификации и аутентификации, которая обеспечит доступ к сведениям о гражданах в базах государственных органов, включая платформу. В ней планируется открыть сервис, который позволит гражданину управлять своим согласием на обработку персональных данных в рамках цифрового профиля», – сообщает о целях проекта «Цифровой профиль» «Российская газета».
Разработкой концепции занимаются Минкомсвязь и Банк России совместно с «Ростелекомом». Запуск цифрового профиля гражданина предусмотрен федеральным проектом «Информационная инфраструктура» цифрового нацпроекта. Пилотная часть проекта будет реализована уже в 2019 году: идею опробуют на кредитах.
В ближайшие два года у всех россиян будут цифровые профили, в которых будет собрана юридически значимая информация о них. У россиян уже есть персональные кредитные рейтинги, независимо от того, просили граждане создавать себе рейтинги или нет.
Возможно ли ограничение гражданина России в правах в зависимости от состояния его электронного досье? Если да, то в каких сферах деятельности, и в зависимости от каких параметров возможна эта дискриминация? Обсуждаем эти вопросы с экспертами.
Алексей Головченко, управляющий партнер юридической компании «Энсо», глава комитета «Деловой России»
Любые данные, которые попадают в госорганы или в любые цифровые профили, являются общедоступной информацией. Например, распространенная практика: судьи запрашивают в рамках судебного процесса персональные данные (место работы, сведения по движению денежных средств) не только его участников, но и тех, кто по факту отношения к процессу не имеют. Полиция и другие силовые ведомства занимаются передачей персональных данных граждан. Личные данные граждан также продаются коммерческими конторами, добывающими их из баз данных, к которым они имеют доступ в обход закона.
Итого, наблюдается серьезное нарушение конфиденциальности персональных данных граждан. Уже формируется предвзятое отношение к человеку при просмотре данных о нем в базах.
Не уверен в реальности создания в России цифровых профилей граждан, как в Китае, где цифровая информация по каждому человеку влияет на его жизненный рейтинг.
Цифровая дискриминация уже есть в России – по каждому человеку можно получить подробную информацию, которая по конкретным критериям (оплата обязательных платежей, кредитов) дает оценочную характеристику личности. Эта дискриминация будет только набирать обороты. Если она и не будет оформлена юридически, то точно будет присутствовать фактически.
Недоброжелатель сможет купить личные сведения о своей жертве (например, историю болезни), опубликовать их в сети, откуда они попадут в цифровой профиль человека, отразятся на его репутации и рейтингах. Я считаю, что оценивать людей по установленным общим критериям – абсурдно и дико.
Ксения Трифонова, вице-президент по развитию бизнеса, КРОС
Про это не принято писать, но уже есть масса различных «рейтингов», «скорингов» и «цифровых профилей» – сотовые операторы, интернет-компании, провайдеры, рекламные площадки, банки и агрегаторы такси уже много лет собирают на регулярной основе массу данных о каждом пользователе. Google или Apple (в зависимости от того, каким телефоном пользуется человек) знают о человеке больше, чем государство. А в некоторых отраслях – даже больше, чем сам человек знает о себе.
Более того, эти данные регулярно обогащаются за счет обмена данных между компаниями; применения систем искусственного интеллекта, собирающих данные на пользователя из открытых источников; маркетинговых активностей, программ лояльности и других надуманных предлогов, которые позволяют компаниям получить еще больше личной информации. Есть рынок покупки и продажи данных, который растет на порядок каждый год. Я бы сказала, что в этой сфере времена «дикого Запада» – отрасль ни в одной стране толком не регулируется, права граждан не очень защищены. Компании делают то, что хотят.
Все слышали про «китайский социальный рейтинг» и возможно знают историю человека по имени Цзя Юэтин, которому после банкротства запрещены финансовые транзакции и который теперь не имеет права пользоваться поездами и самолетами. Однако китайцы в системе социального рейтинга видят больше плюсов – она позволяет получать различные сервисы от большинства компаний со скидками или по упрощенной схеме. При высоком личном рейтинге проще получить инвестиции на собственный бизнес или найти хорошую работу.
Система рейтингов в КНР пока применяется довольно сбалансированно. В большинстве случаев, это просто более эффективный инструмент контроля того, что и так было запрещено: к примеру, в случае фиксации запрещенного курения в высокоскоростных поездах рейтинг понижается. Если слишком много играть в компьютерные игры, тоже происходит снижение рейтинга. Хорошо это или плохо?
Ключевое здесь – «слишком много» и «уже запрещено». Никто не запрещает курить в отведенных для этого местах. Играть тоже можно, и это довольно популярное развлечение в Китае, а китайская игровая индустрия – одна из крупнейших в мире.
Нужно понимать, что цифровой профиль не равен социальному рейтингу – цифровые профили у всех уже есть, просто идет процесс легитимизации сложившейся ситуации. Да и в наличии как такового социального рейтинга тоже нет ничего плохого – гораздо важнее обеспечить контроль граждан над механизмами таких рейтингов. А вот это крайне сложно, если эти рейтинги составляются частными компаниями в своих интересах. Рекомендую всем к прочтению роман «Сфера» Дэйва Эггерса.
Хочется нам или нет, но мир стремительно диджитализируется. Цифровизация набирает обороты в большинстве отраслей именно потому, что это более эффективно и удобно всем. В первую очередь – самим людям. Меньше коррупция, лучше обратная связь, эффективнее конкуренция, быстрее обмен информацией.
Нужно ли бороться с цифровизацией? Очевидно, что нет. Но точно нужно пытаться узнать об этом больше. Иначе кто-то другой воспользуется вашими данными. И далеко не всегда это будет вам на пользу.
Байжан Канафин, генеральный директор, Documentolog
Ограничения в правах возможны, наверное, только по решению суда. Но при появлении электронного досье вся информация о статусе и операциях гражданина со всех возможных источников будет собираться в этом досье. А это могут быть как налоговые обязательства, так и обязательства гражданско-правового характера, например, договор займа или оплата услуг ЖКХ. Соответственно, если у гражданина появятся какие-либо проблемы с его обязательствами перед государством или третьими лицами, то информация об этих проблемах сразу же станет доступна для всех его контрагентов. Таким образом, даже без решения суда гражданин может столкнуться с проблемами. Ведь связываться с «проблемным» партнером будет мало желающих.
Нужно ли это делать? Мое мнение, однозначно нужно. Это дисциплинирует. И будет возможен эффект «разбитых стекол», когда стремление к недопущению маленьких ошибок будет вести к недопущению больших. (Смысл криминологической теории разбитых окон авторы идеи Джеймс Уилсон и Джордж Келлинг сформулировали так: «Если в здании разбито одно стекло, и никто его не заменяет, то через некоторое время в этом здании не останется ни одного целого окна» – Executive.ru).
Роман Макаров, генеральный директор, МФК «Займер»
Становление единого цифрового пространства и вследствие этого формирование цифровых досье – объективные реалии ближайшего будущего. Соответственно, риск цифровой дискриминации будет неуклонной издержкой технологического прогресса. Уже вполне можно представить, как данные из всего четырех источников – ФНС, Росреестра, МВД, ПФР – могут стать препятствием для гражданина в получении той или иной услуги.
Проще всего спроецировать ситуацию на финансовый сектор. Например, уровень задолженности по налогам в совокупности с большой суммой штрафов МВД в момент оформления кредита в понимании настроенного соответствующим образом скорингового робота может стать фактором, исключающим одобрение заявки.
Доступ к досье будет удобным инструментом для финансовых организаций и прочих его потенциальных пользователей: государственных органов, надзорных, статистических, коммунально-сервисных служб... И в каждом конкретном случае, в зависимости от целей использования, можно говорить о возможности потенциальной дискриминации человека: будь-то по «количественному» (например, соотношение уровня доходов и обязательств), либо «качественному» (отметка о судимости, обременении собственности) признаку.
Тем не менее, важно, что у гражданина остается право «исправить» определенные данные о себе, либо запретить возможность доступа к своему досье на общих основаниях.
Татьяна Бочарникова, глава представительства NetApp в России и СНГ
Сами по себе технологии нейтральны. Поэтому тут, скорее, важен не сам факт создания профилей, а недостаток инструментов анализа, несовершенство алгоритмов обработки, ошибки в подборе методов анализа и качество самой собираемой информации.
Важно понимать, что сервисы, работающие с персональными данными, нацелены на повышение эффективности и качества оказания услуги, но, не обладая совершенными технологиями, нельзя быть уверенным в том, что сбор больших данных не приведет к формированию информационного неравенства.
Ограничения могут появиться со стороны государственных органов, как, например, это было сделано в Китае, но не стоит забывать и о дискриминации со стороны бизнеса, способного выставить различные тарифы для разных характеристик профиля (например, взяв за основу уровень дохода человека), будь-то авиабилеты, обед в ресторане или оплата страховки.
Иначе говоря, по той или иной причине, дискриминация будет осязаема: начиная с ограничений по возрасту (цифровые профили будут хранить 57 видов личных данных гражданина, а, значит, будут еще «уязвимые» места) и заканчивая ошибками в «недоученных» алгоритмах искусственного интеллекта. Но в ближайшем будущем скорее именно незрелость технологий способна спровоцировать дифференциацию и дискомфорт, нежели другие факторы.
Лилия Алеева, директор по маркетингу, ICL Services
Цифровая дискриминация абсолютно не новое явление ни для России, ни тем более для мира. Она появилась с возникновением интернета, с того момента, как люди начали оставлять цифровые следы в виртуальном пространстве. Способность браузеров определять демографические черты личности с помощью алгоритмов и агрегировать онлайн-данные открыла потенциальную обратную сторону прогресса, помимо проблем конфиденциальности – цифровую дискриминацию. Так, заходя в один и тот же онлайн-магазин, мы с вами видим разную цену на один и тот же товар. Это зависит от населенного пункта, в котором вы живете: его размера, стоимости доставки, логистики и многих других аспектов. Но это только верхушка айсберга.
Одним из интересных показательных кейсов в США была ситуация, когда Facebook позволил своим рекламодателям исключать людей из рекламы жилья на основании их «этнической принадлежности». Этот кейс сыграл не в пользу Facebook, который в итоге проиграл двухлетний цикл судебных разбирательств, но факт остается фактом: любой из агрегируемых в онлайн-пространстве показателей может сыграть против вас. Место проживания, место учебы или работы, профессия, пол, этническая принадлежность, национальность, покупательная способность – по любому из этих показателей вы можете оказаться в «нежелательной» группе, а значит, лишиться потенциальных возможностей или интересных предложений.
Как повлияют на россиян цифровые профили и электронные досье – сильно зависит от того, какая информация будет там аккумулироваться, и в каких целях использоваться. Будут ли люди ограничены в получении базовых услуг в зависимости от имеющегося профиля (например, право на медицинскую помощь, на вычеты от государства в зависимости от трудового стажа и выплаченных налогов), не повлияют ли случившиеся жизненные события на дальнейшие возможности (наличие судимости на трудоустройство) – все зависит от целей сбора информации. При любом раскладе, при агрегировании цифрового профиля каждого гражданина в центре внимания должен находиться принцип исключения дискриминационного использования данных.
Поэтому онлайн-пространство, которое, на первый взгляд, дало нам равные возможности – в то же время способно со временем усугубить сложившееся социальное неравенство, если не уделить этому достаточно внимания.
А что вы думаете о дискриминации человека на основании его цифрового досье? Примите участие в голосовании и поделитесь вашими идеями в форуме.
Фото в анонсе: freepik.com