Может ли ваш цифровой профиль сработать против вас?

Он не может купить билет на самолет или скоростной поезд. Его не принимают на работу. Банк не разрешает ему делать крупные покупки. О кредитах он может вообще забыть. Это – не страшный сон, а реальность, в которой после банкротства оказался CEO и основатель компании LeEco Цзя Юэтин.

«Я очень сожалею. Виню себя из-за негативного влияния долгового кризиса LeEco», заявил Юэтин. Финансовые проблемы компании начались с одного просроченного платежа в июле 2017 года, по словам предпринимателя, это привело к замораживанию активов. Юэтин добавил, что негативное влияние на бизнес оказали также «ложные и зловредные» сообщения, из-за которых начались сложности с кредиторами и поставщиками», – сообщает vc.ru. Юэтин решил не возвращаться в Китай и остался в США, где работает над новым стартапом Farady Future.

Система социального рейтинга уже работает в Китае. Россиян перспектива цифровой дискриминации ожидает в недалеком будущем. «В рамках эксперимента планируется создать единую систему идентификации и аутентификации, которая обеспечит доступ к сведениям о гражданах в базах государственных органов, включая платформу. В ней планируется открыть сервис, который позволит гражданину управлять своим согласием на обработку персональных данных в рамках цифрового профиля», – сообщает о целях проекта «Цифровой профиль» «Российская газета».

Разработкой концепции занимаются Минкомсвязь и Банк России совместно с «Ростелекомом». Запуск цифрового профиля гражданина предусмотрен федеральным проектом «Информационная инфраструктура» цифрового нацпроекта. Пилотная часть проекта будет реализована уже в 2019 году: идею опробуют на кредитах.

В ближайшие два года у всех россиян будут цифровые профили, в которых будет собрана юридически значимая информация о них. У россиян уже есть персональные кредитные рейтинги, независимо от того, просили граждане создавать себе рейтинги или нет.

Возможно ли ограничение гражданина России в правах в зависимости от состояния его электронного досье? Если да, то в каких сферах деятельности, и в зависимости от каких параметров возможна эта дискриминация? Обсуждаем эти вопросы с экспертами.

Цифровая дискриминация будет набирать обороты

Алексей Головченко, управляющий партнер юридической компании «Энсо», глава комитета «Деловой России»

Любые данные, которые попадают в госорганы или в любые цифровые профили, являются общедоступной информацией. Например, распространенная практика: судьи запрашивают в рамках судебного процесса персональные данные (место работы, сведения по движению денежных средств) не только его участников, но и тех, кто по факту отношения к процессу не имеют. Полиция и другие силовые ведомства занимаются передачей персональных данных граждан. Личные данные граждан также продаются коммерческими конторами, добывающими их из баз данных, к которым они имеют доступ в обход закона.

Итого, наблюдается серьезное нарушение конфиденциальности персональных данных граждан. Уже формируется предвзятое отношение к человеку при просмотре данных о нем в базах.

Не уверен в реальности создания в России цифровых профилей граждан, как в Китае, где цифровая информация по каждому человеку влияет на его жизненный рейтинг.

Цифровая дискриминация уже есть в России – по каждому человеку можно получить подробную информацию, которая по конкретным критериям (оплата обязательных платежей, кредитов) дает оценочную характеристику личности. Эта дискриминация будет только набирать обороты. Если она и не будет оформлена юридически, то точно будет присутствовать фактически.

Недоброжелатель сможет купить личные сведения о своей жертве (например, историю болезни), опубликовать их в сети, откуда они попадут в цифровой профиль человека, отразятся на его репутации и рейтингах. Я считаю, что оценивать людей по установленным общим критериям – абсурдно и дико.

Google или Apple сейчас знают о человеке больше, чем государство

Ксения Трифонова, вице-президент по развитию бизнеса, КРОС

Про это не принято писать, но уже есть масса различных «рейтингов», «скорингов» и «цифровых профилей» – сотовые операторы, интернет-компании, провайдеры, рекламные площадки, банки и агрегаторы такси уже много лет собирают на регулярной основе массу данных о каждом пользователе. Google или Apple (в зависимости от того, каким телефоном пользуется человек) знают о человеке больше, чем государство. А в некоторых отраслях – даже больше, чем сам человек знает о себе.

Более того, эти данные регулярно обогащаются за счет обмена данных между компаниями; применения систем искусственного интеллекта, собирающих данные на пользователя из открытых источников; маркетинговых активностей, программ лояльности и других надуманных предлогов, которые позволяют компаниям получить еще больше личной информации. Есть рынок покупки и продажи данных, который растет на порядок каждый год. Я бы сказала, что в этой сфере времена «дикого Запада» – отрасль ни в одной стране толком не регулируется, права граждан не очень защищены. Компании делают то, что хотят.

Все слышали про «китайский социальный рейтинг» и возможно знают историю человека по имени Цзя Юэтин, которому после банкротства запрещены финансовые транзакции и который теперь не имеет права пользоваться поездами и самолетами. Однако китайцы в системе социального рейтинга видят больше плюсов – она позволяет получать различные сервисы от большинства компаний со скидками или по упрощенной схеме. При высоком личном рейтинге проще получить инвестиции на собственный бизнес или найти хорошую работу.

Система рейтингов в КНР пока применяется довольно сбалансированно. В большинстве случаев, это просто более эффективный инструмент контроля того, что и так было запрещено: к примеру, в случае фиксации запрещенного курения в высокоскоростных поездах рейтинг понижается. Если слишком много играть в компьютерные игры, тоже происходит снижение рейтинга. Хорошо это или плохо?

Ключевое здесь – «слишком много» и «уже запрещено». Никто не запрещает курить в отведенных для этого местах. Играть тоже можно, и это довольно популярное развлечение в Китае, а китайская игровая индустрия – одна из крупнейших в мире.

Нужно понимать, что цифровой профиль не равен социальному рейтингу – цифровые профили у всех уже есть, просто идет процесс легитимизации сложившейся ситуации. Да и в наличии как такового социального рейтинга тоже нет ничего плохого – гораздо важнее обеспечить контроль граждан над механизмами таких рейтингов. А вот это крайне сложно, если эти рейтинги составляются частными компаниями в своих интересах. Рекомендую всем к прочтению роман «Сфера» Дэйва Эггерса.

Хочется нам или нет, но мир стремительно диджитализируется. Цифровизация набирает обороты в большинстве отраслей именно потому, что это более эффективно и удобно всем. В первую очередь – самим людям. Меньше коррупция, лучше обратная связь, эффективнее конкуренция, быстрее обмен информацией.

Нужно ли бороться с цифровизацией? Очевидно, что нет. Но точно нужно пытаться узнать об этом больше. Иначе кто-то другой воспользуется вашими данными. И далеко не всегда это будет вам на пользу.

Связываться с «проблемным» партнером мало желающих

Байжан Канафин, генеральный директор, Documentolog

Ограничения в правах возможны, наверное, только по решению суда. Но при появлении электронного досье вся информация о статусе и операциях гражданина со всех возможных источников будет собираться в этом досье. А это могут быть как налоговые обязательства, так и обязательства гражданско-правового характера, например, договор займа или оплата услуг ЖКХ. Соответственно, если у гражданина появятся какие-либо проблемы с его обязательствами перед государством или третьими лицами, то информация об этих проблемах сразу же станет доступна для всех его контрагентов. Таким образом, даже без решения суда гражданин может столкнуться с проблемами. Ведь связываться с «проблемным» партнером будет мало желающих.

Нужно ли это делать? Мое мнение, однозначно нужно. Это дисциплинирует. И будет возможен эффект «разбитых стекол», когда стремление к недопущению маленьких ошибок будет вести к недопущению больших. (Смысл криминологической теории разбитых окон авторы идеи Джеймс Уилсон и Джордж Келлинг сформулировали так: «Если в здании разбито одно стекло, и никто его не заменяет, то через некоторое время в этом здании не останется ни одного целого окна» – Executive.ru).

Цифровая дискриминация – издержка технологического прогресса

Роман Макаров, генеральный директор, МФК «Займер»

Становление единого цифрового пространства и вследствие этого формирование цифровых досье – объективные реалии ближайшего будущего. Соответственно, риск цифровой дискриминации будет неуклонной издержкой технологического прогресса. Уже вполне можно представить, как данные из всего четырех источников – ФНС, Росреестра, МВД, ПФР – могут стать препятствием для гражданина в получении той или иной услуги.

Проще всего спроецировать ситуацию на финансовый сектор. Например, уровень задолженности по налогам в совокупности с большой суммой штрафов МВД в момент оформления кредита в понимании настроенного соответствующим образом скорингового робота может стать фактором, исключающим одобрение заявки.

Доступ к досье будет удобным инструментом для финансовых организаций и прочих его потенциальных пользователей: государственных органов, надзорных, статистических, коммунально-сервисных служб... И в каждом конкретном случае, в зависимости от целей использования, можно говорить о возможности потенциальной дискриминации человека: будь-то по «количественному» (например, соотношение уровня доходов и обязательств), либо «качественному» (отметка о судимости, обременении собственности) признаку.

Тем не менее, важно, что у гражданина остается право «исправить» определенные данные о себе, либо запретить возможность доступа к своему досье на общих основаниях.

Незрелость технологий способна спровоцировать дифференциацию

Татьяна Бочарникова, глава представительства NetApp в России и СНГ

Сами по себе технологии нейтральны. Поэтому тут, скорее, важен не сам факт создания профилей, а недостаток инструментов анализа, несовершенство алгоритмов обработки, ошибки в подборе методов анализа и качество самой собираемой информации.

Важно понимать, что сервисы, работающие с персональными данными, нацелены на повышение эффективности и качества оказания услуги, но, не обладая совершенными технологиями, нельзя быть уверенным в том, что сбор больших данных не приведет к формированию информационного неравенства.

Ограничения могут появиться со стороны государственных органов, как, например, это было сделано в Китае, но не стоит забывать и о дискриминации со стороны бизнеса, способного выставить различные тарифы для разных характеристик профиля (например, взяв за основу уровень дохода человека), будь-то авиабилеты, обед в ресторане или оплата страховки.

Иначе говоря, по той или иной причине, дискриминация будет осязаема: начиная с ограничений по возрасту (цифровые профили будут хранить 57 видов личных данных гражданина, а, значит, будут еще «уязвимые» места) и заканчивая ошибками в «недоученных» алгоритмах искусственного интеллекта. Но в ближайшем будущем скорее именно незрелость технологий способна спровоцировать дифференциацию и дискомфорт, нежели другие факторы.

Любой из показателей может сыграть против вас

Лилия Алеева, директор по маркетингу, ICL Services

Цифровая дискриминация абсолютно не новое явление ни для России, ни тем более для мира. Она появилась с возникновением интернета, с того момента, как люди начали оставлять цифровые следы в виртуальном пространстве. Способность браузеров определять демографические черты личности с помощью алгоритмов и агрегировать онлайн-данные открыла потенциальную обратную сторону прогресса, помимо проблем конфиденциальности – цифровую дискриминацию. Так, заходя в один и тот же онлайн-магазин, мы с вами видим разную цену на один и тот же товар. Это зависит от населенного пункта, в котором вы живете: его размера, стоимости доставки, логистики и многих других аспектов. Но это только верхушка айсберга.

Одним из интересных показательных кейсов в США была ситуация, когда Facebook позволил своим рекламодателям исключать людей из рекламы жилья на основании их «этнической принадлежности». Этот кейс сыграл не в пользу Facebook, который в итоге проиграл двухлетний цикл судебных разбирательств, но факт остается фактом: любой из агрегируемых в онлайн-пространстве показателей может сыграть против вас. Место проживания, место учебы или работы, профессия, пол, этническая принадлежность, национальность, покупательная способность – по любому из этих показателей вы можете оказаться в «нежелательной» группе, а значит, лишиться потенциальных возможностей или интересных предложений.

Как повлияют на россиян цифровые профили и электронные досье – сильно зависит от того, какая информация будет там аккумулироваться, и в каких целях использоваться. Будут ли люди ограничены в получении базовых услуг в зависимости от имеющегося профиля (например, право на медицинскую помощь, на вычеты от государства в зависимости от трудового стажа и выплаченных налогов), не повлияют ли случившиеся жизненные события на дальнейшие возможности (наличие судимости на трудоустройство) – все зависит от целей сбора информации. При любом раскладе, при агрегировании цифрового профиля каждого гражданина в центре внимания должен находиться принцип исключения дискриминационного использования данных.

Поэтому онлайн-пространство, которое, на первый взгляд, дало нам равные возможности – в то же время способно со временем усугубить сложившееся социальное неравенство, если не уделить этому достаточно внимания.

А что вы думаете о дискриминации человека на основании его цифрового досье? Примите участие в голосовании и поделитесь вашими идеями в форуме.

Фото в анонсе: freepik.com