На прошедшем в январе Давосском всемирном экономическом форуме популярный израильский футуролог Юваль Ной Харари, автор книг «Sapiens. Краткая история человечества», «Homo Deus. Краткая история будущего», «21 урок для XXI века», распроданных общим тиражом свыше 30 млн экземпляров, в своем выступлении немного попугал собравшуюся респектабельную буржуазную публику перспективой наступления «цифровых диктатур».
Согласно Харари, сочетание искусственного интеллекта и «биохакинга» (умения расшифровать и создать цифровую модель работы мозга и центральной нервной системы человека) позволит предсказывать человеческие чувства и желания и манипулировать ими, предлагая человеку «выбор», который будет делаться за него во всех возможных сферах – политике, культуре, потребительском поведении.
Хотя до полноценного биохакинга еще далеко – ученым пока не удалось создать полноценную компьютерную модель мозга мыши, не говоря уже о компьютерной модели мозга человека. Но до ситуации «весь выбор делается за нас» человечество уже дошло. За человека делают выбор Google, Facebook, Amazon, Alibaba, Netflix и другие цифровые гиганты. Не существует иной картины мира, чем та, которая создается ведущими технологическими компаниями через определенным образом ранжированную систему предпочтений – условно, за кого голосовать, что носить, что смотреть. А деградация когнитивных функций человека («цифровая дислексия», о которой пойдет речь ниже) приводит к тому, что навязываемый «выбор без выбора» воспринимается как осознанный, не подвергаемый сомнению и единственно возможный.
Для нашего времени фраза «Google думает за нас», по сути, больше отражает реальность, чем фраза «Сталин думает за нас» отражала реальность середины XX века. Благодаря «цифровой революции» в унификации мышления, конформизме поведения и ликвидации приватности достигнуто больше «успехов», чем в рамках тоталитарных и жестко авторитарных режимов прошлого столетия.
Современное общество – это «человек прозрачный», лишившийся последних остатков приватности, «человек конформный», подвергающий все свои слова и действия жесточайшей самоцензуре, и обезличенный «цифровой приговор», выносимый индивиду, который нельзя ни обжаловать, ни отменить.
Немецко-американский философ Ханна Арендт (1906-1975), посвятившая значительную часть научной карьеры изучению феномена тоталитаризма, полагала, что баланс между публичностью и приватностью является центральной характеристикой любого общества, а нарушения этого баланса в сторону излишней публичности ведут к его тоталитарным деформациям.
В нашу эпоху все, по сути, становятся «голыми и смешными»:
- Big Data обобщает все «цифровые следы», оставляемые индивидом (где был, что делал, чем интересовался).
- Система распознавания лиц, которая есть и в уличных камерах, смартфонах, ноутбуках, поисковиках, популярных соцсетях – агрегирует личные данные и отсылает их «куда надо» и «кому надо».
Приватность исчезает как понятие
Никакие наружные наблюдения, слежки и прослушки прежних «репрессивных» эпох не давали такого ошеломляющего целостного результата!
Бороться же за анонимность с помощью «масок Гая Фокса» или иных скрывающих лицо ухищрений (капюшоны, банданы, темные очки в «пол-лица», сложный актерский грим) весьма наивно – китайские ИИ-специалисты уже разработали алгоритмы, «узнающие милого по походке» (набору уникальных для каждого человека телодвижений и жестов). Нет никаких сомнений, что их американские, европейские и российские коллеги получат в свое распоряжение такие же технологии в самом ближайшем будущем, если уже не получили.
В сложившихся условиях, «когда все голые и прозрачные», начинает работать поведенческая формула «честному человеку нечего скрывать и нечего бояться», в свое время активно продвигавшаяся в «массы» режимами, которые принято называть «тоталитарными». Мол, если всех грехов за тобой – бытовое пьянство, да не зашкаливающее прелюбодейство, то чекист/милиционер за тобой не придет.
Рациональной стратегией будет даже признавать за собой легкое несовершенство, и прикрываться всякого рода «масками» исключительно в качестве символического игрового токена. Так в Венецианской республике, славившейся своим «демократическим деспотизмом» и атмосферой всеобщего доносительства, люди жили тесно и скученно – почти как на подводной лодке. Чтобы как-то скрыть свою частную жизнь, пользовались плащами с капюшонами и знаменитыми венецианскими масками. Однако по причине вышеупомянутого компактного проживания, милого узнавали по походке, что твой китайский искусственный интеллект. Тогда выработалось следующее игровое поведение – лица не скрывали, а на грудь накалывали миниатюрную маску размером со значок. Что означало, что в данный момент «я частное лицо, веду частную жизнь. И хотя я государственный служащий, но сейчас я просто иду к любовнице, а не договариваться с турками о сдаче геополитических интересов Венеции по привлекательным расценкам».
Если вернуться к цифровым реалиям XXI века, то китайская система Social Credit Score у самих китайцев большого беспокойства не вызывает. (Система «социального кредитного рейтинга» – по принципу хорошее vs плохое поведение, вызывающая в западном полушарии ассоциации с «Большим Братом» Джорджа Оруэлла и сериалом-антиутопией «Черное зеркало»). Эта система всеобщего цифрового рейтингования граждан вполне ложится на матрицу национальной культуры. Во-первых, Конфуций завещал быть всем китайцам честными (хотя далеко не все граждане КНР четко следуют моральным предписаниям конфуцианства). Во-вторых, вводимая система напоминает жителям страны оцифровку и геймификацию бумажных личных дел с записью в них про гражданина хорошего и плохого, которые были введены при Мао Цзэдуне, и которые с тех пор никто не отменял.
В отличие от России и стран Запада, граждане Китая не слишком обеспокоены опубличиванием их личных данных под тем углом, что предположительно в большинстве своем ведут совершенно нормативный образ жизни, а если и «грешат», то в рамках социальной нормы. Как ответила на вопросы «Лента.ру» по поводу вводимой системы «социального кредитного рейтинга» сотрудник университета, китаянка Цзин: «Китайцев это так сильно не заботит, по крайней мере, большинство. Если ты не делаешь ничего плохого, то какая разница? Кто-то знает, где ты работаешь, кто-то – каким маршрутом возвращаешься домой, какой у тебя телефон, и с кем ты дружишь в соцсетях. Это не секретная информация, мы же в любом случае выставляем ее напоказ. Поэтому мы и не относимся к этому так трепетно. Ну, узнает кто-то, что я купила носки с поросятами и взяла кредит на машину, ну и что?».
В своей цифровой социальной инженерии Китай далеко не одинок. Так в Индии введена система Aadhaar – единого реестра биометрических данных граждан, куда внесены биометрические данные более 1 млрд человек, и которая вызывает большие вопросы относительно рисков утечек.
Европейские и американские комментаторы критикуют китайский Social Credit Score за «тоталитаризм». Но западные системы индивидуальных кредитных рейтингов мало чем отличаются от китайских аналогов. В их основе лежит философия анализа максимально большого доступного объема данных по частной жизни граждан, в том числе тех, которые напрямую не связаны с их кредитным поведением и кредитной дисциплиной.
«Цифровой приговор»
Человек формирует персональный онлайн-бренд, оставляя после себя цифровые следы:
- Это его высказывания, комментарии, фотографии и видеосюжеты в контекстах, дающие возможность интерпретации.
- Определенные геолокацией посещенные места и заведения с различными репутационными коннотациями, результаты шопинга, говорящие о вкусе потребителя.
- Поисковые запросы в интернете, выдающие те или иные интересы и склонности пользователя.
- «Лайки», комбинация которых дает возможность определить сексуальную ориентацию индивида.
На основе цифровых следов алгоритмы, работающие на принципах машинного обучения, выносят индивиду «цифровой приговор». На основе чего выносится этот приговор, и какова была логика вывода, сделанного алгоритмом, не всегда бывает понятно и самим разработчикам алгоритма, поскольку машинное обучение – это в некоторой степени «черный ящик» и «вещь в себе».
Приговор может быть публичным, как в китайской Social Credit Score с выведенным в публичное пространство индексом благонадежности индивида, либо непубличным. К непубличному «цифровому приговору» относятся HR-практики предварительного машинного отсева кандидатов. Человека перестают приглашать на интервью, поскольку машина сочла, что он «бесполезен». Причем кандидат может оставаться в неведении, что с ним не так, и над чем нужно поработать, чтобы в следующий раз попасть на собеседование по трудоустройству.
Упомянутый выше футуролог Юваль Харари пишет о формировании в цифровой экономике «бесполезного класса». С его точки зрения, бесполезным быть хуже, чем эксплуатируемым, поскольку эксплуатируемые понимают, в чем причина их эксплуатации и могут организоваться против ее преодоления (например, как это было в борьбе за права рабочего класса, права женщин). Попавший в «бесполезные» не знает точных причин своего отвержения экономикой, поэтому у него нет возможности солидаризироваться с другими «бесполезными» из-за отсутствия какой-либо общей платформы для согласованных совместных действий. В этой связи уместно еще раз процитировать Ханну Арендт: «Тоталитаризм стремится не к деспотическому господству над людьми, а к установлению такой системы, в которой люди совершенно не нужны».
Для борьбы с обезличенным цифровым приговором, который нельзя ни точно узнать, ни как-то юридически оспорить (не идти же в суд с иском «меня почему-то никуда не приглашают и никуда не берут, а почему – я и сам не знаю»), возможны две стратегии:
1) Пытаться как-то «заметать» свои цифровые следы.
2) Ужесточать самоцензуру, чтобы дополнительно «не наследить».
Для реализации первой стратегии пока еще несколько ограничены существующие технологические возможности. Хотя в списке «100 профессий будущего» от РБК числится такая профессия, как «стиратель цифровых следов».
Что касается самоцензуры XXI века, то это бег вслепую на опережение. Человек не знает, на каком этапе частные высказывания (например, высказывания в аккаунтах в соцсетях) могут из категории нормативных перейти в категорию «неполиткорректных». Безобидные шутки вчерашнего дня переходят в разряд «страшных оскорблений» дня сегодняшнего. А там недалеко и до «цифрового приговора» и последующего пополнения рядов «бесполезного класса».
Человек, ведущий аккаунт в социальной сети, находится в состоянии постоянного внутреннего напряжения. С одной стороны, нахождение в соцсетях – это must для нормативного социального поведения (если человека там нет, то его почти автоматом запишут в «бесполезные»), с другой стороны, как говорят в американских детективных фильмах: «все, что вы скажете, может и будет использовано против вас». Отсюда и однотипные аккаунты с котиками, фудпорном и бесконечными «я и пальма» – нужно и быть в сетях, и ничем не настораживать живых и роботизированных HR-менеджеров.
Если сравнить степень внутренней свободы граждан позднего СССР (не самого, нужно сказать, страшного извода «тоталитаризма»), то он, возможно, превышает степень внутренней свободы обитателей цифрового мира. Все, что в позднее советское время говорилось частным образом на кухнях (даже, если содержание разговоров потом передавалось «куда надо» «стукачами»), как правило, не пенализировалось. На кухне советский человек чувствовал себя «свободным» и самоцензурой не занимался. А теперь за неудачный пост в персональном аккаунте можно заплатить увольнением и социальным остракизмом (крайние случаи судебных разбирательств и реальных сроков за всякого рода «разжигания» мы специально выносим за скобки).
Как олдскульный советский тоталитаризм сформировал пресловутого homo soveticus, так «новый дивный цифровой мир» сформировал особого «цифрового человека» – homo digitalus.
«Дислексия цифрового человека»
Один из евангелистов цифровой экономики, глава Сбербанка Герман Греф, в комментарии по поводу «человека будущего» отметил, что будут востребованы «deep people», объединяющие в себе такие качества, как креативность, системное мышление и способность достигать результата. Вот только большой вопрос, откуда возьмутся эти качества, в особенности, системное мышление.
На деловом завтраке Сбербанка в рамках Давоса-2020 психолог Андрей Курпатов, руководитель Лаборатории нейронаук и поведения человека, отметил, что при переезде из «галактики Гутенберга в галактику Цукерберга» из цивилизации текстов и системного мышления мы переходим в цивилизацию зрительных образов, где нет ни аналитического мышления, ни системного. Согласно Курпатову, мир захватила эпидемия «цифрового аутизма». Все подростки в мире проводят 60-70% времени онлайн, а когда визуальный контент потребляется постоянно, энергия в зону мозга, отвечающего за мышление, не поступает. Образно говоря, «сервер мышления отправляется в спячку, или просто не формируется».
Такое явление можно назвать «дислексией цифрового человека». Люди, в том числе формально образованные, элементарно разучиваются читать. А без навыка чтения у человека нарушается базовая когнитивная функция, делающая затруднительным освоение знания вообще. Чтение – это довольно энергоемкое для мозга занятие по декодированию символов, коими являются буквы алфавита или иероглифы, и трансформации их в смыслы и образы. Визуальный же контент идет в мозг «прямотоком».
По статистике, основной причиной отчисления студентов в американских университетах и колледжах является недостаточное овладение навыками чтения и письма. Такому навыку трудно сформироваться с учетом того, что американский школьник выпускных 11-12 классов уделяет чтению в среднем восемь минут в день.
А у поколения Альфа (люди, родившиеся после 2010 года), идущего на смену поколению Z, время концентрации на одном посте сократилось до 1 секунды! В то время как у digital natives поколения Z оно составляло аж 8 секунд. Считается, что «человеку будущего» достаточно и секунды, чтобы понять, интересен ему контент или нет.
Выражение «много букв» перестало быть мемом и фигурой речи. Это уже печальная реальность. Многие молодые люди даже с высшим образованием признаются, что им трудно читать тексты объемом более 2-3 абзацев. Причина в том, что в цифровую эпоху человек взаимодействует с окружающей реальностью через экран смартфона. Экран смартфона достаточно мал для удобного чтения (если это только не случай сильной близорукости). Поэтому человек читает, в основном, только заголовки и выделенные крупным вставки, а также задерживается на визуальных образах. Сам же текст бегло скроллится, и из него произвольно выхватываются лишь отдельные слова. По сути, познавая мир через интерфейс смартфона, читатель скатывается на уровень комикса – много картинок и мало букв. А чтение комиксов – это когнитивный мир дошкольника.
Пользование гаджетами – «новый маркер бедности»
Первыми тревогу, как ни странно, забили лидеры IT-индустрии. Известно, что Стив Джобс и Билл Гейтс сильно ограничивали своих детей в использовании гаджетов. А среди ведущих IT-разработчиков Кремниевой долины стало модно отправлять своих детей в расположенную в Калифорнии Вальдорфскую Школу Полуострова (The Waldorf School of the Peninsula). В школе пишут мелом на доске и ручками в тетрадях. Пользование гаджетами полностью запрещено до восьмого класса, а после восьмого класса – сильно ограничено.
Одного из калифорнийских IT-экспертов спросили, почему, работая в IT-индустрии, он отправил своего ребенка в школу, где нельзя пользоваться гаджетами до восьмого класса. И он ответил в духе, что если бы он, к примеру, работал в индустрии производства «фильмов для взрослых», то тоже не очень бы хотел, чтобы с его продукцией знакомились его дети до достижения ими 17 лет.
Вообще, непользование гаджетами, согласно прошлогодней нашумевшей публикации в «Нью-Йорк Таймс» «Human Contact is Now a Luxury Good. Screens Used to Be for the Elite. Now Avoiding Them is a Status Symbol», становится постепенно признаком продвинутости и даже «нового элитизма», хотя 10-15 лет назад все обстояло ровно наоборот. Соответственно, пользование гаджетами начинает трактоваться как своего рода «новый маркер бедности».
К слову, в Британской королевской семье, являющейся на уровне популярной культуры олицетворением пресловутого «элитизма», при воспитании отпрысков королевского семейства пользование гаджетами также не приветствуется.
Возвращаясь к выступлению психолога Андрея Курпатова на деловом завтраке в Давосе, на фоне всеобщей атрофии познавательных навыков в мире происходит разделение «не только на бедных и богатых, но и на умных и глупых».
Если развить прозвучавшую в его выступлении логику, то немногочисленная мировая элита, способная системно мыслить, будет состоять из тайного ордена «рыцарей школьной доски, тряпки и мела», которых олдскульно учили читать, писать и думать. А на другом полюсе будут многочисленные «постигающие ценность контента за одну секунду» через экран гаджета.
Много говорится о «практико-ориентированном образовании», о том, что навыки не менее, а то и более важны, чем знания, о «новых воротничках», владеющих необходимыми техническими навыками цифровой эпохи и без получения высшего образования, которых предположительно скоро начнут предпочитать дипломированным специалистам.
Положа руку на сердце, для выживания в рамках так называемой «работы в офисе» навыков без знания, наверное, будет и достаточно – быстро тыкать в телефон и делать симпатичные презентации можно и не особо различая, чем там перипатетики отличаются от австралопитеков, а Страбон – от страпона.
Для сравнения можно вспомнить систему образования XIX века для британских бюрократов, которым предстояло управлять многочисленными колониями Британской империи. Казалось бы, им нужно было максимально практико-ориентированное управленческое образование – налоги и сборы, морское право, таможенное право, разрешение этнических конфликтов и т.п. А вместо этого они получали классическое образование – изучали латынь и греческий, античную историю и труды античных философов. И ничего, справлялись – управленческие навыки нарабатывались, как говорится «в процессе», ложась на ранее созданный прочный фундамент системного мышления. Кто-то может возразить, что Британская империя, в конечном счете, распалась. Это, безусловно, твердый факт. Но распад ее произошел не только, и не столько благодаря недостаткам британской системы классического образования.
Итого, системное мышление становится достоянием элиты, а «массы» удовлетворяются «клиповым мышлением» и перестают четко различать реальный и виртуальный миры, поскольку якобы «картинка на экране становится практически неотличимой от реала». Такой цифровой мир требует своего изучения. «Цифровой тоталитаризм» децентрализован и обезличен. В отличие от тоталитаризма прошлого, в нем нет портретов вождей, лозунгов, транспарантов и марширующих колонн. Но он задает неформализованный, однако довольно жесткий «формат», неприятие которого или неучастие в котором означает прямую и верную дорогу в «бесполезный класс». Сущность любого тоталитаризма – оставлять человеку минимум выбора, и «цифровой тоталитаризм» с этой задачей довольно хорошо справляется.
Исследователями всегда движет любопытство. Если «цифровой тоталитаризм» нельзя ни отменить, ни отвергнуть на личном уровне, его можно попытаться изучить и понять как общественную систему. Видимо, пришло время «цифровой антропологии» и «цифровой этнографии», чтобы лучше понимать «племена», населяющие цифровой мир, их ритуалы и поведенческие паттерны. Вообще, настало время «поведенческих наук». Достаточно вспомнить Нобелевскую премию по экономике 2017 года, присужденную Ричарду Талеру за исследования в области поведенческой экономики. Понять, как ведет себя «цифровой человек», какие политические и потребительские выборы он делает, и, главное, почему он их делает – большой актуальный челлендж для исследователей рынка и общественного мнения.
Фото: freepik.com
Читайте также:
Сначала не понял причём тут Сталин и цифровизация? Какая связь?
Потом догадался, так вот в чём дело!
"Если вы заботитесь о своём пищеварении — мой добрый совет: не говорите за обедом о большевизме и о медицине. И, боже вас сохрани, не читайте до обеда советских газет".
Да, и не читайте современных футурологов. А вот роман-сказку Николая Носова "Незнайка на Луне", прочитать можно!
Это не футурология, это пророческая книжка. Особенно с описанием нескольких подземных жилых этажей в высотках.
Никита Хрущёв говорил, что к 1980 году мы будем жить при коммунизме.
Тут не давно Дональд Трамп напомнил, как «футурологи-эксперты» ещё в 70-х годах всех пугали, что нефть закончится.
Михаил Горбачёв обещал каждой семье к 2000 году отдельную квартиру.
И вот, коммунизм, как-то пролетел мимо. Вместо этого резко наступил дикий капитализм. Нефть так и качают. И Дональд Трамп сказал, что он её любит. И 20 лет прошло, как все ждут, не дождутся обещанных квартир от Михаила Горбачёва.
А чем страшней книжка про будущее, тем она лучше продаётся. А лучше всех продаётся «Библия»! А не было бы там «Апокалипсиса», может быть и не так её покупали. Чего боятся-то?
Если нет «Судного дня»!
В качестве критики. Сергей Михалков писал "Сталин думает о нас", а Вы чуток изменяете призыв одной одиозной личности с чёлочкой. Разница в смысле существенная. Причём, Ваша версия абсолютно противоречит марксистско-ленинской идеологии. Говорю это, как старый большевик )))
А статья очень классная! Люблю айтишные темы.
Всё правильно написано и выводы, на мой взгляд, верные. Или интересные.
Есть одна самая большая опасность. Системы ИТ, ИИ и пр. существенно усложняются. Чтоб управлять такой сложной системой нужна ещё более сложная система. Субъект должне быть сложнее объекта. И боюсь, что наступит время, когда контроль над такой системой (объектом) будет утрачен. Не из-за злодейства, а из ограниченности человечских возможностей. Это уже почти произошло с системами управления оружием.
Первый раз такое, что лайк не хочется ставить, и не поставить нельзя. Впервые статья нравится своей содержательностью и объективностью, но от этого не удвольствие получаешь, а становится грустно. Все так и есть. Особенно про функциональную безграмтоность и дислексию. Эх, заблочил бы Роспотребнадзор Тик-Ток что ли ...
Уже и живые примеры есть: "Facebook отключил одну из своих систем искусственного интеллекта после того, как специалисты компании обнаружили, что боты стали общаться не на английском, а на собственном языке, который не был понятен людям. Об этом сообщает Tech Times "
Поищете в инете выступление На деловом завтраке Сбербанка в рамках Давоса-2020 психолог Андрей Курпатов
Очень грустно после выводов о грядущей "Цифровой дебилизации"
Такие настроения на уровне конкретных родных и близких этих вот детей цифры и приговоры психологов, в обществах уже давно. К сожалению, их масштаб только растёт.
Мудро! Когда нечего терять и нет страха , что придётся отвечать, то сходят с ума. В смысле, отключают работу ума, как рассудительность о себе, как о человеке. Тогда, можно и пофантазировать. И, некоторых несёт. Ой, извините, пофутуролить.
Это книжка о постройке Рогозиным и Шойгу базы на обратной стороне Луны что ли?
Что же касается материала, функциональная неграмотность и цифровая дислексия в российском обществе очень хорошо заметна в вузовской среде, где я работаю. Только в отличие от американских вузов у нас за неумение читать никого не отчисляют. А ведь эти люди - будущее нашей страны