За последнее время так много позитивных примеров развития технологий и особенно IT, что как-то даже неловко смотреть косо в их сторону. А теперь это еще и опасно, ведь системы распознавания уже не только узнают нас в лицо, по глазам, в темноте со спины из-за угла. Они еще определяют настроение! Полезная функция. Можно оценивать интерес покупателей без опросов, следить за вовлеченностью сотрудников, распознавать мыслепреступления у молчунов.
Вот в том и беда с современным IT – слишком уж все прикладное и эффективное.
Очень бегло, чисто для обозначения даже не трендов, а вполне себе фактов:
- Голосовые помощники и умные чат-боты. Системы распознавания человеческой речи, неважно устной или письменной.
- Автопилоты всего, что движется. Никто не сомневается уже в том, что роботы научились водить. Вопрос в том, когда запретят это делать людям.
- Компьютерное зрение. Системы распознавания чего угодно, от лиц до товаров. Бесконечные перспективы по применениям.
- Световые шоу из тысяч дронов как-то даже примелькались. Ну да, летают. Светятся. Автоматически, естественно.
Обратите внимание, насколько быстро все это стало обыденным. Многое еще не внедрено широкомасштабно, все на уровне прототипов и единичных решений. Но мы доверяем ученым и особенно бизнесу. Уж если чего изобрели, и оно приносит деньги — Алису не спрашивай, 100% запустят конвейеры, скоро такого барахла будет везде по пояс.
Интересно, а кому доверяет сам бизнес? Похоже, тем же самым компьютерам. Набирает обороты предсказательная, то есть pardon, предиктивная аналитика. Что это такое?
Позолоти штекер, всю правду расскажу
Предиктивная – от predict. Как обычно в английском, на одно слово 256 значений, и то потому что больше в словарь не поместилось. Диапазон для predict – от «определять» до «пророчить». Большая, между прочим. Как раз о ней и речь.
Витрина предиктивного мира, разумеется, увешана праздничными гирляндами. На ней улыбаются умные манекены, все клиентоориентированные, эко-френдли и т.д. От применений рябит в глазах. Предиктивная аналитика:
- Транспорт. У подзадохнувшейся в пробках и из-за ковидных ограничений логистики открылось второе дыхание.
- Торговля. Помимо безупречной доставки, еще настолько точное прогнозирование спроса, что скоро будут отправлять покупки раньше, чем покупатель решит купить. На склад поближе к его дому, для начала. Потом, возможно, и предиктивные автоплатежи подтянутся.
- Управление кадрами, причем речь не о фото и видео (хотя дипфейки тоже мощная тема). Все было ясно, как только первый раз назвали людей ресурсом. Дальше дело техники, и она все жестче с каждым днем. Пожалуй, и роботов внедрять не придется, просто превратят в них сотрудников.
Кроме того, много предиктивной аналитики мимикрирует под внешне другие вещи. Например, что такое банковский скоринг? Прогнозы того, кому сколько можно дать с какой вероятностью возврата или отжима залога, взысканий, угроз, шантажа — с любовью, разумеется, и заботой о благополучии. Вот вам буклетик.
А контекстная реклама! Она же не слушает, чего мы там говорим или пишем в своих глупых поисковых запросах (когда их уже заменят одной кнопкой со смайликом?). Ничего подобного. Она пытается догадаться, что мы на самом деле подразумевали. Предсказывает наши ожидания.
У кого хорошая память, может, помните — раньше был туризм. Люди летали по всей планете в больших металлических птицах. Это отдельная былина, сейчас важно, что при бронировании билетов и отелей адский софт определял, кому что почем предложить. Там не просто предиктивная, а иезуитски алчная математика. Кстати, такое есть и сейчас. Например, некоторые службы бронирования такси уличили в том, что чем меньше заряда осталось в батарее смартфона, тем дороже предложат поездку.
В общем, мы живем в эпоху сбывающихся пророчеств. Потому что постепенно заканчиваются варианты НЕ пользоваться всеми этими чудесами. Предиктивность уже как НДС. Вы можете даже не знать о ней, но платите по-любому.
Что не так с автоматизацией
У вас был хоть один вечный телефон? Nokia 3310 не считается, ее привез из будущего Терминатор, чтобы звонить своим, жаловаться на то, во что превратили легендарную франшизу. Но любой другой телефон и тем более «смарт» начинает глючить и выходит из строя, причем довольно быстро.
Стиральная машина может радовать своим блестящим умом по распознаванию режимов стирки, всякими LED-чудесами и встроенной кофеваркой. Но однажды блок управления переклинит, и придется отжимать ей челюсть стамеской, чтобы достать свои тряпки.
Вся техника ломается, это вопрос времени, производственного брака, архитектурных недоработок, колебаний напряжения в сети, плохой молниезащиты, неудачных апдейтов программного обеспечения, хакерских атак, компьютерных вирусов. Ломается по многим причинам.
На бытовом уровне все это неприятно. Когда масштабы крупнее, случаются такие, например, истории:
- Полное отключение электроэнергии в Нью-Йорке, Нью-Джерси, Онтарио, Мичигане и других местах из-за неудачной архитектуры системы управления. Оказалось, что достаточно выключить 1 (один!) датчик, чтобы не просто прозевать локальную аварию, а спровоцировать веерный блэкаут.
- Медцентр Св. Марии Милосердия в городе Гранд-Рапидс (штат Айова) немилосердно обновил учетную программу и разослал всем выписавшимся пациентам свидетельства о смерти.
- Куда менее веселая ошибка в программном коде Therac-25 (устройство для радиотерапии) в течение двух лет приводила к большим дозам облучения, от чего умерли десятки людей.
- Много ракет взорвалось или сгорело из-за программных ошибок. Один из ярких во всех смыслах примеров — спутник «Mars Climate Orbiter», разработчики которого невнимательно смотрели «Криминальное чтиво» и перепутали английские единицы измерения с метрическими.
- Бизнес тоже часто нес потери. Проблемы с автоматическим ценообразованием, скидками. Или неудачными сделками на бирже, которые чуть не разорили компанию Knight. Роботы подставили ее на $440 млн прямого убытка.
Конечно, можно говорить что это были глупые роботы. Искусственный интеллект сначала открыл бы себе счета в офшорах и слил деньги туда. Кроме того, эрудиты возразят, что когда все это было! Годы назад. С тех пор IT космически поумнели, невероятно развились и глупых ошибок больше не совершают. Ну-ну.
Все прежние ошибки как раз никуда обычно не деваются. Их маскируют патчами, то есть буквально заклеивают виртуальным скотчем. Потому что есть легаси — дурные айтишные гены, прямое наследование почти всего, что только было раньше. Это огромная головная боль для бизнеса. Приходится обслуживать устаревшие платформенные решения. А заменить их новыми красивыми из плагинов со стразами не получится, ведь настоящий софт (сюрприз-сюрприз) гораздо сложнее.
Но и новый модный софт с нейросетями тоже лажает. Это ведь самообучающиеся системы, а не самообучившиеся. Пара довольно свежих примеров, с распознаванием движущихся объектов:
- Во время футбольного матча в Шотландии «умные» камеры постоянно путали мяч с лысым черепом судьи. Болельщикам вместо голевых ситуаций приходилось любоваться совсем другими видами.
- В Китае пачку штрафов за нарушение правил дорожного движения для пешеходов получила влиятельная женщина из топ-100 Forbes. Оказалось, что причиной стало ее фото на автобусах, которое распознавали как человека, бегущего по проезжей части.
Представьте, что ровно такого же качества программное обеспечение, подверженное рискам, ошибкам, уязвимостям управляет вообще всем. Нашим обучением, снабжением, коммуникациями, деньгами, здоровьем. Причем не просто наблюдает и распознает (хотя даже с таким ошибок бывает более чем достаточно). Еще предсказывает. Предиктивничает.
Но и это еще не все.
Человеческий фактор в полной автоматизации
Нет особых иллюзий насчет роботов. Конечно, они долго еще будут ошибаться. Без неожиданных квантовых прорывов в другие измерения — всегда будут. Что в целом относительно нормально, причем по сравнению с людьми наверное ошибок будет даже меньше. Все припоминают автопилотам несколько несчастных случаев, тогда как люди бьются в фарш чуть не каждую минуту – статистика дорожных травм и смертей ужасающая.
Только мы ведь и не дадим роботам рулить по-настоящему. Хотя бы в том смысле, что пока прокат четвертой Матрицы не вышел из-под контроля, мир еще принадлежит людям. И все системы автоматизации тоже. Каждый робот с ошибками или без кем-то контролируется, за ним приглядывают. И пытаются, понятно, использовать в качестве конкурентного преимущества. Чтобы выгадывать на предиктивной аналитике те самые драгоценные секунды, которые определяют чемпионов.
А на них все смотрят, вот в чем беда. Все участники забега пристально следят за лидерами. Мы часто видим, к чему это приводит по твитам Илона Маска, опущенным векам Уоррена Баффетта, малейшим движениям других магнатов. Если кто-то кашлянул или почесал нос – целые отрасли приходят в движение.
Так вот, когда предиктивные системы хорошо себя покажут, их отладят, масштабируют. Все будет автоматизировано, весь бизнес превращен в гигантскую систему взаимосвязанных датчиков. Нейросети по взмаху крыльев бабочки в Айове научатся прогнозировать отключение горячей воды в Воронеже. Идеальная логистика. Все связано невидимыми ниточками.
Потом где-то переклинит. Неважно что. Попадется бабочка с неудачной аэродинамикой. Или система распознавания узрит черного лебедя в рисунке на ее крыле. И все пойдет вразнос. Только не поставки окорочков в какой-то магазин, не электронный документооборот по начислениям за февраль, вообще частными случаями тогда уже не отделаться. Все же взаимосвязано.
Одни роботы смотрят на других, и лавина автоматических микро-корректирующих действий сметает к черту все стопы за считанные минуты. Все индикаторы горят красным и взрываются от натуги, орут сирены, менеджеры, прохожие. А поздно, ничего уже не поделаешь. Мир вошел в сингулярность не тем боком, и застрял в текстурах. Потому что не надо было завязывать первую сигнальную систему на предиктивную аналитику.
Тем более что нас предупреждали. На одной из демонстраций Boston Dynamics их красивый, умный, технологичный робот ходил, распознавал команды, отнимал коробку у киберпса. А потом попрощался с рукоплещущей аудиторией, на выходе со сцены запутался в занавеске и грохнулся на пол. Именно так работают технологии.
И это проблема не все более совершенных машин, а по-прежнему глупых людей, которые ищут волшебные универсальные решения.
Читайте также: