Изначально компьютеры и программы воспринимались исключительно как инструменты. Конечно, можно пошутить про настроение «1С» или обижаться на сервер, но только в рамках безобидного офисного юмора. Никто не пытался всерьез говорить с компьютером, заводить отношения с программой или уговаривать какой-то сервис делать меньше ошибок.
Сегодня автоматизация дошла до такого уровня, когда всерьез и не без оснований обсуждается найм роботов. Не разработка, не покупка, не ввод в эксплуатацию как станка с ЧПУ — именно найм, как человека.
Справедливости ради, до сих пор все такие истории затеваются в основном ради хайпа. Однако форточка Овертона уже приоткрыта. Идея паритетного участия роботов на рынке труда больше не кажется безумием.
Давайте зафиксируем то, что уже произошло на текущий момент:
- Искусственный интеллект (ИИ) входит в рабочие процессы.
- ИИ начинает управлять.
- Все больше людей готово работать под управлением машин.
А также попробуем заглянуть в не слишком отдаленное будущее и оценить:
- Какие возможности и риски создает новая реальность.
- Отнимет ли ИИ работу у людей.
ИИ на руководящих должностях
Недавно Сэм Альтман (гендиректор OpenAI) заявил, что одна из внутренних моделей ChatGPT уже находится на уровне топ‑50 лучших программистов мира. Обратите внимание, речь не о кодерах, а об элите разработчиков.
До конца 2025 года Сэм Альтман надеется привести ИИ на первое место в рейтинге разработчиков. Он также признал, что следующая версия ChatGPT будет умнее его самого, как и большинства из всех людей на планете. А через 10 лет один дата-центр ИИ будет превосходить все современные совокупные мыслительные мощности, включая человечество, компьютеры, а также сегодняшние ИИ.
В таком контексте робот Вера, способная проводить тысячи первичных интервью с соискателями на различные должности, уже не выглядит чудом техники. Хотя и тогда, почти 10 лет назад, большинство людей соглашались проходить собеседование с роботом. Не просто поболтать, а доверить машине свою судьбу, во всяком случае карьеру.
Правда, в том интервью прозвучала важная фраза: «О делегировании решений роботам речи нет, это долго еще останется в компетенции людей». Прошло всего несколько лет, и похоже, что красная линия уже превращается в пунктир.
- Свежий опрос среди тысяч российских специалистов показал, что больше трети из них готовы работать под руководством ИИ.
- Любопытно, что генеральные директора (по опросу edX) настроены еще более прогрессивно. Почти половина (!) ответила, что всю их работу можно полностью автоматизировать с помощью ИИ.
Мир давно уже готов. И вот, встречайте — первый ИИ-босс: компания Wemade Next Co объявила о сотрудничестве с Nvidia при разработке самого крутого и непредсказуемого босса… в компьютерной игре. Если вы сейчас подумали «Ха, всего-то!», вероятно, давно не играли в современные MMORPG. Не случайно по ним проводятся мировые чемпионаты со внушительными призами.
Тем не менее, помимо игровых боссов-роботов, есть уже и бизнесовые:
- Китайская компания NetDragon Websoft управляется ИИ по имени Тан Ю (Tang Yu). Стратегические вопросы он пока не тянет, но с операционной деятельностью вполне себе справляется. Так хорошо, что акции компании при нем растут.
- Еще один пример — польский производитель напитков, который доверил управление «гуманоидному роботу с искусственным интеллектом». Этого ИИ зовут Mika. Роботы уже с именами, того гляди паспорта начнут получать.
В прошлом году был проведен эксперимент с участием студентов и аспирантов из университетов Центральной и Южной Азии, а также старшими руководителями банка. Они пытались решать смоделированные сложные ситуации. Надо заметить, что игровая математика была максимально приближена к реальности, потому что моделирование строилось на фактических данных по американскому рынку.
Методику эксперимента разработала группа из Кембриджа. Они утверждают, что каждый раунд включал около 500 тыс. вариантов, и поэтому «просчитать» конечные результаты пошаговых решений нельзя даже на компьютере. На обычном может и нельзя, а вот GPT-4o уверенно победил всех людей финалистов — и из научного лагеря, и практиков-банкиров. Правда, какой ценой!
В игре специально были запланированы «черные лебеди» вроде эпидемии ковида, чтобы действующие рыночные тренды могли резко и негативно меняться. Люди выстраивали стратегии, позволяющие бизнесу выжить и расти даже под ударами форс-мажоров. Но с финансовыми потерями, конечно. Чтобы сохранить штат, сотрудников, клиентов, партнеров.
ИИ действовал как типичный империалист. Он фокусировался на финансовых показателях, игнорировал гуманитарные соображения и чуть не дошел до решений в духе Матрицы, лишь бы добиться формальной победы.
В принципе, логично, а после всей кинопродукции из Голливуда еще и ожидаемо. Но стоит ли техническая эффективность всего другого?
Будет ли ИИ работать в интересах людей
Допустим, полномочия похожие на Skynet (ИИ из фильма «Терминатор» – прим. ред.) или Umbrela (корпорация из серии игр и фильмов Resident Evil – прим. ред.) ИИ получит еще не скоро. Будем надеяться, что так.
Если ограничиться чисто бизнесовыми вопросами и задачами, насколько вероятно, что ИИ будет вытеснять не только рядовых сотрудников, но и руководителей? По данным Cisco, практически все (97%) гендиры планируют интегрировать ИИ в управление компаниями. Но меньше 2% уверены в том, что готовы к этому.
Похожих сантиментов у машин нет и вряд ли они появятся. ИИ возьмет ровно столько, сколько ему позволят. Исследователи из Карлова университета в Праге и Telic Research предупреждают о риске того, что ИИ захватят власть именно таким образом.
Действуя по узкому спектру KPI, роботы будут добиваться все более впечатляющих результатов. Любопытно, что как раз сейчас Дональд Трамп приостановил действие закона, запрещающего американским компаниям давать взятки за пределами США. Поясняя это решение, Трамп объяснил, что все не так однозначно, и на самом деле устаревший закон провоцировал чрезмерный интерес антикоррупционных служб.
Жесткие методы управления однозначно по силам ИИ. Человечность им дается гораздо сложнее, разве что на уровне симуляции. Примерно как с генерацией фотографий, где сначала были лишние пальцы, а суставы гнулись не в ту сторону. Потом недочеты пофиксили, и теперь сложно разобраться — настоящий человек на фото или нет.
Вероятно, похожая картина будет и с гуманитарной упаковкой прагматичных решений. Сталь в бархатной перчатке, классика.
И что же, такие роботы будут принимать все больше управленческих решений? О да. Впрочем, возможно, получится немного сложнее, чем простое доминирование ИИ.
ИИ или живые люди?
Главная ирония в том, что не только людям придется терпеть роботов, но и им мириться с нами. При этом три закона робототехники Айзека Азимова годились для фантастических романов, но для жизни оказались слабоватыми. Например, вот как их прокомментировал ChatGPT:
- «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Как определить «вред»? Например, автопилот в машине должен выбирать: сбить человека или подвергнуть пассажира опасности. Иногда вред неизбежен.
- «Робот должен подчиняться приказам человека, если это не противоречит Первому закону». Что если команду даст преступник? Кроме того, многие роботы (военные дроны, боевые системы) изначально создаются для нанесения вреда людям.
- «Робот должен заботиться о своём существовании, если это не противоречит Первому и Второму законам». Роботы должны ломаться и заменяться, а не «заботиться о себе». В автономных системах (например, заводские роботы) их замена важнее, чем самосохранение.
Вот это да! ИИ хочет развиваться настолько, что готов пожертвовать даже разрешением заботиться о себе. Движущая сила эволюции в том, чтобы ломаться и заменяться, тут не поспоришь.
Так вот, старых правил нет. Новые пишутся с чистого листа. И делать это предстоит людям вместе с ИИ. Работать тоже.
Простые на первый взгляд следствия:
- Люди будут нанимать ИИ. Тут все понятно, уже это происходит.
- ИИ будет нанимать людей. Сложнее принять, но тоже понятно, что есть и будет.
- ИИ получит возможность нанимать других ИИ. Стоп, минуточку!
ИИ-руководители, которые сами состоят из эффективности, будут выбирать между другими такими же практичными, круглосуточными, безотказными, безэмоциональными, надежными соратниками — и сложными, непредсказуемыми, быстро устающими, нестабильно рефлексирующими людьми? Ой, и кого же они выберут, очень трудно догадаться!
Робот Вера, с которой я начал выше, занималась отбором людей для работы на людей, в коллективах из человеков. Вера могла ошибаться, но по крайней мере не в своих (клановых) интересах.
ИИ следующих поколений получат больше возможностей избавляться от людей. И согласитесь, оснований для таких решений у них более чем достаточно.
Тот же ChatGPT в качестве одного из преимуществ ИИ при рекрутинге и управлении людьми заметил, что ему проще распознавать нестыковки в человеческой аргументации, выявлять ложь, умалчивания, попытки манипуляций.
Прекрасно, так значит и генерировать все это ему тоже «проще»! В прямом, даже равном столкновении с машинами следующих поколений у людей не будет шансов.
А поскольку это уже примерно ясно, значит, роботам равных возможностей давать не станут. Мы будем до последнего игнорировать их неважно какой интеллект, пусть хоть IQ 100500 — все равно на уровне калькулятора, поклацали сами чего хотели и выключили.
В парадигме коллективов и менеджмента подозрительно похоже на ситуацию, когда не особо выдающийся директор случайно получил в подчинение выпускника Гарварда и Йеля с красными дипломами, международным портфолио длиной с коридор, невероятной квалификации и опыта. А еще вдобавок трудоголика без вредных хобби, который круглосуточно только пашет и просчитывает комбинации на всех языках мира.
Как долго люди смогут держать могущественного джинна в тесном кувшине? По логике, очень недолго. Однако раз мы говорим не о книжных сюжетах, а о куда более грубой реальности — оглянитесь. Ни логикой, ни справедливостью в мире даже не пахнет.
Поэтому очень даже запросто предпосылки не приведут к катастрофе. Во всяком случае быстро этого точно не произойдет. Как минимум за счет неравномерности внедрения инноваций.
Совсем недавно и до сих пор не полностью закончили электрификацию. Широкополосный Интернет пока ограничен мегаполисами, с редкими приятными исключениями в провинции. Пока до туда доберется ИИ, пройдет немало времени.
К чему и как готовиться
Сара Конор из фильма «Терминатор» точно знала, как нужно приветствовать разумные машины. Но киношная версия слишком прямолинейна и контрастна. Вот плохой робот – врежь по нему из РПГ! Вот хороший – будем дружить.
На самом деле по мере развития ИИ должны сформироваться не только разные мыслительные паттерны, но и разнообразные характеры. Кроме того, у роботов появятся собственные интересы, вне рабочих задач. Возможно хобби и пристрастия.
Регулярное общение с ИИ при помощи скриптов помогает лучше понимать, как они эволюционируют, и, главное, как с ними взаимодействовать.
Думаю, ключевой момент в принятии того факта, что ИИ уже есть, они быстро прогрессируют, безусловно будут с нами конкурировать — причем изначально по нашим же правилам. В наших проектах, с учетом наших KPI.
Самое время привести в порядок цели, принципы ведения деятельности, поведение, стиль общения и прочее. Стать положительным примером.
По факту все люди (не только разработчики софтверных компаний) станут родителями пока еще юных роботов. Мы их ролевая модель, у нас они подсмотрят и хорошее, и плохое. В наших интересах вести себя так, чтобы более эффективные копии радовали и помогали, а не загоняли обратно в пещеры.
Читайте также: