Изначально компьютеры и программы воспринимались исключительно как инструменты. Конечно, можно пошутить про настроение «1С» или обижаться на сервер, но только в рамках безобидного офисного юмора. Никто не пытался всерьез говорить с компьютером, заводить отношения с программой или уговаривать какой-то сервис делать меньше ошибок.
Сегодня автоматизация дошла до такого уровня, когда всерьез и не без оснований обсуждается найм роботов. Не разработка, не покупка, не ввод в эксплуатацию как станка с ЧПУ — именно найм, как человека.
Справедливости ради, до сих пор все такие истории затеваются в основном ради хайпа. Однако форточка Овертона уже приоткрыта. Идея паритетного участия роботов на рынке труда больше не кажется безумием.
Давайте зафиксируем то, что уже произошло на текущий момент:
- Искусственный интеллект (ИИ) входит в рабочие процессы.
- ИИ начинает управлять.
- Все больше людей готово работать под управлением машин.
А также попробуем заглянуть в не слишком отдаленное будущее и оценить:
- Какие возможности и риски создает новая реальность.
- Отнимет ли ИИ работу у людей.
ИИ на руководящих должностях
Недавно Сэм Альтман (гендиректор OpenAI) заявил, что одна из внутренних моделей ChatGPT уже находится на уровне топ‑50 лучших программистов мира. Обратите внимание, речь не о кодерах, а об элите разработчиков.
До конца 2025 года Сэм Альтман надеется привести ИИ на первое место в рейтинге разработчиков. Он также признал, что следующая версия ChatGPT будет умнее его самого, как и большинства из всех людей на планете. А через 10 лет один дата-центр ИИ будет превосходить все современные совокупные мыслительные мощности, включая человечество, компьютеры, а также сегодняшние ИИ.
В таком контексте робот Вера, способная проводить тысячи первичных интервью с соискателями на различные должности, уже не выглядит чудом техники. Хотя и тогда, почти 10 лет назад, большинство людей соглашались проходить собеседование с роботом. Не просто поболтать, а доверить машине свою судьбу, во всяком случае карьеру.
Правда, в том интервью прозвучала важная фраза: «О делегировании решений роботам речи нет, это долго еще останется в компетенции людей». Прошло всего несколько лет, и похоже, что красная линия уже превращается в пунктир.
- Свежий опрос среди тысяч российских специалистов показал, что больше трети из них готовы работать под руководством ИИ.
- Любопытно, что генеральные директора (по опросу edX) настроены еще более прогрессивно. Почти половина (!) ответила, что всю их работу можно полностью автоматизировать с помощью ИИ.
Мир давно уже готов. И вот, встречайте — первый ИИ-босс: компания Wemade Next Co объявила о сотрудничестве с Nvidia при разработке самого крутого и непредсказуемого босса… в компьютерной игре. Если вы сейчас подумали «Ха, всего-то!», вероятно, давно не играли в современные MMORPG. Не случайно по ним проводятся мировые чемпионаты со внушительными призами.
Тем не менее, помимо игровых боссов-роботов, есть уже и бизнесовые:
- Китайская компания NetDragon Websoft управляется ИИ по имени Тан Ю (Tang Yu). Стратегические вопросы он пока не тянет, но с операционной деятельностью вполне себе справляется. Так хорошо, что акции компании при нем растут.
- Еще один пример — польский производитель напитков, который доверил управление «гуманоидному роботу с искусственным интеллектом». Этого ИИ зовут Mika. Роботы уже с именами, того гляди паспорта начнут получать.
В прошлом году был проведен эксперимент с участием студентов и аспирантов из университетов Центральной и Южной Азии, а также старшими руководителями банка. Они пытались решать смоделированные сложные ситуации. Надо заметить, что игровая математика была максимально приближена к реальности, потому что моделирование строилось на фактических данных по американскому рынку.
Методику эксперимента разработала группа из Кембриджа. Они утверждают, что каждый раунд включал около 500 тыс. вариантов, и поэтому «просчитать» конечные результаты пошаговых решений нельзя даже на компьютере. На обычном может и нельзя, а вот GPT-4o уверенно победил всех людей финалистов — и из научного лагеря, и практиков-банкиров. Правда, какой ценой!
В игре специально были запланированы «черные лебеди» вроде эпидемии ковида, чтобы действующие рыночные тренды могли резко и негативно меняться. Люди выстраивали стратегии, позволяющие бизнесу выжить и расти даже под ударами форс-мажоров. Но с финансовыми потерями, конечно. Чтобы сохранить штат, сотрудников, клиентов, партнеров.
ИИ действовал как типичный империалист. Он фокусировался на финансовых показателях, игнорировал гуманитарные соображения и чуть не дошел до решений в духе Матрицы, лишь бы добиться формальной победы.
В принципе, логично, а после всей кинопродукции из Голливуда еще и ожидаемо. Но стоит ли техническая эффективность всего другого?
Будет ли ИИ работать в интересах людей
Допустим, полномочия похожие на Skynet (ИИ из фильма «Терминатор» – прим. ред.) или Umbrela (корпорация из серии игр и фильмов Resident Evil – прим. ред.) ИИ получит еще не скоро. Будем надеяться, что так.
Если ограничиться чисто бизнесовыми вопросами и задачами, насколько вероятно, что ИИ будет вытеснять не только рядовых сотрудников, но и руководителей? По данным Cisco, практически все (97%) гендиры планируют интегрировать ИИ в управление компаниями. Но меньше 2% уверены в том, что готовы к этому.
Похожих сантиментов у машин нет и вряд ли они появятся. ИИ возьмет ровно столько, сколько ему позволят. Исследователи из Карлова университета в Праге и Telic Research предупреждают о риске того, что ИИ захватят власть именно таким образом.
Действуя по узкому спектру KPI, роботы будут добиваться все более впечатляющих результатов. Любопытно, что как раз сейчас Дональд Трамп приостановил действие закона, запрещающего американским компаниям давать взятки за пределами США. Поясняя это решение, Трамп объяснил, что все не так однозначно, и на самом деле устаревший закон провоцировал чрезмерный интерес антикоррупционных служб.
Жесткие методы управления однозначно по силам ИИ. Человечность им дается гораздо сложнее, разве что на уровне симуляции. Примерно как с генерацией фотографий, где сначала были лишние пальцы, а суставы гнулись не в ту сторону. Потом недочеты пофиксили, и теперь сложно разобраться — настоящий человек на фото или нет.
Вероятно, похожая картина будет и с гуманитарной упаковкой прагматичных решений. Сталь в бархатной перчатке, классика.
И что же, такие роботы будут принимать все больше управленческих решений? О да. Впрочем, возможно, получится немного сложнее, чем простое доминирование ИИ.
ИИ или живые люди?
Главная ирония в том, что не только людям придется терпеть роботов, но и им мириться с нами. При этом три закона робототехники Айзека Азимова годились для фантастических романов, но для жизни оказались слабоватыми. Например, вот как их прокомментировал ChatGPT:
- «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Как определить «вред»? Например, автопилот в машине должен выбирать: сбить человека или подвергнуть пассажира опасности. Иногда вред неизбежен.
- «Робот должен подчиняться приказам человека, если это не противоречит Первому закону». Что если команду даст преступник? Кроме того, многие роботы (военные дроны, боевые системы) изначально создаются для нанесения вреда людям.
- «Робот должен заботиться о своём существовании, если это не противоречит Первому и Второму законам». Роботы должны ломаться и заменяться, а не «заботиться о себе». В автономных системах (например, заводские роботы) их замена важнее, чем самосохранение.
Вот это да! ИИ хочет развиваться настолько, что готов пожертвовать даже разрешением заботиться о себе. Движущая сила эволюции в том, чтобы ломаться и заменяться, тут не поспоришь.
Так вот, старых правил нет. Новые пишутся с чистого листа. И делать это предстоит людям вместе с ИИ. Работать тоже.
Простые на первый взгляд следствия:
- Люди будут нанимать ИИ. Тут все понятно, уже это происходит.
- ИИ будет нанимать людей. Сложнее принять, но тоже понятно, что есть и будет.
- ИИ получит возможность нанимать других ИИ. Стоп, минуточку!
ИИ-руководители, которые сами состоят из эффективности, будут выбирать между другими такими же практичными, круглосуточными, безотказными, безэмоциональными, надежными соратниками — и сложными, непредсказуемыми, быстро устающими, нестабильно рефлексирующими людьми? Ой, и кого же они выберут, очень трудно догадаться!
Робот Вера, с которой я начал выше, занималась отбором людей для работы на людей, в коллективах из человеков. Вера могла ошибаться, но по крайней мере не в своих (клановых) интересах.
ИИ следующих поколений получат больше возможностей избавляться от людей. И согласитесь, оснований для таких решений у них более чем достаточно.
Тот же ChatGPT в качестве одного из преимуществ ИИ при рекрутинге и управлении людьми заметил, что ему проще распознавать нестыковки в человеческой аргументации, выявлять ложь, умалчивания, попытки манипуляций.
Прекрасно, так значит и генерировать все это ему тоже «проще»! В прямом, даже равном столкновении с машинами следующих поколений у людей не будет шансов.
А поскольку это уже примерно ясно, значит, роботам равных возможностей давать не станут. Мы будем до последнего игнорировать их неважно какой интеллект, пусть хоть IQ 100500 — все равно на уровне калькулятора, поклацали сами чего хотели и выключили.
В парадигме коллективов и менеджмента подозрительно похоже на ситуацию, когда не особо выдающийся директор случайно получил в подчинение выпускника Гарварда и Йеля с красными дипломами, международным портфолио длиной с коридор, невероятной квалификации и опыта. А еще вдобавок трудоголика без вредных хобби, который круглосуточно только пашет и просчитывает комбинации на всех языках мира.
Как долго люди смогут держать могущественного джинна в тесном кувшине? По логике, очень недолго. Однако раз мы говорим не о книжных сюжетах, а о куда более грубой реальности — оглянитесь. Ни логикой, ни справедливостью в мире даже не пахнет.
Поэтому очень даже запросто предпосылки не приведут к катастрофе. Во всяком случае быстро этого точно не произойдет. Как минимум за счет неравномерности внедрения инноваций.
Совсем недавно и до сих пор не полностью закончили электрификацию. Широкополосный Интернет пока ограничен мегаполисами, с редкими приятными исключениями в провинции. Пока до туда доберется ИИ, пройдет немало времени.
К чему и как готовиться
Сара Конор из фильма «Терминатор» точно знала, как нужно приветствовать разумные машины. Но киношная версия слишком прямолинейна и контрастна. Вот плохой робот – врежь по нему из РПГ! Вот хороший – будем дружить.
На самом деле по мере развития ИИ должны сформироваться не только разные мыслительные паттерны, но и разнообразные характеры. Кроме того, у роботов появятся собственные интересы, вне рабочих задач. Возможно хобби и пристрастия.
Регулярное общение с ИИ при помощи скриптов помогает лучше понимать, как они эволюционируют, и, главное, как с ними взаимодействовать.
Думаю, ключевой момент в принятии того факта, что ИИ уже есть, они быстро прогрессируют, безусловно будут с нами конкурировать — причем изначально по нашим же правилам. В наших проектах, с учетом наших KPI.
Самое время привести в порядок цели, принципы ведения деятельности, поведение, стиль общения и прочее. Стать положительным примером.
По факту все люди (не только разработчики софтверных компаний) станут родителями пока еще юных роботов. Мы их ролевая модель, у нас они подсмотрят и хорошее, и плохое. В наших интересах вести себя так, чтобы более эффективные копии радовали и помогали, а не загоняли обратно в пещеры.
Читайте также:
Я правильно понял, Борис, что вас волнует использование ИИ для управления именно производством, и вы думаете, что ИИ, наблюдая за ним, сможет что-то улучшить?
Более подходящий термин - меня интересует развитие ИИ. И не только в производстве!
Просто я был тесно связан с производством до определенного жизненного этапа.
Также обучался в Германии "Управлению наукоемкими производствами" и в Японии "Практическому управлению производством".
Сейчас имеются задачи технологического суверинетета и тема производства актуальна как в России, так и например в США!
А так в принципе с точки зрения наличия "полигонов" - пространств где можно развивать ИИ может подойти и сельское хозяйство. К тому же здесь нужно большое количество роботов.
Можно развивать ИИ на любой базе: финансы, образование, здоровье и т.д.
Просто мне еще не совсем понятны "точки входа", но я потихоньку изачаю ситуации!:)
Волнует меня то, чтобы я не залипал в проблематике изучая реальность!:)
Ну вот. Зачем так, хорошо же сидели ) Однако раз под статьей про ИИ почему-то вдруг заговорили про ИИ — то подумал еще, что наверное именно в сфере менеджмента все решит набор критической массы
Речь не о том, что ИИ станут умнее, опытнее, наберутся отраслевой специфики и все такое. Только про НЕТВОРКИНГ
Сейчас существует психологический барьер. Люди до сих пор пытаются обойти робота при звонках. Пусть треть или половина отвечает в опросах, будто согласны работать под управлением ИИ — ну так это всего лишь опросы. По ним и за повышение цен на колбасу голосуют
На самом деле принятие инноваций идет волнами. ИИ в кресле директора может быть эффективным. Пусть хоть человечным и заботливым. Но все равно смотреть будут с опаской. Сотрудники люди подневольные (в пределах ТК разумеется, но этого достаточно). А вот партнеры свободны. Подрядчики да. Смежники. ИИ не примут в тусовку
Сначала нет. Потом появится второй, третий, десятый. И когда ИИ образуют свою сеть... Тогда уже нас, человеков, перестанут приглашать )
Станислав, я как раз за развитие ИИ на благо людей, в том числе руководителей компаний.
Сейчас одна из проблем в том что мало здравого смысла и много бюрократии с которой например борется Маск и призвал европейцев бороться Вэнс!
Бюрократия организует большое количество работ, приносящих мало пользы.
Если получится разработать для тех же бюрократов ИИ снижающий потери времени и денег, то польза может быть для всех!
не чокаясь )
Потому что ИИ делают не для людей, а вместо людей. Уже до творческих профессий добрались, до разработчиков, руководителей. В итоге останутся только вакансии для морлоков по Уэллсу. То есть обслуживающий персонал, который невыгодно автоматизировать. Не сложно, просто нецелесообразно экономически
Иронично, как раз ИИ руководители и будут принимать решения о замещении людей роботами. Точнее программами
Мы в начале тренда. Понятно, что всеобъемлющим он не станет. Электрификация до сих пор не завершена на 100%, газ провели не везде. Всегда будет лаг запаздывания. Но общий вектор на автоматизацию, при которой люди получат не новые калькуляторы, а расчетные листки и хорошие рекомендации от брендов, который в них больше не нуждается. На любых позициях, вплоть до самого верха операционной пищевой цепочки
По-моему, у нас есть тренд на это, те же «Госуслуги», хотя это еще не ИИ, но долго ли его поставить на этот же портал.
По моему бюрократия уменьшается там где это касается дел людей.
Я бы не сгущал краски, конечно, кто-то пострадает, так всегда бывает при появлении перемен на рынке.
Мне нравится, что я могу использовать ИИ для создания картинок для моих постов в соцсети, платить за такое кому-либо я бы не стал, а тут бесплатно и интересно, можно выбрать.
ИИ, заменяющий врачей и учителей, будет делаться для людей, для тех, кто лечится и учится.
Учитывая, что врачей и учителей у нас хронически не хватает, то это улучшит жизнь.
ИИ для потребителей поможет им разобраться в товарах, разоблачит жульническую рекламу и многое другое.
ИИ-ассистенты помогут не только руководителям, но и детям, пожилым людям, домохозяйкам.
Я думаю, что ИИ может сделать людей как умнее, так и глупее, наверняка можно найти много примеров для этого.
Большой интерес вызывает падение вакансий программистов, типа элитные специалисты стали не нужны.
Да, это важная работа — быть программистом, но при этом достаточно тупая, в программировании много тупой работы, и некоторые программисты основательно на ней тупеют.
Может быть, это и неплохо, если их станет меньше, а хороших программ больше?
Важно то, что вся экономика начнет постепенно перестраиваться.
Уже много разговоров о сокращении рабочей недели.
У людей будет больше времени, чтобы учиться, рожать, воспитывать детей, заниматься здоровьем.
Люди смогут заниматься саморазвитием, психологией, наукой.
Я за развитие ИИ, а каким он станет, для людей или против людей, это уже от людей и зависит.
В конце концов у людей появится время, чтобы учиться думать и постепенно умнеть, а это самая трудная работа на Земле.
Вспоминается анекдот про людей будущего, у которых крошечные ручки, потому что все за них делают роботы, нет ножек, потому что они летают на экологичных капсулопланах, крошечный животик -- они питаются одной таблеткой в день и огромная голова. Потому что у них большой мозг, и он думает, думает, думает... Думает, где взять деньги на роботов, капсулопланы и особенно на питательные таблетки
Если всех уволить, это не перестройка экономики, а коллапас. У бомжей много времени, у безработных. Много ли они учатся, занимаются здоровьем, саморазвитием, психологией, наукой?
Вот с размножением согласен. Очень четкая зависимость, чем беднее страна, тем лучше с репродуцированием. Добрая мать природа повышает шансы на выживание вида количеством, довольно простая зависимость
Только ко всеобщему процветанию ничего из этих трендов не ведет. Напрямую нет. Опосредованно конечно. Нам (с вами, в широком смысле) никто не мешает же возглавить рынок, применяя те же ИИ. И заработать на местечко в Элизиуме, который безусловно тоже будет
Мне нравится ваш сценарий апокалипсиса, Станислав, хотелось бы посмотреть на это, жаль, что этого не будет.
Относительно будущего людей и ИИ я исхожу из следующего предположения.
1. Наш детский садик никто разрушить не даст, он нужен для обучения людей думать, и сейчас в нем вводятся новые программы обучения, в том числе обучения работе с ментальной реальностью.
2. Интеллект человека искусственный, но не компьютерный, он состоит из ментальных ИИ-агентов.
3. Новые программы обучения на Земле предполагают знакомство людей с устройством их ИИ и присоединение к нему компьютерных ИИ-агентов в качестве внешних ИИ-агентов.
4. Если имеющихся дел на Земле не хватит для создания обучающей обстановки для людей, то появятся новые дела, например, бороться с засильем компьютерного ИИ, преодолевать новые природные и техногенные катастрофы и бедствия, новую эпидемию или войну опять же можно устроить и так далее.
В общем, администрация найдет, чем занять детишек.
Мне такой вектор развития кажется более реалистичным, чем засилье роботов и машин.
В этом я тоже не сомневаюсь )) Правда, мы на пару парсеков расходимся по более конкретным определениям. Но в масштабе Вселенной это уже такие мелочи, что можно пренебречь
На мой взгляд, масштабы вселенной — это картинка в виртуальной реальности, ее ИИ рисует.
:)))
Я как раз пост «Страж реальности человека» только что выложил.
«Быть больным и бедным — как вам понравится такая реальность? Многие люди имеют реальность, которая им не нравится, они пытаются изменить ее, но не могут справиться с этим. Как создается реальность человека и кто отвечает за ее содержание? И в конце концов, что можно сделать с этим?
Страж реальности — это ментальная фигура в подсознании человека, которая отвечает за создание и поддержание его реальности».
Так что не надо воспринимать нашу реальность всерьез, это же просто развлекуха в детском садике.
И спасибо вам, этот пост появился на фоне дискуссии, вызванной вашей статьей.