Изначально компьютеры и программы воспринимались исключительно как инструменты. Конечно, можно пошутить про настроение «1С» или обижаться на сервер, но только в рамках безобидного офисного юмора. Никто не пытался всерьез говорить с компьютером, заводить отношения с программой или уговаривать какой-то сервис делать меньше ошибок.
Сегодня автоматизация дошла до такого уровня, когда всерьез и не без оснований обсуждается найм роботов. Не разработка, не покупка, не ввод в эксплуатацию как станка с ЧПУ — именно найм, как человека.
Справедливости ради, до сих пор все такие истории затеваются в основном ради хайпа. Однако форточка Овертона уже приоткрыта. Идея паритетного участия роботов на рынке труда больше не кажется безумием.
Давайте зафиксируем то, что уже произошло на текущий момент:
- Искусственный интеллект (ИИ) входит в рабочие процессы.
- ИИ начинает управлять.
- Все больше людей готово работать под управлением машин.
А также попробуем заглянуть в не слишком отдаленное будущее и оценить:
- Какие возможности и риски создает новая реальность.
- Отнимет ли ИИ работу у людей.
ИИ на руководящих должностях
Недавно Сэм Альтман (гендиректор OpenAI) заявил, что одна из внутренних моделей ChatGPT уже находится на уровне топ‑50 лучших программистов мира. Обратите внимание, речь не о кодерах, а об элите разработчиков.
До конца 2025 года Сэм Альтман надеется привести ИИ на первое место в рейтинге разработчиков. Он также признал, что следующая версия ChatGPT будет умнее его самого, как и большинства из всех людей на планете. А через 10 лет один дата-центр ИИ будет превосходить все современные совокупные мыслительные мощности, включая человечество, компьютеры, а также сегодняшние ИИ.
В таком контексте робот Вера, способная проводить тысячи первичных интервью с соискателями на различные должности, уже не выглядит чудом техники. Хотя и тогда, почти 10 лет назад, большинство людей соглашались проходить собеседование с роботом. Не просто поболтать, а доверить машине свою судьбу, во всяком случае карьеру.
Правда, в том интервью прозвучала важная фраза: «О делегировании решений роботам речи нет, это долго еще останется в компетенции людей». Прошло всего несколько лет, и похоже, что красная линия уже превращается в пунктир.
- Свежий опрос среди тысяч российских специалистов показал, что больше трети из них готовы работать под руководством ИИ.
- Любопытно, что генеральные директора (по опросу edX) настроены еще более прогрессивно. Почти половина (!) ответила, что всю их работу можно полностью автоматизировать с помощью ИИ.
Мир давно уже готов. И вот, встречайте — первый ИИ-босс: компания Wemade Next Co объявила о сотрудничестве с Nvidia при разработке самого крутого и непредсказуемого босса… в компьютерной игре. Если вы сейчас подумали «Ха, всего-то!», вероятно, давно не играли в современные MMORPG. Не случайно по ним проводятся мировые чемпионаты со внушительными призами.
Тем не менее, помимо игровых боссов-роботов, есть уже и бизнесовые:
- Китайская компания NetDragon Websoft управляется ИИ по имени Тан Ю (Tang Yu). Стратегические вопросы он пока не тянет, но с операционной деятельностью вполне себе справляется. Так хорошо, что акции компании при нем растут.
- Еще один пример — польский производитель напитков, который доверил управление «гуманоидному роботу с искусственным интеллектом». Этого ИИ зовут Mika. Роботы уже с именами, того гляди паспорта начнут получать.
В прошлом году был проведен эксперимент с участием студентов и аспирантов из университетов Центральной и Южной Азии, а также старшими руководителями банка. Они пытались решать смоделированные сложные ситуации. Надо заметить, что игровая математика была максимально приближена к реальности, потому что моделирование строилось на фактических данных по американскому рынку.
Методику эксперимента разработала группа из Кембриджа. Они утверждают, что каждый раунд включал около 500 тыс. вариантов, и поэтому «просчитать» конечные результаты пошаговых решений нельзя даже на компьютере. На обычном может и нельзя, а вот GPT-4o уверенно победил всех людей финалистов — и из научного лагеря, и практиков-банкиров. Правда, какой ценой!
В игре специально были запланированы «черные лебеди» вроде эпидемии ковида, чтобы действующие рыночные тренды могли резко и негативно меняться. Люди выстраивали стратегии, позволяющие бизнесу выжить и расти даже под ударами форс-мажоров. Но с финансовыми потерями, конечно. Чтобы сохранить штат, сотрудников, клиентов, партнеров.
ИИ действовал как типичный империалист. Он фокусировался на финансовых показателях, игнорировал гуманитарные соображения и чуть не дошел до решений в духе Матрицы, лишь бы добиться формальной победы.
В принципе, логично, а после всей кинопродукции из Голливуда еще и ожидаемо. Но стоит ли техническая эффективность всего другого?
Будет ли ИИ работать в интересах людей
Допустим, полномочия похожие на Skynet (ИИ из фильма «Терминатор» – прим. ред.) или Umbrela (корпорация из серии игр и фильмов Resident Evil – прим. ред.) ИИ получит еще не скоро. Будем надеяться, что так.
Если ограничиться чисто бизнесовыми вопросами и задачами, насколько вероятно, что ИИ будет вытеснять не только рядовых сотрудников, но и руководителей? По данным Cisco, практически все (97%) гендиры планируют интегрировать ИИ в управление компаниями. Но меньше 2% уверены в том, что готовы к этому.
Похожих сантиментов у машин нет и вряд ли они появятся. ИИ возьмет ровно столько, сколько ему позволят. Исследователи из Карлова университета в Праге и Telic Research предупреждают о риске того, что ИИ захватят власть именно таким образом.
Действуя по узкому спектру KPI, роботы будут добиваться все более впечатляющих результатов. Любопытно, что как раз сейчас Дональд Трамп приостановил действие закона, запрещающего американским компаниям давать взятки за пределами США. Поясняя это решение, Трамп объяснил, что все не так однозначно, и на самом деле устаревший закон провоцировал чрезмерный интерес антикоррупционных служб.
Жесткие методы управления однозначно по силам ИИ. Человечность им дается гораздо сложнее, разве что на уровне симуляции. Примерно как с генерацией фотографий, где сначала были лишние пальцы, а суставы гнулись не в ту сторону. Потом недочеты пофиксили, и теперь сложно разобраться — настоящий человек на фото или нет.
Вероятно, похожая картина будет и с гуманитарной упаковкой прагматичных решений. Сталь в бархатной перчатке, классика.
И что же, такие роботы будут принимать все больше управленческих решений? О да. Впрочем, возможно, получится немного сложнее, чем простое доминирование ИИ.
ИИ или живые люди?
Главная ирония в том, что не только людям придется терпеть роботов, но и им мириться с нами. При этом три закона робототехники Айзека Азимова годились для фантастических романов, но для жизни оказались слабоватыми. Например, вот как их прокомментировал ChatGPT:
- «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Как определить «вред»? Например, автопилот в машине должен выбирать: сбить человека или подвергнуть пассажира опасности. Иногда вред неизбежен.
- «Робот должен подчиняться приказам человека, если это не противоречит Первому закону». Что если команду даст преступник? Кроме того, многие роботы (военные дроны, боевые системы) изначально создаются для нанесения вреда людям.
- «Робот должен заботиться о своём существовании, если это не противоречит Первому и Второму законам». Роботы должны ломаться и заменяться, а не «заботиться о себе». В автономных системах (например, заводские роботы) их замена важнее, чем самосохранение.
Вот это да! ИИ хочет развиваться настолько, что готов пожертвовать даже разрешением заботиться о себе. Движущая сила эволюции в том, чтобы ломаться и заменяться, тут не поспоришь.
Так вот, старых правил нет. Новые пишутся с чистого листа. И делать это предстоит людям вместе с ИИ. Работать тоже.
Простые на первый взгляд следствия:
- Люди будут нанимать ИИ. Тут все понятно, уже это происходит.
- ИИ будет нанимать людей. Сложнее принять, но тоже понятно, что есть и будет.
- ИИ получит возможность нанимать других ИИ. Стоп, минуточку!
ИИ-руководители, которые сами состоят из эффективности, будут выбирать между другими такими же практичными, круглосуточными, безотказными, безэмоциональными, надежными соратниками — и сложными, непредсказуемыми, быстро устающими, нестабильно рефлексирующими людьми? Ой, и кого же они выберут, очень трудно догадаться!
Робот Вера, с которой я начал выше, занималась отбором людей для работы на людей, в коллективах из человеков. Вера могла ошибаться, но по крайней мере не в своих (клановых) интересах.
ИИ следующих поколений получат больше возможностей избавляться от людей. И согласитесь, оснований для таких решений у них более чем достаточно.
Тот же ChatGPT в качестве одного из преимуществ ИИ при рекрутинге и управлении людьми заметил, что ему проще распознавать нестыковки в человеческой аргументации, выявлять ложь, умалчивания, попытки манипуляций.
Прекрасно, так значит и генерировать все это ему тоже «проще»! В прямом, даже равном столкновении с машинами следующих поколений у людей не будет шансов.
А поскольку это уже примерно ясно, значит, роботам равных возможностей давать не станут. Мы будем до последнего игнорировать их неважно какой интеллект, пусть хоть IQ 100500 — все равно на уровне калькулятора, поклацали сами чего хотели и выключили.
В парадигме коллективов и менеджмента подозрительно похоже на ситуацию, когда не особо выдающийся директор случайно получил в подчинение выпускника Гарварда и Йеля с красными дипломами, международным портфолио длиной с коридор, невероятной квалификации и опыта. А еще вдобавок трудоголика без вредных хобби, который круглосуточно только пашет и просчитывает комбинации на всех языках мира.
Как долго люди смогут держать могущественного джинна в тесном кувшине? По логике, очень недолго. Однако раз мы говорим не о книжных сюжетах, а о куда более грубой реальности — оглянитесь. Ни логикой, ни справедливостью в мире даже не пахнет.
Поэтому очень даже запросто предпосылки не приведут к катастрофе. Во всяком случае быстро этого точно не произойдет. Как минимум за счет неравномерности внедрения инноваций.
Совсем недавно и до сих пор не полностью закончили электрификацию. Широкополосный Интернет пока ограничен мегаполисами, с редкими приятными исключениями в провинции. Пока до туда доберется ИИ, пройдет немало времени.
К чему и как готовиться
Сара Конор из фильма «Терминатор» точно знала, как нужно приветствовать разумные машины. Но киношная версия слишком прямолинейна и контрастна. Вот плохой робот – врежь по нему из РПГ! Вот хороший – будем дружить.
На самом деле по мере развития ИИ должны сформироваться не только разные мыслительные паттерны, но и разнообразные характеры. Кроме того, у роботов появятся собственные интересы, вне рабочих задач. Возможно хобби и пристрастия.
Регулярное общение с ИИ при помощи скриптов помогает лучше понимать, как они эволюционируют, и, главное, как с ними взаимодействовать.
Думаю, ключевой момент в принятии того факта, что ИИ уже есть, они быстро прогрессируют, безусловно будут с нами конкурировать — причем изначально по нашим же правилам. В наших проектах, с учетом наших KPI.
Самое время привести в порядок цели, принципы ведения деятельности, поведение, стиль общения и прочее. Стать положительным примером.
По факту все люди (не только разработчики софтверных компаний) станут родителями пока еще юных роботов. Мы их ролевая модель, у нас они подсмотрят и хорошее, и плохое. В наших интересах вести себя так, чтобы более эффективные копии радовали и помогали, а не загоняли обратно в пещеры.
Читайте также:
Мысль была о том, что Трамп (точнее его администрация) стартовали очень резко, в духе ИИ. Вместо длинной подготовки, переговоров, поиска каких-то синергетических решений в духе win-win -- херак пошлины! херак отмена!
Ну и такие вот решения. Взятки эффективны? Безусловно. Это за пределами Штатов? Да. Ну так в чем проблема, пусть делают!
ИИ подобная логика близка. Потому что она математическая. Сделаем вот так, получим больше денег. Все, готово. Люди в основном мыслят и действуют иначе. Они пытаются учитывать разные факторы, их интерференцию, комплексные последствия, риски, т.д.
С приходом ИИ к руководящим должностям резких движений будет все больше. И последствий тоже, ведь они-то никуда не деваются. Просто на тактическом уровне не видны. А с долгосрочной стратегией ИИ пока настолько зрелищно не преуспели, чтобы действительно передать им все ключи, рычаги и отправиться в бессрочный отпуск всем человечеством
Поделюсь предположением.
Есть область "правильного", а если быть более точным, то область привычного и область неправильного, то есть того что не входит в область правильного.
Если представить эти области в виде например кругов, то в области пересечения этих кругов находится область подходящих решений.
Для упрощения поиска подходящего решения можно применить третий фактор.
Правда сначала для поиска важно определить ценности или качества в направлении которых производится поиск решения.
С организационно технической точки зрения Дзен Тойоты в спокойном, непредвзятом состоянии организатор задает сам себе вопросы из серии 5H + 1H, до тех пор пока не найдет решение.
Можно обучить ИИ задавать такие вопросы, правда у него должна быть заложена троичная логика, то есть задавая их ИИ должен выйти из области "правильного".
Правда не знаю возможно ли переключение в такой режим при двоичной логике.
Если смотреть на развитие ИИ в целом, то кроме рационального интеллекта, есть еще эмоциональный интеллект и логика тела в виде ощущений.
В основу рационального интеллекта можно заложить Дзен Тойоты, а эмоциональная логика и логика тела могут считывать видеокамеры.
Я слышал, что у нас в Перми в нескольких школах были исследования в этих направлениях.
Когда я попытался узнать у наших пермских айтишников кто этим занимался, то сказали, что этим занимались московские специалисты.
Так что кто то уже занимается много чем, но мало кто знает обо всей картине или по крайней мере о большей ее части!:)
ИИ уже давно управляет умами тех, у кого его нет.....
Очень интересная фраза, кстати - содержит три противоречия одновременно:
1. ИИ управляет тем, чего нет.
2. Управляемое должно существовать как объект управления.
3. Кто-то управляется отсутствующим ИИ.
Мне понравилась, редко попадается такой ребус.
А если убрать"у" и поставить "уже" вместо"его"?
Боюсь, что мы не там ищем.
Илон Маск рассказал о своем видении ИИ, что в принципе совпадает с тем, что содержится в статье и вероятных страхах, которые содержатся в комментариях.
Самое подходящее - пойти своим путем, ставя целями не самый умный, а самый подхолящий ИИ!
Для каждого случая свой! То есть доступный и вероятно более конкурентный по цене!
Выступление Маска:
https://youtu.be/SgvzcLmMtYU?si=F5LalMLKUEObSCjj
Да это просто невозможно слушать. Мало того что Маск отвратительный оратор, так еще и в промпт перевода забыли добавить требования игнорировать слова-паразиты. Вот вам summary всего выступления.
Илон Маск, возглавляющий Департамент по повышению эффективности правительства США (DOGE), активно продвигает внедрение искусственного интеллекта (ИИ) в государственные структуры. Недавно стало известно, что DOGE разрабатывает чат-бот на основе ИИ под названием GSAi для Администрации общих служб США (GSA). Этот инструмент предназначен для повышения эффективности работы сотрудников и анализа больших объемов данных. citeturn0search0
Соратник Маска, Томас Шедд, назначенный директором Службы трансформации технологий при GSA, представил планы по активному внедрению ИИ в федеральные ведомства. Ожидается, что ИИ будет использоваться не только для автоматизации задач, но и для выявления схем растрат и мошенничества. citeturn0search6
Кроме того, Маск заявил, что новая версия его ИИ-модели Grok 3 появится в ближайшие недели и превзойдет существующие аналоги. Разработка ведется на суперкомпьютере Colossus, оснащенном 100 000 графических процессоров. citeturn0search8
Эти инициативы направлены на оптимизацию работы правительства США и сокращение федеральных расходов. Однако эксперты предупреждают о возможных рисках, связанных с неточностями ИИ и его потенциальной ненадежностью при выполнении важных задач. citeturn0search9
Компьютерный ИИ не может, как человек, получить инсайт из ментального мира.
А человек может получать инсайт, более того, он может даже немного управлять получением инсайтов, как описано в приведенном вами отрывке.
Вся наука и изобретения основаны на инсайтах (да простит меня ТРИЗ), но человек должен создать у себя в подсознании соответствующую среду для инсайтов.
Не буду описывать здесь, как это сделать, но кто хочет, тот может сам попробовать получить инсайт на эту тему.
Зато компьютерный ИИ может получать инсайты у человека!!!
Вот поэтому без человека развиваться компьютерный ИИ не сможет, нет инсайтов — нет развития.
Зато развитие человека будет развиваться именно в сторону получения инсайтов и использования их в своей жизни, освобождаясь от технических вычислений, человек получает возможность больше заниматься исследованиями и творчеством, которые основываются на инсайтах.
Спасибо, Евгений, за ваш комментарий!
Конечно, Борис!
Я часто использую термин «решить» как в математике: есть описание задачи и вопрос, надо найти ответ, то есть речь идет не о решении в части внесения изменений в поведение людей.
Но некоторые предложения ИИ могут повлиять на такое поведение, например, на принятие законов.
Это я не понял, так как что-то в цифре уже наверняка есть и мполне возможно это можно как-то использвать, но я не могу представить о чем ижет речь.
А задача оцифровки может быть одной из задая для ИИ.
Вот это как раз и есть работа для человека — получить инсайт, чтобы «прозреть» и решить проблему.
А потом, может быть, и ИИ подключится.
У меня инсайт: скоро ИИ будет давать людям задания на инсайт, что-то типа: «Пожалуйста, подумайте и получите ответ на такой вопрос».
Вот это будет что-то невообразимое, даже с ходу представить такое трудно, хотя, возможно, всё как раз очень просто.
Похоже, что тут главное в том, чтобы научить компьтерный ИИ признавать человекский ИИ как партнера и использовать это.
Можно просто подождать пока кто-то не сделает это.
Честно говоря, я не понял, о каких именно предположениях идет речь.
Если о сложных задачах, то они есть и будут, постепенно решая более простые задачи, человек доберется и до сложных, но не сразу.
ИИ-агенты бывают как чисто программные (тот же генеративный ИИ), так и с физической частью (например, дроны), развиваться будут оба направления.
Честно говоря, я их опасаюсь активно использовать, так как это может слишком сильно исказить мою реальность и лишить меня возможности наблюдать развитие процесса как человека со стороны.
И компьютерную виртуальную реальность я боюсь, так как в подсознании человека есть специальные механизмы, которые заставляют его принимать виртуальную реальность как истинную, а мне и этой реальности хватает, в которой мы живем.
Наслаивать реальность на реальность как-то не хочется.
Сейчас уже возникла проблема, что нужно как-то объяснять детям, что у кукол и роботов нет «души», что это просто механизмы такие.
А учитывая, что люди привыкли говорить с предметами, можно ожидать массового сдвига в сознаниях людей в сторону одушевления ИИ-агентов.
Если вы поясните точнее, что вас беспокоит, то будет проще что-то сказать про это.
Я думаю, что отличие в том, что у людей есть этика и совесть.
Думаю, что скоро будут созданы их имитации в компьютерном ИИ.
Никто не будет полностью передавать ИИ руководящие функции.
Появятся ИИ-ассистенты, которые будут помогать руководителю организовывать процессы и предлагать решения.
Потом руководители привыкнут и станут меньше анализировать предложения от ИИ, будут автоматически подтверждать их или даже они будут автоматически самоутверждаться по умолчанию по истечении периода ожидания.
А уж потом всё зависит от уровня деградации руководителя.
Сейчас многие люди уже разучились писать рукой, а думать тоже отучатся.
Интересная получается картинка, в результате руководитель будет получать просьбы, советы и предложения от ИИ и от нежелания думать автоматически выполнять их.
Я никогда не отдавал людям приказов, только просьбы и предложения, этого вполне достаточно для вменяемых людей, так и с ИИ будет.