Изначально компьютеры и программы воспринимались исключительно как инструменты. Конечно, можно пошутить про настроение «1С» или обижаться на сервер, но только в рамках безобидного офисного юмора. Никто не пытался всерьез говорить с компьютером, заводить отношения с программой или уговаривать какой-то сервис делать меньше ошибок.
Сегодня автоматизация дошла до такого уровня, когда всерьез и не без оснований обсуждается найм роботов. Не разработка, не покупка, не ввод в эксплуатацию как станка с ЧПУ — именно найм, как человека.
Справедливости ради, до сих пор все такие истории затеваются в основном ради хайпа. Однако форточка Овертона уже приоткрыта. Идея паритетного участия роботов на рынке труда больше не кажется безумием.
Давайте зафиксируем то, что уже произошло на текущий момент:
- Искусственный интеллект (ИИ) входит в рабочие процессы.
- ИИ начинает управлять.
- Все больше людей готово работать под управлением машин.
А также попробуем заглянуть в не слишком отдаленное будущее и оценить:
- Какие возможности и риски создает новая реальность.
- Отнимет ли ИИ работу у людей.
ИИ на руководящих должностях
Недавно Сэм Альтман (гендиректор OpenAI) заявил, что одна из внутренних моделей ChatGPT уже находится на уровне топ‑50 лучших программистов мира. Обратите внимание, речь не о кодерах, а об элите разработчиков.
До конца 2025 года Сэм Альтман надеется привести ИИ на первое место в рейтинге разработчиков. Он также признал, что следующая версия ChatGPT будет умнее его самого, как и большинства из всех людей на планете. А через 10 лет один дата-центр ИИ будет превосходить все современные совокупные мыслительные мощности, включая человечество, компьютеры, а также сегодняшние ИИ.
В таком контексте робот Вера, способная проводить тысячи первичных интервью с соискателями на различные должности, уже не выглядит чудом техники. Хотя и тогда, почти 10 лет назад, большинство людей соглашались проходить собеседование с роботом. Не просто поболтать, а доверить машине свою судьбу, во всяком случае карьеру.
Правда, в том интервью прозвучала важная фраза: «О делегировании решений роботам речи нет, это долго еще останется в компетенции людей». Прошло всего несколько лет, и похоже, что красная линия уже превращается в пунктир.
- Свежий опрос среди тысяч российских специалистов показал, что больше трети из них готовы работать под руководством ИИ.
- Любопытно, что генеральные директора (по опросу edX) настроены еще более прогрессивно. Почти половина (!) ответила, что всю их работу можно полностью автоматизировать с помощью ИИ.
Мир давно уже готов. И вот, встречайте — первый ИИ-босс: компания Wemade Next Co объявила о сотрудничестве с Nvidia при разработке самого крутого и непредсказуемого босса… в компьютерной игре. Если вы сейчас подумали «Ха, всего-то!», вероятно, давно не играли в современные MMORPG. Не случайно по ним проводятся мировые чемпионаты со внушительными призами.
Тем не менее, помимо игровых боссов-роботов, есть уже и бизнесовые:
- Китайская компания NetDragon Websoft управляется ИИ по имени Тан Ю (Tang Yu). Стратегические вопросы он пока не тянет, но с операционной деятельностью вполне себе справляется. Так хорошо, что акции компании при нем растут.
- Еще один пример — польский производитель напитков, который доверил управление «гуманоидному роботу с искусственным интеллектом». Этого ИИ зовут Mika. Роботы уже с именами, того гляди паспорта начнут получать.
В прошлом году был проведен эксперимент с участием студентов и аспирантов из университетов Центральной и Южной Азии, а также старшими руководителями банка. Они пытались решать смоделированные сложные ситуации. Надо заметить, что игровая математика была максимально приближена к реальности, потому что моделирование строилось на фактических данных по американскому рынку.
Методику эксперимента разработала группа из Кембриджа. Они утверждают, что каждый раунд включал около 500 тыс. вариантов, и поэтому «просчитать» конечные результаты пошаговых решений нельзя даже на компьютере. На обычном может и нельзя, а вот GPT-4o уверенно победил всех людей финалистов — и из научного лагеря, и практиков-банкиров. Правда, какой ценой!
В игре специально были запланированы «черные лебеди» вроде эпидемии ковида, чтобы действующие рыночные тренды могли резко и негативно меняться. Люди выстраивали стратегии, позволяющие бизнесу выжить и расти даже под ударами форс-мажоров. Но с финансовыми потерями, конечно. Чтобы сохранить штат, сотрудников, клиентов, партнеров.
ИИ действовал как типичный империалист. Он фокусировался на финансовых показателях, игнорировал гуманитарные соображения и чуть не дошел до решений в духе Матрицы, лишь бы добиться формальной победы.
В принципе, логично, а после всей кинопродукции из Голливуда еще и ожидаемо. Но стоит ли техническая эффективность всего другого?
Будет ли ИИ работать в интересах людей
Допустим, полномочия похожие на Skynet (ИИ из фильма «Терминатор» – прим. ред.) или Umbrela (корпорация из серии игр и фильмов Resident Evil – прим. ред.) ИИ получит еще не скоро. Будем надеяться, что так.
Если ограничиться чисто бизнесовыми вопросами и задачами, насколько вероятно, что ИИ будет вытеснять не только рядовых сотрудников, но и руководителей? По данным Cisco, практически все (97%) гендиры планируют интегрировать ИИ в управление компаниями. Но меньше 2% уверены в том, что готовы к этому.
Похожих сантиментов у машин нет и вряд ли они появятся. ИИ возьмет ровно столько, сколько ему позволят. Исследователи из Карлова университета в Праге и Telic Research предупреждают о риске того, что ИИ захватят власть именно таким образом.
Действуя по узкому спектру KPI, роботы будут добиваться все более впечатляющих результатов. Любопытно, что как раз сейчас Дональд Трамп приостановил действие закона, запрещающего американским компаниям давать взятки за пределами США. Поясняя это решение, Трамп объяснил, что все не так однозначно, и на самом деле устаревший закон провоцировал чрезмерный интерес антикоррупционных служб.
Жесткие методы управления однозначно по силам ИИ. Человечность им дается гораздо сложнее, разве что на уровне симуляции. Примерно как с генерацией фотографий, где сначала были лишние пальцы, а суставы гнулись не в ту сторону. Потом недочеты пофиксили, и теперь сложно разобраться — настоящий человек на фото или нет.
Вероятно, похожая картина будет и с гуманитарной упаковкой прагматичных решений. Сталь в бархатной перчатке, классика.
И что же, такие роботы будут принимать все больше управленческих решений? О да. Впрочем, возможно, получится немного сложнее, чем простое доминирование ИИ.
ИИ или живые люди?
Главная ирония в том, что не только людям придется терпеть роботов, но и им мириться с нами. При этом три закона робототехники Айзека Азимова годились для фантастических романов, но для жизни оказались слабоватыми. Например, вот как их прокомментировал ChatGPT:
- «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Как определить «вред»? Например, автопилот в машине должен выбирать: сбить человека или подвергнуть пассажира опасности. Иногда вред неизбежен.
- «Робот должен подчиняться приказам человека, если это не противоречит Первому закону». Что если команду даст преступник? Кроме того, многие роботы (военные дроны, боевые системы) изначально создаются для нанесения вреда людям.
- «Робот должен заботиться о своём существовании, если это не противоречит Первому и Второму законам». Роботы должны ломаться и заменяться, а не «заботиться о себе». В автономных системах (например, заводские роботы) их замена важнее, чем самосохранение.
Вот это да! ИИ хочет развиваться настолько, что готов пожертвовать даже разрешением заботиться о себе. Движущая сила эволюции в том, чтобы ломаться и заменяться, тут не поспоришь.
Так вот, старых правил нет. Новые пишутся с чистого листа. И делать это предстоит людям вместе с ИИ. Работать тоже.
Простые на первый взгляд следствия:
- Люди будут нанимать ИИ. Тут все понятно, уже это происходит.
- ИИ будет нанимать людей. Сложнее принять, но тоже понятно, что есть и будет.
- ИИ получит возможность нанимать других ИИ. Стоп, минуточку!
ИИ-руководители, которые сами состоят из эффективности, будут выбирать между другими такими же практичными, круглосуточными, безотказными, безэмоциональными, надежными соратниками — и сложными, непредсказуемыми, быстро устающими, нестабильно рефлексирующими людьми? Ой, и кого же они выберут, очень трудно догадаться!
Робот Вера, с которой я начал выше, занималась отбором людей для работы на людей, в коллективах из человеков. Вера могла ошибаться, но по крайней мере не в своих (клановых) интересах.
ИИ следующих поколений получат больше возможностей избавляться от людей. И согласитесь, оснований для таких решений у них более чем достаточно.
Тот же ChatGPT в качестве одного из преимуществ ИИ при рекрутинге и управлении людьми заметил, что ему проще распознавать нестыковки в человеческой аргументации, выявлять ложь, умалчивания, попытки манипуляций.
Прекрасно, так значит и генерировать все это ему тоже «проще»! В прямом, даже равном столкновении с машинами следующих поколений у людей не будет шансов.
А поскольку это уже примерно ясно, значит, роботам равных возможностей давать не станут. Мы будем до последнего игнорировать их неважно какой интеллект, пусть хоть IQ 100500 — все равно на уровне калькулятора, поклацали сами чего хотели и выключили.
В парадигме коллективов и менеджмента подозрительно похоже на ситуацию, когда не особо выдающийся директор случайно получил в подчинение выпускника Гарварда и Йеля с красными дипломами, международным портфолио длиной с коридор, невероятной квалификации и опыта. А еще вдобавок трудоголика без вредных хобби, который круглосуточно только пашет и просчитывает комбинации на всех языках мира.
Как долго люди смогут держать могущественного джинна в тесном кувшине? По логике, очень недолго. Однако раз мы говорим не о книжных сюжетах, а о куда более грубой реальности — оглянитесь. Ни логикой, ни справедливостью в мире даже не пахнет.
Поэтому очень даже запросто предпосылки не приведут к катастрофе. Во всяком случае быстро этого точно не произойдет. Как минимум за счет неравномерности внедрения инноваций.
Совсем недавно и до сих пор не полностью закончили электрификацию. Широкополосный Интернет пока ограничен мегаполисами, с редкими приятными исключениями в провинции. Пока до туда доберется ИИ, пройдет немало времени.
К чему и как готовиться
Сара Конор из фильма «Терминатор» точно знала, как нужно приветствовать разумные машины. Но киношная версия слишком прямолинейна и контрастна. Вот плохой робот – врежь по нему из РПГ! Вот хороший – будем дружить.
На самом деле по мере развития ИИ должны сформироваться не только разные мыслительные паттерны, но и разнообразные характеры. Кроме того, у роботов появятся собственные интересы, вне рабочих задач. Возможно хобби и пристрастия.
Регулярное общение с ИИ при помощи скриптов помогает лучше понимать, как они эволюционируют, и, главное, как с ними взаимодействовать.
Думаю, ключевой момент в принятии того факта, что ИИ уже есть, они быстро прогрессируют, безусловно будут с нами конкурировать — причем изначально по нашим же правилам. В наших проектах, с учетом наших KPI.
Самое время привести в порядок цели, принципы ведения деятельности, поведение, стиль общения и прочее. Стать положительным примером.
По факту все люди (не только разработчики софтверных компаний) станут родителями пока еще юных роботов. Мы их ролевая модель, у нас они подсмотрят и хорошее, и плохое. В наших интересах вести себя так, чтобы более эффективные копии радовали и помогали, а не загоняли обратно в пещеры.
Читайте также:
Да. Легко уступлю иллюзорную бесконечность бытия в обмен на немногочисленные, зато реальные годы настоящей жизни
Да, конечно, как же иначе.
Тут есть интересный вопрос: «иллюзорная бесконечность бытия» и «реальные годы настоящей жизни» — это разные вещи или одно и то же?
По-моему, можно сочетать всё что угодно в рамках реальной жизни, в том числе и ее иллюзорность.
Притча о Лао-Цзы (из книги «Путь мирного воина» Дэна Миллмэна).
Лао-Цзы спал и видел сон о том, как он стал бабочкой. Проснувшись, он задал себе вопрос: «Тот ли я человек, который спал и видел себя бабочкой, или я та самая бабочка, которая заснула и видит сон о том, как она стала человеком?»
По-моему, «мозги себе трахать» можно до бесконечности, особенно в философии.
Поэтому мне не интересна философия, мне интересна инженерия, то, как что-то устроено, а не как люди придумали думать об этом, например философствовать.
Зачем разглядывать разные комбинации стеклышек, когда можно изучить устройство всего калейдоскопа?
Это вызывает восхищение. Действительно, зачем изобретать велосипед, когда можно изобрести колесо, научиться самостоятельно добывать и варить металл, придумать цепь и прочие детали. Подход достойный Сайреса Смита. Правда, даже он всего лишь копировал и применял то, что придумали другие люди
Вынужден признать, что мои амбиции гораздо меньше. Что редко происходит, кстати. Обычно меня наоборот заносит в сложно реализуемые проекты, а точнее вообще нереализуемые как раз из-за перфекционизма и масштаба без адекватных ресурсов
Но сухой остаток того, о чем мы так аккуратно спорим, вероятно все-таки в том, что считать иллюзорным — жизнь или смерть
Как говорил один из персонажей сериала "Побег": мне приятнее думать, что у меня две руки. По сюжету он был негодяем, но соглашусь пожалуй, в виде аллюзии: мне приятнее думать, что я жив. Несмотря на череду куда менее привлекательных следствий, в виде ограниченного времени, затруднений с реинкарнацией, перерождениями
А калейдоскоп подозрительно похож на шредер. Вероятно, сырье из нас пойдет потом на сборку чего-то другого. Природа рачительна. "Через час уже просто земля, через два на ней цветы и трава". Это да, в таком смысле все бессмерты, конечно. Вот только это будем не мы. Многие намерены "петь голосами своих детей и их детей". Что тоже эскапизм, и это будем не мы
Мы здесь и сейчас. Тут с одной стороны все "1С" толком не внедрят, с другой ИИ лезет в директорское кресло. Парадоксальный отрезок между прошлым и будущим. Повезло застать лично весь путь от телефона на улице, как в Матрице до постройки самой Матрицы
Интересная версия.
Для меня сейчас интересен вопрос, что такое реальность, а что такое иллюзия в техническом смысле слова, а не в философском.
Меня философия не интересует и философские вопросы тоже.
Замечательное сравнение!
Да, я тоже об этом думал, парадокс получается, но есть надежда, что ИИ поможет внедрению не 1С, а бухучёта и т. д. в работу фирм.
Я осознаю, что любые мои размышления это интерпретация информации сквозь призму имеющихся у меня знаний, умений и навыков, то есть жизненного опыта.
Вероятно, что и другие люди воспринимают мир так же ограниченно.
Я подставляюсь своими размышлениями публикая их публично из двух обстоятельств.
Первое иррациональное - захотел и сделал! Не придется сожалеть об отложенных желаниях.
Второе рациональное - из опыта я заметил тенденцию - когда обнародуешь мысли, которые другим даже могут показаться глупостью, то из пространства через других людей или сми начинает поступать интересующая тебя информация!
Бонусом будет встретить единомышленников!:)
А технические устройства создаются из алгоритмов. Алгоритмы складываются из правил, желаний, умений и навыков.
Например какие бы умные не были конструкторы гражданских самолетов(или другие) - технически их конструкцию невозможно будет воплотить если они не учли наличие реальных умений и навыков у соисполнителей, а также наличие реальной производственной базы доступной для реализации в реальной жизни их творчества!:)
Загробную жизнь существования души признают некоторые религии.
В христианстве же удивительно, что признается наличие Души, но пока не признается ее реинкарнация.
При этом имеется указание Христа на истину этого!
В евангелии от Иоанна, в ситуации когда Иоанн- креститель указал верующим кто на самом деле Христос, то Христос тут же указал верующим на Иоанна сказав что это Илия, который как известно вознесся на небо в присутствии своего ученика.
В общем в Новом завете содержится еще много загадок, которые предстоит открыть верующим!
Как показали исследования наше тело реагирует на виртуальную реальность примерно также как на действительную.
Мысли, образы и мнимые действия вызывают реакции клеток тела, такие же как на реальные!
То есть физиология тела живет в разных реальностях, вероятно поэтому кто то умеет пользоваться интуицией и ощущениями!:)
Про бухучет. Новые цифровые финансовые стандарты задуманы как леджеры - бухгалтерские книги!
Создатели такого ИИ говорят, что сейчас не надо быть спецом по программированию, потому что можно быстро и просто подключиться к леджеру.
То что они отработали денежные платежи и переводы я нисколько не сомневаюсь.
Вопрос лишь в том, сумели ли они на идеях углеродной экономии научиться с одной стороны избегать двойных проводок и иметь полноту транзакций?!
Да, и самое важное то, что человек открывает таким способом дорогу для получения инсайтов (озарений).
Собственно, именно для этого я и пишу свои комментарии здесь, пока другим объясняешь, сам лучше поймешь.
Спасибо, не знал про такие исследования.
Значит, я не зря не лезу в компьютерную виртуальную реальность, так как она может сильно запутать ту, в которой я уже живу.
Мнение религий важно, но я бы не акцентировался на нем, все-таки они создавались давно, для менее развитых людей, чем сейчас, и не могли использовать аналогии, которые доступны в наше время, про те же компьютеры, например, тогда просто люди про них не знали.
Я думаю, что скоро ИИ сможет вести бухучет, надо только ему информацию в правильном виде поставлять.
При этом он может предлагать разные варианты проводок и предупреждать, «сколько лет дадут» за использование некоторых из них. :)))
Мне кажется, вы противоречите сами себе, Николай )
То, о чем вы пишите (детский сад, люди приишли сюда учиться и проч.) и есть самая настоящая философия.
Философия — это наука (мать всех наук по Цицерону), которые пытается ответить на фундаментальные вопросы, изучая законы развития мира и общества, процесс познания и мышления, нравственные категории и ценности. Задача философии подготовить человека к вызовам времени
Более того, ваша главная мысль – "Думать" – это именно то, чем и занимается философия )
А инженерия – это совершентвование конкретной среды обитаниия человека. И без ответов на философкие вопросы ) любая деятельность может стать не цивилизованной, а варварской.
Кстати, в Париже США не подписали итоговую декларацию парижского саммита по регулированию ИИ, да и вообще консенсуса там не было среди собравшихся ученых голов.