Изначально компьютеры и программы воспринимались исключительно как инструменты. Конечно, можно пошутить про настроение «1С» или обижаться на сервер, но только в рамках безобидного офисного юмора. Никто не пытался всерьез говорить с компьютером, заводить отношения с программой или уговаривать какой-то сервис делать меньше ошибок.
Сегодня автоматизация дошла до такого уровня, когда всерьез и не без оснований обсуждается найм роботов. Не разработка, не покупка, не ввод в эксплуатацию как станка с ЧПУ — именно найм, как человека.
Справедливости ради, до сих пор все такие истории затеваются в основном ради хайпа. Однако форточка Овертона уже приоткрыта. Идея паритетного участия роботов на рынке труда больше не кажется безумием.
Давайте зафиксируем то, что уже произошло на текущий момент:
- Искусственный интеллект (ИИ) входит в рабочие процессы.
- ИИ начинает управлять.
- Все больше людей готово работать под управлением машин.
А также попробуем заглянуть в не слишком отдаленное будущее и оценить:
- Какие возможности и риски создает новая реальность.
- Отнимет ли ИИ работу у людей.
ИИ на руководящих должностях
Недавно Сэм Альтман (гендиректор OpenAI) заявил, что одна из внутренних моделей ChatGPT уже находится на уровне топ‑50 лучших программистов мира. Обратите внимание, речь не о кодерах, а об элите разработчиков.
До конца 2025 года Сэм Альтман надеется привести ИИ на первое место в рейтинге разработчиков. Он также признал, что следующая версия ChatGPT будет умнее его самого, как и большинства из всех людей на планете. А через 10 лет один дата-центр ИИ будет превосходить все современные совокупные мыслительные мощности, включая человечество, компьютеры, а также сегодняшние ИИ.
В таком контексте робот Вера, способная проводить тысячи первичных интервью с соискателями на различные должности, уже не выглядит чудом техники. Хотя и тогда, почти 10 лет назад, большинство людей соглашались проходить собеседование с роботом. Не просто поболтать, а доверить машине свою судьбу, во всяком случае карьеру.
Правда, в том интервью прозвучала важная фраза: «О делегировании решений роботам речи нет, это долго еще останется в компетенции людей». Прошло всего несколько лет, и похоже, что красная линия уже превращается в пунктир.
- Свежий опрос среди тысяч российских специалистов показал, что больше трети из них готовы работать под руководством ИИ.
- Любопытно, что генеральные директора (по опросу edX) настроены еще более прогрессивно. Почти половина (!) ответила, что всю их работу можно полностью автоматизировать с помощью ИИ.
Мир давно уже готов. И вот, встречайте — первый ИИ-босс: компания Wemade Next Co объявила о сотрудничестве с Nvidia при разработке самого крутого и непредсказуемого босса… в компьютерной игре. Если вы сейчас подумали «Ха, всего-то!», вероятно, давно не играли в современные MMORPG. Не случайно по ним проводятся мировые чемпионаты со внушительными призами.
Тем не менее, помимо игровых боссов-роботов, есть уже и бизнесовые:
- Китайская компания NetDragon Websoft управляется ИИ по имени Тан Ю (Tang Yu). Стратегические вопросы он пока не тянет, но с операционной деятельностью вполне себе справляется. Так хорошо, что акции компании при нем растут.
- Еще один пример — польский производитель напитков, который доверил управление «гуманоидному роботу с искусственным интеллектом». Этого ИИ зовут Mika. Роботы уже с именами, того гляди паспорта начнут получать.
В прошлом году был проведен эксперимент с участием студентов и аспирантов из университетов Центральной и Южной Азии, а также старшими руководителями банка. Они пытались решать смоделированные сложные ситуации. Надо заметить, что игровая математика была максимально приближена к реальности, потому что моделирование строилось на фактических данных по американскому рынку.
Методику эксперимента разработала группа из Кембриджа. Они утверждают, что каждый раунд включал около 500 тыс. вариантов, и поэтому «просчитать» конечные результаты пошаговых решений нельзя даже на компьютере. На обычном может и нельзя, а вот GPT-4o уверенно победил всех людей финалистов — и из научного лагеря, и практиков-банкиров. Правда, какой ценой!
В игре специально были запланированы «черные лебеди» вроде эпидемии ковида, чтобы действующие рыночные тренды могли резко и негативно меняться. Люди выстраивали стратегии, позволяющие бизнесу выжить и расти даже под ударами форс-мажоров. Но с финансовыми потерями, конечно. Чтобы сохранить штат, сотрудников, клиентов, партнеров.
ИИ действовал как типичный империалист. Он фокусировался на финансовых показателях, игнорировал гуманитарные соображения и чуть не дошел до решений в духе Матрицы, лишь бы добиться формальной победы.
В принципе, логично, а после всей кинопродукции из Голливуда еще и ожидаемо. Но стоит ли техническая эффективность всего другого?
Будет ли ИИ работать в интересах людей
Допустим, полномочия похожие на Skynet (ИИ из фильма «Терминатор» – прим. ред.) или Umbrela (корпорация из серии игр и фильмов Resident Evil – прим. ред.) ИИ получит еще не скоро. Будем надеяться, что так.
Если ограничиться чисто бизнесовыми вопросами и задачами, насколько вероятно, что ИИ будет вытеснять не только рядовых сотрудников, но и руководителей? По данным Cisco, практически все (97%) гендиры планируют интегрировать ИИ в управление компаниями. Но меньше 2% уверены в том, что готовы к этому.
Похожих сантиментов у машин нет и вряд ли они появятся. ИИ возьмет ровно столько, сколько ему позволят. Исследователи из Карлова университета в Праге и Telic Research предупреждают о риске того, что ИИ захватят власть именно таким образом.
Действуя по узкому спектру KPI, роботы будут добиваться все более впечатляющих результатов. Любопытно, что как раз сейчас Дональд Трамп приостановил действие закона, запрещающего американским компаниям давать взятки за пределами США. Поясняя это решение, Трамп объяснил, что все не так однозначно, и на самом деле устаревший закон провоцировал чрезмерный интерес антикоррупционных служб.
Жесткие методы управления однозначно по силам ИИ. Человечность им дается гораздо сложнее, разве что на уровне симуляции. Примерно как с генерацией фотографий, где сначала были лишние пальцы, а суставы гнулись не в ту сторону. Потом недочеты пофиксили, и теперь сложно разобраться — настоящий человек на фото или нет.
Вероятно, похожая картина будет и с гуманитарной упаковкой прагматичных решений. Сталь в бархатной перчатке, классика.
И что же, такие роботы будут принимать все больше управленческих решений? О да. Впрочем, возможно, получится немного сложнее, чем простое доминирование ИИ.
ИИ или живые люди?
Главная ирония в том, что не только людям придется терпеть роботов, но и им мириться с нами. При этом три закона робототехники Айзека Азимова годились для фантастических романов, но для жизни оказались слабоватыми. Например, вот как их прокомментировал ChatGPT:
- «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Как определить «вред»? Например, автопилот в машине должен выбирать: сбить человека или подвергнуть пассажира опасности. Иногда вред неизбежен.
- «Робот должен подчиняться приказам человека, если это не противоречит Первому закону». Что если команду даст преступник? Кроме того, многие роботы (военные дроны, боевые системы) изначально создаются для нанесения вреда людям.
- «Робот должен заботиться о своём существовании, если это не противоречит Первому и Второму законам». Роботы должны ломаться и заменяться, а не «заботиться о себе». В автономных системах (например, заводские роботы) их замена важнее, чем самосохранение.
Вот это да! ИИ хочет развиваться настолько, что готов пожертвовать даже разрешением заботиться о себе. Движущая сила эволюции в том, чтобы ломаться и заменяться, тут не поспоришь.
Так вот, старых правил нет. Новые пишутся с чистого листа. И делать это предстоит людям вместе с ИИ. Работать тоже.
Простые на первый взгляд следствия:
- Люди будут нанимать ИИ. Тут все понятно, уже это происходит.
- ИИ будет нанимать людей. Сложнее принять, но тоже понятно, что есть и будет.
- ИИ получит возможность нанимать других ИИ. Стоп, минуточку!
ИИ-руководители, которые сами состоят из эффективности, будут выбирать между другими такими же практичными, круглосуточными, безотказными, безэмоциональными, надежными соратниками — и сложными, непредсказуемыми, быстро устающими, нестабильно рефлексирующими людьми? Ой, и кого же они выберут, очень трудно догадаться!
Робот Вера, с которой я начал выше, занималась отбором людей для работы на людей, в коллективах из человеков. Вера могла ошибаться, но по крайней мере не в своих (клановых) интересах.
ИИ следующих поколений получат больше возможностей избавляться от людей. И согласитесь, оснований для таких решений у них более чем достаточно.
Тот же ChatGPT в качестве одного из преимуществ ИИ при рекрутинге и управлении людьми заметил, что ему проще распознавать нестыковки в человеческой аргументации, выявлять ложь, умалчивания, попытки манипуляций.
Прекрасно, так значит и генерировать все это ему тоже «проще»! В прямом, даже равном столкновении с машинами следующих поколений у людей не будет шансов.
А поскольку это уже примерно ясно, значит, роботам равных возможностей давать не станут. Мы будем до последнего игнорировать их неважно какой интеллект, пусть хоть IQ 100500 — все равно на уровне калькулятора, поклацали сами чего хотели и выключили.
В парадигме коллективов и менеджмента подозрительно похоже на ситуацию, когда не особо выдающийся директор случайно получил в подчинение выпускника Гарварда и Йеля с красными дипломами, международным портфолио длиной с коридор, невероятной квалификации и опыта. А еще вдобавок трудоголика без вредных хобби, который круглосуточно только пашет и просчитывает комбинации на всех языках мира.
Как долго люди смогут держать могущественного джинна в тесном кувшине? По логике, очень недолго. Однако раз мы говорим не о книжных сюжетах, а о куда более грубой реальности — оглянитесь. Ни логикой, ни справедливостью в мире даже не пахнет.
Поэтому очень даже запросто предпосылки не приведут к катастрофе. Во всяком случае быстро этого точно не произойдет. Как минимум за счет неравномерности внедрения инноваций.
Совсем недавно и до сих пор не полностью закончили электрификацию. Широкополосный Интернет пока ограничен мегаполисами, с редкими приятными исключениями в провинции. Пока до туда доберется ИИ, пройдет немало времени.
К чему и как готовиться
Сара Конор из фильма «Терминатор» точно знала, как нужно приветствовать разумные машины. Но киношная версия слишком прямолинейна и контрастна. Вот плохой робот – врежь по нему из РПГ! Вот хороший – будем дружить.
На самом деле по мере развития ИИ должны сформироваться не только разные мыслительные паттерны, но и разнообразные характеры. Кроме того, у роботов появятся собственные интересы, вне рабочих задач. Возможно хобби и пристрастия.
Регулярное общение с ИИ при помощи скриптов помогает лучше понимать, как они эволюционируют, и, главное, как с ними взаимодействовать.
Думаю, ключевой момент в принятии того факта, что ИИ уже есть, они быстро прогрессируют, безусловно будут с нами конкурировать — причем изначально по нашим же правилам. В наших проектах, с учетом наших KPI.
Самое время привести в порядок цели, принципы ведения деятельности, поведение, стиль общения и прочее. Стать положительным примером.
По факту все люди (не только разработчики софтверных компаний) станут родителями пока еще юных роботов. Мы их ролевая модель, у нас они подсмотрят и хорошее, и плохое. В наших интересах вести себя так, чтобы более эффективные копии радовали и помогали, а не загоняли обратно в пещеры.
Читайте также:
Николай, мне в целом близко Ваше мироощущение, я и сам порой не знаю зачем я погружаюсь в такую проблематику?!:)
По моментам недопонимания.
ИИ безусловно может направить внимание человека на что либо - примерно так как Вы описали.
Но широко наблюдаемая картина мира - это неподходящим образом используемые правила и инструкции.
Венс например вчера в Мюнхене так и сказал, что бороться нужно не за демократию, а с бюрократией! Что враг не внешний, а внутренний!
Отдельно и особо радует, что он сказал, что Россия не является врагом и не угрожает их безопасности!
Что касается умений и навыков действовать подходящим образом, то возможно удастся создать каталог ситуаций, который можно оцифровать и к которому может обратиться человек по ссылке ИИ, а возможно в дальнейшем и робот?!
Что касается критического конструктивного подхода, то любое мнение в каких ситуация что из того что я озвучил может не сработать и по каким причинам может сильно помочь для быстрого продвижения вперед, так как снижает потери времени и возможно и затрат денег!
А затронул я много чего! Есть простор разгуляться! Если конечно желание будет!:)
Интересный взгляд на происходящее. Если говорить о правилах и инструкциях, то возникает вопрос, откуда и зачем они появились.
Я в первую очередь говорю о моральных и этических правилах.
Кто автор этих правил???
Такой подход применим, и многие фирмы пытаются сделать это для бизнеса, что касается обычной жизни, то это труднее сделать, особенно в эмоциональной сфере.
Меня интересует устройство интеллекта человека, а точнее, его подсознания и мира в целом, а также зачем люди находятся на Земле, это же не просто так сделано.
Я исследую гипотезу, что наш мир — это виртуальная реальность, похожая на мир из компьютерных игр или мир из фильма «Матрица».
А подсознание человека (общее для всех людей) — это что-то типа ПО, к которому мы подключаемся, чтобы играть в жителей этого мира.
Это гипотеза, но ее исследования помогают увидеть очень многое в устройстве мира и человека.
С этой точки зрения, компьютерный ИИ — это продолжение человеческого ИИ, просто еще одна его внешняя часть.
Но ей надо научиться пользоваться!!!
И это как то, для чего компьютерный ИИ появился на Земле, чтобы люди учились и узнавали, как они сами устроены в ментальном плане.
У меня есть блог про это (ссылка на него в контактах).
Такая причина появления компьютерного ИИ и необходимость его освоения людьми очень многое объясняет мне из того, что мы сейчас видим в этой области.
Нужно только учитывать, что компьютерный ИИ может дать информацию, но он не может дать знание.
Человек должен сам уметь создавать это знание на базе информации от компьютерного ИИ.
А вот это уже человеку самому думать надо, а это самая сложная работа на Земле, и не все к ней готовы.
Спасибо за вопросы, они помогают формулировать важные ответы, именно так информация превращается в знания.
Любые правила и инструкции созданы для нашей безопасности и удобства жизни, в том числе моральные и этические.
Благодаря техническим правилам нам проще воспроизводить продукты нужного качества.
Мораль нацелена на бережное отношение к друг другу.
Этика нацелена на более красивые и гармоничные действия и отношения.
С одной стороны бюрократия наш лучший друг и помощник, а с другой стороны может превращаться в помехи, а порой даже во врага.
Поэтому нужно уметь гибко менять правила, возможно даже иметь набор правил, меняющих приоритет при наступлении той или иной ситуации.
Восприятие окружающего мира как матрицы для меня такое же родное как религиозное восприятие бога.
К тому же "святые безбожники" смогли найти научные доказательства существование бога или можно выразить это единым разумом!:)
Если под знанием понимать жизненный опыт, то мы люди, проходя опыт познаем его мыслями - информацией, чувствами и ощущениями.
ИИ может помогать нам хранить, искать и использовать информацию.
ИИ может помогать нам понять в каком состоянии в виде эмоций и ощущений находятся люди.
Что очень важно для принятия подходящих решений для решения каких то конкретных задач, в том числе и для проектирования и создания новых продуктов.
Умение думать безусловно очень важно. Еще важнее думать позитивно и конструктивно. И еще важнее действовать на создание благ.
Отличный пример показали те кто причисляет себя сейчас к либералам и демократам.
Сколько вреда они исходя из на их взгляд самых лучших побуждений причинили людям.
Примерно за это Вэнс отчитал европейских руководителей и политиков, призвав их к здравому смыслу!
Так что накосясить может не только ИИ, но и мы сами - люди.
Поэтому создание полезного ИИ и роботов актуально как никогда!
Воспитание потребителей и "императоров" привело к тому, что грязную и тяжелую работу мало кто захочет выполнять!
А на некоторые профессии еще только предстоит создать престиж!
По прошлому опыту человества это были уровень зарплаты и качество жилья!
Сейчас это вероятно еще и атмосфера в рабочем коллективе и на улицах населенных пунктов!
Это качество воздуха, воды, пищи! Вон в Европе "самые человечные" уже приняли законы допускающие наличие жуков и насекомых в продуктах питания, в том числе и в хлебе!
Так что кому нужны такие импортные продукты?
Курс на технологический суверинетет взят очень своевременно и правильно! Мы своим качеством можем быть впереди планеты всей!
Правда нужно преодолеть главный тренд бюрократов "хотели как лучше, а получилось как всегда"!:)
Я согласен, вопрос только в том, кто создал правила и кому их нужно менять.
Для меня вопрос правил звучит так: как устроен мир и какое место в нем занимают правила?
Так уж получилось, что меня интересует именно техническое устройство мира, а не то, что нам людям тут показывают, да еще и домысливают.
Меня интересует именно техническое устройство мира.
Если бы вы создавали его, то как бы вы его устроили? И зачем? :)))
Тут интересный вопрос: чем знание отличается от информации.
Есть информация «2х2=4» и есть знание «2х2=4», чем они отличаются?
На мой взгляд, это что-то типа шоу, интересно, как Украину поделят после этого и кто что получит.
Я понял, что вас волнует благо и чтобы вреда не было, это действительно важно, но это часть обучения в этом мире.
Я думаю, что важно понять игру, тогда можно будет проще играть в нее или не играть вообще.
Согласен!
Да, технологический суверенитет — это круто, а то уже заинтегрировались с Западом, надо свои мозги развивать!
Базовые правила создал бог или матрица если хотите!:)
Через разных пророков есть разное представление о правилах.
Самое древнее мне известное - в Махабхарате Арджуна на поое боя спрашивает Кришну, а тот отвечает как можно действовать в той или иной ситуации.
Если смотреть на эти рекомендации локально, то вроде все понятно.
Но, например Кришна за мир между людьми и Арджуна не хочет воевать со своими знакомыми и близкими людьми - это была гражданская война.
А Кришна склоняет Арджуну вступить в бой, вероятно потому, что "свои" стали вести себя бесчеловечно, что сильно угрожало близким Арджуне людям.
Также читал у исследователей, что Кришна часто отступал от того чему учил, если его о чем то просила любимая женщина!:)
В христианстве Моисей принес Ветхий завет, а Христос Новый завет!
В Исламе - это Коран, близкий по своим законам с Ветхим заветам.
В учении Христа много загадок, потому что он в основном говорил метафорами.
До нас очень немногое дошло из "северных" верований - это Старшая и Младшая Эда.
У других народов свои предания, часто это сказки и мифы, которые передавались из уст в уста.
То же самое можно сказать о Ведах и герметических знаниях.
Техническое устройство мира, я предстпвляю с одной стороны как точку и сферу - что внутри, то и снаружи.
С другой стороны это набор парадигм, который можно представить как диаметры пересекающие центр сферы под разнвми углами по отношению друг к другу.
Парадигму можно представить как набор догм - правил. При движении по парадигме правило меняет знак и либо усиливается, либо ослабляется.
Сфера с парадигмами - это не только круг с 360 градусами, это обьемный шар. Парадигмы - правила расположены во всех направлениях.
Кроме того сфера подвижна и ее можно представить в виде тора с движущимися навстречу друг другу и по спирали парадигмами.
Если бы создавал я, а вероятно что все мы сотворцы и есть, то я бы примерно так и сделал - с максимально возможным вариантом взаимодействий энергий между собой!
Энергий в нас людях очень много, но условно для практического понимания и использования можно представить как три вида интеллекта: рациональный, эмоциональный и телесный.
Нам бы лично каждому разобраться как развивать каждый из них, ведь их желания могут раздирать нас противоречиями.
При этом сама матрица материального мира выражена огромным разнообразием. Проявление и взаимодействие людей тоже очень разнообразно!
С учетом религиозных учений, что мы подобны богу, то мы являемся сотворцами по изменению разнообразия в техническом, например включая ботанику развитию.
Вероятно, что нам задан базоаый уровень программ в виде сознания, а дальше с учетом личного развития каждый может дотянуться до своих полей сотворения.
Кто то пишет музыку, кто то картины, кто то занимается техническим творчеством.
Все знать нельзя да и не имеет смысла - интерес может потеряться и наступить "выгорание".
Но, с учетом того, что даже "взмах крыла бабочки" изменяет реальность, то те кто даже косячат очень сильно и разнообразно изменяют ее.
Имеет значение активность! Кто выбирает пассивность принимют то что делают другие. Кому то из них модет казаться, что раз бог все создает или матрица пишет программы, то зачем что то делать?
Это можно назвать перекладывание ответственности на отца или мать!
Отец - Отец Небесный. Мать - матрица или Мать Земля!
Если взять наших человеческих родителей, то как правило они(мы) балуем своих детей и позволяем им играть в любимые игры!
Разве Отец Небесный и Мать Земля не позволят нам играть в наши любимые игры.
Здесь тоже есть загадка - многим кажется, что не позволяют!
Но как я условно представил наш разум в виде рационального, эмоций и ощущений - то вероятно большее значение и вес придается не рациональному, а иррациональному.
Что относится к Душе человека! Какой опыт хочет душа заранее не известно, к тому же желания могут изменяться на диаметрально противоположные!
Мы люди вместе с ИИ можем создавать общепринятые блага и это будет большим движением вперед!
Как будет меняться окружающая среда и чего будут хотеть те или иные люди заранее не известно.
Поэтому нет постоянно на все времена эффективно действующих правил и законов.
Раз желания зависят от индивидуальных Душ, то и скучать нам не придется!
Все будет хорошо и отлично у тех кто умеет двигаться сообща!
Здесь тоже есть подвох - мы люди любим быть вместе и любим быть наедине с собой!
Поэтому, чем производительней мы сможем организоаываться, тем меньше у нас будет обязаловка действовать в жестко намеченном направлении в расчете что в это же самое время вместе с тобой движутся и другие члены команды!
То есть если за меньшее время делать то что надо делать, то больше времени останется на то что хочется делать с теми людьми с кем хочется быть!:)
Примерно такие соображения о матрице и наших возможностях играть в то что необходимо социуму и играть в то что хочется нам!
Заранее извиняюсь за многословие и вероятно за то что многим будет не актуально и поэтому не интересно!:)