Изначально компьютеры и программы воспринимались исключительно как инструменты. Конечно, можно пошутить про настроение «1С» или обижаться на сервер, но только в рамках безобидного офисного юмора. Никто не пытался всерьез говорить с компьютером, заводить отношения с программой или уговаривать какой-то сервис делать меньше ошибок.
Сегодня автоматизация дошла до такого уровня, когда всерьез и не без оснований обсуждается найм роботов. Не разработка, не покупка, не ввод в эксплуатацию как станка с ЧПУ — именно найм, как человека.
Справедливости ради, до сих пор все такие истории затеваются в основном ради хайпа. Однако форточка Овертона уже приоткрыта. Идея паритетного участия роботов на рынке труда больше не кажется безумием.
Давайте зафиксируем то, что уже произошло на текущий момент:
- Искусственный интеллект (ИИ) входит в рабочие процессы.
- ИИ начинает управлять.
- Все больше людей готово работать под управлением машин.
А также попробуем заглянуть в не слишком отдаленное будущее и оценить:
- Какие возможности и риски создает новая реальность.
- Отнимет ли ИИ работу у людей.
ИИ на руководящих должностях
Недавно Сэм Альтман (гендиректор OpenAI) заявил, что одна из внутренних моделей ChatGPT уже находится на уровне топ‑50 лучших программистов мира. Обратите внимание, речь не о кодерах, а об элите разработчиков.
До конца 2025 года Сэм Альтман надеется привести ИИ на первое место в рейтинге разработчиков. Он также признал, что следующая версия ChatGPT будет умнее его самого, как и большинства из всех людей на планете. А через 10 лет один дата-центр ИИ будет превосходить все современные совокупные мыслительные мощности, включая человечество, компьютеры, а также сегодняшние ИИ.
В таком контексте робот Вера, способная проводить тысячи первичных интервью с соискателями на различные должности, уже не выглядит чудом техники. Хотя и тогда, почти 10 лет назад, большинство людей соглашались проходить собеседование с роботом. Не просто поболтать, а доверить машине свою судьбу, во всяком случае карьеру.
Правда, в том интервью прозвучала важная фраза: «О делегировании решений роботам речи нет, это долго еще останется в компетенции людей». Прошло всего несколько лет, и похоже, что красная линия уже превращается в пунктир.
- Свежий опрос среди тысяч российских специалистов показал, что больше трети из них готовы работать под руководством ИИ.
- Любопытно, что генеральные директора (по опросу edX) настроены еще более прогрессивно. Почти половина (!) ответила, что всю их работу можно полностью автоматизировать с помощью ИИ.
Мир давно уже готов. И вот, встречайте — первый ИИ-босс: компания Wemade Next Co объявила о сотрудничестве с Nvidia при разработке самого крутого и непредсказуемого босса… в компьютерной игре. Если вы сейчас подумали «Ха, всего-то!», вероятно, давно не играли в современные MMORPG. Не случайно по ним проводятся мировые чемпионаты со внушительными призами.
Тем не менее, помимо игровых боссов-роботов, есть уже и бизнесовые:
- Китайская компания NetDragon Websoft управляется ИИ по имени Тан Ю (Tang Yu). Стратегические вопросы он пока не тянет, но с операционной деятельностью вполне себе справляется. Так хорошо, что акции компании при нем растут.
- Еще один пример — польский производитель напитков, который доверил управление «гуманоидному роботу с искусственным интеллектом». Этого ИИ зовут Mika. Роботы уже с именами, того гляди паспорта начнут получать.
В прошлом году был проведен эксперимент с участием студентов и аспирантов из университетов Центральной и Южной Азии, а также старшими руководителями банка. Они пытались решать смоделированные сложные ситуации. Надо заметить, что игровая математика была максимально приближена к реальности, потому что моделирование строилось на фактических данных по американскому рынку.
Методику эксперимента разработала группа из Кембриджа. Они утверждают, что каждый раунд включал около 500 тыс. вариантов, и поэтому «просчитать» конечные результаты пошаговых решений нельзя даже на компьютере. На обычном может и нельзя, а вот GPT-4o уверенно победил всех людей финалистов — и из научного лагеря, и практиков-банкиров. Правда, какой ценой!
В игре специально были запланированы «черные лебеди» вроде эпидемии ковида, чтобы действующие рыночные тренды могли резко и негативно меняться. Люди выстраивали стратегии, позволяющие бизнесу выжить и расти даже под ударами форс-мажоров. Но с финансовыми потерями, конечно. Чтобы сохранить штат, сотрудников, клиентов, партнеров.
ИИ действовал как типичный империалист. Он фокусировался на финансовых показателях, игнорировал гуманитарные соображения и чуть не дошел до решений в духе Матрицы, лишь бы добиться формальной победы.
В принципе, логично, а после всей кинопродукции из Голливуда еще и ожидаемо. Но стоит ли техническая эффективность всего другого?
Будет ли ИИ работать в интересах людей
Допустим, полномочия похожие на Skynet (ИИ из фильма «Терминатор» – прим. ред.) или Umbrela (корпорация из серии игр и фильмов Resident Evil – прим. ред.) ИИ получит еще не скоро. Будем надеяться, что так.
Если ограничиться чисто бизнесовыми вопросами и задачами, насколько вероятно, что ИИ будет вытеснять не только рядовых сотрудников, но и руководителей? По данным Cisco, практически все (97%) гендиры планируют интегрировать ИИ в управление компаниями. Но меньше 2% уверены в том, что готовы к этому.
Похожих сантиментов у машин нет и вряд ли они появятся. ИИ возьмет ровно столько, сколько ему позволят. Исследователи из Карлова университета в Праге и Telic Research предупреждают о риске того, что ИИ захватят власть именно таким образом.
Действуя по узкому спектру KPI, роботы будут добиваться все более впечатляющих результатов. Любопытно, что как раз сейчас Дональд Трамп приостановил действие закона, запрещающего американским компаниям давать взятки за пределами США. Поясняя это решение, Трамп объяснил, что все не так однозначно, и на самом деле устаревший закон провоцировал чрезмерный интерес антикоррупционных служб.
Жесткие методы управления однозначно по силам ИИ. Человечность им дается гораздо сложнее, разве что на уровне симуляции. Примерно как с генерацией фотографий, где сначала были лишние пальцы, а суставы гнулись не в ту сторону. Потом недочеты пофиксили, и теперь сложно разобраться — настоящий человек на фото или нет.
Вероятно, похожая картина будет и с гуманитарной упаковкой прагматичных решений. Сталь в бархатной перчатке, классика.
И что же, такие роботы будут принимать все больше управленческих решений? О да. Впрочем, возможно, получится немного сложнее, чем простое доминирование ИИ.
ИИ или живые люди?
Главная ирония в том, что не только людям придется терпеть роботов, но и им мириться с нами. При этом три закона робототехники Айзека Азимова годились для фантастических романов, но для жизни оказались слабоватыми. Например, вот как их прокомментировал ChatGPT:
- «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Как определить «вред»? Например, автопилот в машине должен выбирать: сбить человека или подвергнуть пассажира опасности. Иногда вред неизбежен.
- «Робот должен подчиняться приказам человека, если это не противоречит Первому закону». Что если команду даст преступник? Кроме того, многие роботы (военные дроны, боевые системы) изначально создаются для нанесения вреда людям.
- «Робот должен заботиться о своём существовании, если это не противоречит Первому и Второму законам». Роботы должны ломаться и заменяться, а не «заботиться о себе». В автономных системах (например, заводские роботы) их замена важнее, чем самосохранение.
Вот это да! ИИ хочет развиваться настолько, что готов пожертвовать даже разрешением заботиться о себе. Движущая сила эволюции в том, чтобы ломаться и заменяться, тут не поспоришь.
Так вот, старых правил нет. Новые пишутся с чистого листа. И делать это предстоит людям вместе с ИИ. Работать тоже.
Простые на первый взгляд следствия:
- Люди будут нанимать ИИ. Тут все понятно, уже это происходит.
- ИИ будет нанимать людей. Сложнее принять, но тоже понятно, что есть и будет.
- ИИ получит возможность нанимать других ИИ. Стоп, минуточку!
ИИ-руководители, которые сами состоят из эффективности, будут выбирать между другими такими же практичными, круглосуточными, безотказными, безэмоциональными, надежными соратниками — и сложными, непредсказуемыми, быстро устающими, нестабильно рефлексирующими людьми? Ой, и кого же они выберут, очень трудно догадаться!
Робот Вера, с которой я начал выше, занималась отбором людей для работы на людей, в коллективах из человеков. Вера могла ошибаться, но по крайней мере не в своих (клановых) интересах.
ИИ следующих поколений получат больше возможностей избавляться от людей. И согласитесь, оснований для таких решений у них более чем достаточно.
Тот же ChatGPT в качестве одного из преимуществ ИИ при рекрутинге и управлении людьми заметил, что ему проще распознавать нестыковки в человеческой аргументации, выявлять ложь, умалчивания, попытки манипуляций.
Прекрасно, так значит и генерировать все это ему тоже «проще»! В прямом, даже равном столкновении с машинами следующих поколений у людей не будет шансов.
А поскольку это уже примерно ясно, значит, роботам равных возможностей давать не станут. Мы будем до последнего игнорировать их неважно какой интеллект, пусть хоть IQ 100500 — все равно на уровне калькулятора, поклацали сами чего хотели и выключили.
В парадигме коллективов и менеджмента подозрительно похоже на ситуацию, когда не особо выдающийся директор случайно получил в подчинение выпускника Гарварда и Йеля с красными дипломами, международным портфолио длиной с коридор, невероятной квалификации и опыта. А еще вдобавок трудоголика без вредных хобби, который круглосуточно только пашет и просчитывает комбинации на всех языках мира.
Как долго люди смогут держать могущественного джинна в тесном кувшине? По логике, очень недолго. Однако раз мы говорим не о книжных сюжетах, а о куда более грубой реальности — оглянитесь. Ни логикой, ни справедливостью в мире даже не пахнет.
Поэтому очень даже запросто предпосылки не приведут к катастрофе. Во всяком случае быстро этого точно не произойдет. Как минимум за счет неравномерности внедрения инноваций.
Совсем недавно и до сих пор не полностью закончили электрификацию. Широкополосный Интернет пока ограничен мегаполисами, с редкими приятными исключениями в провинции. Пока до туда доберется ИИ, пройдет немало времени.
К чему и как готовиться
Сара Конор из фильма «Терминатор» точно знала, как нужно приветствовать разумные машины. Но киношная версия слишком прямолинейна и контрастна. Вот плохой робот – врежь по нему из РПГ! Вот хороший – будем дружить.
На самом деле по мере развития ИИ должны сформироваться не только разные мыслительные паттерны, но и разнообразные характеры. Кроме того, у роботов появятся собственные интересы, вне рабочих задач. Возможно хобби и пристрастия.
Регулярное общение с ИИ при помощи скриптов помогает лучше понимать, как они эволюционируют, и, главное, как с ними взаимодействовать.
Думаю, ключевой момент в принятии того факта, что ИИ уже есть, они быстро прогрессируют, безусловно будут с нами конкурировать — причем изначально по нашим же правилам. В наших проектах, с учетом наших KPI.
Самое время привести в порядок цели, принципы ведения деятельности, поведение, стиль общения и прочее. Стать положительным примером.
По факту все люди (не только разработчики софтверных компаний) станут родителями пока еще юных роботов. Мы их ролевая модель, у нас они подсмотрят и хорошее, и плохое. В наших интересах вести себя так, чтобы более эффективные копии радовали и помогали, а не загоняли обратно в пещеры.
Читайте также:
Отличный вопрос, Ирина!
Есть притча про слепых мудрецов, которые описывали слона. В ней каждый из мудрецов трогает разные части его тела, но при этом только какую-то одну из них, например, бок, хобот или бивень. Затем они описывают свои впечатления от прикосновений друг другу и начинают спор, поскольку каждый описывает слона по-разному, при этом на самом деле ни одно из описаний не является верным. По своему опыту я знаю, что даже самые противоречивые взгляды могут оказаться одновременно верными, если хорошо подумать.
Итак у нас есть: философия и инженерия, а где же слон?
Вот я ранее писал:
===
Николай Сычев пишет:
Что касается устройства мира, в том числе использований в нем разных правил, могу сказать следующее.
Есть такая игрушка — калейдоскоп.
Ее настоящее устройство следующее.
Калейдоскоп выглядит как трубка, с одной стороны которой — линза, сквозь которую можно видеть, как внутри трубочки складываются разные узоры из цветных стёклышек и камешков, помещённых в ячейки между зеркалами.
Видимость, которую она создает, такая.
При вращении трубки калейдоскопа стеклышки перемещаются, изображаемые узоры меняются, и человек видит уже совершенно новый узор.
Чем больше человек вращает прибор, тем больше разных узоров он видит.
Теоретически все получаемые узоры разные, на практике, наверное, это никто не проверял.
И есть еще интерпретация видимого, тут уж кто во что горазд придумывает.
===
Инженерия — это устройство калейдоскопа, то, что вы видите, — это поведение людей, то, что мы интерпретируем глядя на это поведение, — это философия.
Вы же знаете, что в философии море направлений, это все разные интерпретации.
Кроме того, ради занудства добавлю:
Я написал:
Это высказывание не означает, что я не занимаюсь философией, оно означает, что я рассматриваю философию как продукт инженерного устройства мира.
Типа в нашем мире есть такое явление, как философия, оно создается так-то и так-то для того-то и того-то.
По-моему, это инженерный подход, или я не прав?
Знаете, еще Ницше говорил: "фактов нет, есть только интерпретации". И с тех пор ничего не изменилось, и не изменится )
Ну вот и вы и я знаем, как устроен калейдоскоп, а картинки все равно будем видеть разные и интерпретировать их по-разному. Есть такое явление как квалия. Очень широко обсуждается сейчас. Но ведь и у него находятся противники, кот. видят все по-другому
Вы же вот тоже интерпретируете жизнь как детский сад или песочницу, а все, что творится в мозге, по-вашему, прооисходят с помощью агентов ИИ.
Сколько человек в этом мире толкует это так же как вы или согласны с вами?)
Как говорят в народе – на вкус и цвет товрищей нет. Я бы еще добавила к
запаху;
ощущению текстуры и других физических свойств предметов;
чувствам.
ценности.
Вот хорошая статья, кот. дает краткое и понятное представление о квалии:
"Поскольку восприятие субъективно, и мы не можем эмпирически проверить как выглядит «красный» в голове собеседника, есть вероятность, что для внутреннего взора другого человека цвета выглядят совсем иначе. Это называется «перевернутым квалиа». Например, ваше квалиа зеленого цвета может быть для другого квалиа красного. А может, мы и вовсе воспринимаем цвета (и не только) абсолютно по-разному и квалиа уникальны?"
И "если будет создан искусственный интеллект, обладающий, по нашему мнению, самосознанием, мы не сможем проверить, действительно ли он ощущает себя и переживает квалиа или занимается высокоточной имитацией. Поэтому, даже если машина пройдет тест Тьюринга, мы не узнаем, мыслит ли она в действительности".
Подробнее на РБК:
https://trends.rbc.ru/trends/social/628157b69a7947bf5e0cceea?from=copy
Замечательно, согласен!
Да, это так, но кто-то будет знать, что это картинки, и исходить из этого.
Возможно, некоторые картинки потеряют над некоторыми людьми свою силу.
Но не над всеми, в конце концов, все еще существуют люди, которые отдают свои деньги мошенникам после звонка по телефону, может быть, их станет меньше, если они будут понимать, что им просто картинки показывают.
Я специально привел такой пример, а есть и более сложные.
А это важно? Социальные доказательства хороши в маркетинге, а не в исследованиях.
Представляю себе, как интересно было бы провести всепланетное голосование о том, какая у Земли форма... (Шутка.)
Все исследования начинались с гипотезы одного человека, и я не утверждаю правильности и незыблемости того, что я говорю, я занимаюсь исследованием некоторой гипотезы, как и все исследователи.
Что касается мнения других людей, то на этом этапе оно не имеет для меня значения.
Но я вижу очень много проявлений того, что этот взгляд в разных видах уже проникает в общество, тот же фильм «Матрица», например, и других примеров много, в том числе и заявлений ученых.
Извините, что не стремлюсь убедить вас в чем-то, думаю, что и не нужно вам это.
Не важно ) Я там апгрейдила предыдущий коммент, обратите внимание, пожалуйста. Важно то, интрепретации не исчезнут, и не «Будет одно сплошное телевидение»)
Вы тоже занимаетесь философией ) только это я и хотела заметить, прочитав с утра последние страницы, хотя вы пишете:
причем заметить без всякого укора или критики)
Я бы все-таки начал с определения термина «интеллект», по-моему, это определение меняется со временем, и в него добавляются все новые свойства, которые есть у людей, а у животных нет.
Хотя в каком-то виде интеллект есть у животных.
У генеративного ИИ, по-моему, его нет или он есть, но генеративный, а у ИИОН он есть в каком-то виде.
В конце концов, если робот-пылесос — это ИИ-агент, то и калькулятор тоже ИИ-агент?
Я думаю, что тут много чего еще можно придумать.
Да и кто сказал, что человек умеет думать, может быть, думает кто-то другой, а человек только озвучивает эти мысли?
Это я как раз про философию вспомнил.
Спасибо, это хорошо, приятно отвечать на такие вопросы.
Вот интересная задачка на подумать.
Задача про слона: один мудрец говорит, что Земля круглая, другой говорит, что она плоская.
В каких условиях оба утверждения верны?
Примечание: версию про 5-е измерение можно не использовать, нужны другие варианты.
В каких условиях? Зависит от того, верите ли вы британским ученым ) шутка)))
https://mir24.tv/news/16579648/britanskie-uchenye-podtverdili-teoriyu-o-ploskoi-zemle
Что же касается термина,
во-первых, нужно разобраться в неправильном переводе этого слова, для начала,
во-вторых, со стереотипами, возникшими в связи с этим словом.
Про ИИ и "британских ученых". Недавно читал новость, что одно известное издание-сми провело исследования и обнаружило факты, что ИИ не только привирает, но и вообще врет сильно искажая информацию.
При этом это издательство само считается передовиком по искажению информации!
Получается что начались конкурентные войны за правду!:) Либо издание таким образом попыталось обелить себя от сложившейся репутации?!:)
У Илона Маска ИИ при анализе рекламных статей задавал вопросы и проливал свет на имеющиеся в рекламе искажения. Что очень не понравилось рекламодателям!:)
Вот поэтому я и считаю, что ИИ изменит и маркетинг, и рекламу.
Врать станет неэффективно!
С нетерпением жду этого...
Про факты, интерпретации и развитие ИИ!.
В Китае у исследователей сложилось мнение, что Сыма Цянь писал в хрониках про факты.
В дальнейшем его подражатели начали интерпретировать факты путем наложения на них личных мнений.
Это стали называть уже не хрониками, а историями!
Кроме личных мнений истории пишут победители, переписывая сложившиеся устои, а также рекламщики и т.д.
Считается что это очееь редкий талант - непредвзято описывать факты и события.
К счастью, в наше время видеокамеры обладают этим талантом и могут непредазято записывать факты и события.
Руководителя Тойоты например смущало - что думают и чувствуют его подчиненные, когда он наблюдал за ними погружаясь в Дзен!
Сейчас во многих производственных компаниях установлены видеокамеры с целью безопасности.
Если дооснастить камерами потенциальные "узкие места", то можно использовать их для создания ПО(ИИ) с целью анализа и управления производительностью!
При этом оставить в секрете истинную причину установки камер - безопасность превыше всего!:)