Прежде чем погружаться в пучину конспирологических теорий, давайте тезисно обозначим размер пирога.
Месяц назад просочилась информация об оценке OpenAI в размере $80 млрд. Речь «всего лишь» о планировавшейся сделке по продаже акций. Однако цифры красивые, особенно за год на рынке.
Это лишь верхушка айсберга. Исключительно благодаря умным нейросетям от OpenAI еще в начале 2023 года получилось вернуться на Олимп другой, значительно более старой корпорации — Microsoft. Ее капитализация опять составила $2 триллиона, наравне с заклятыми друзьями из Apple.
Наконец, помимо финансов есть и другие критерии. Сейчас уже мало кто сомневается в том, что искусственный интеллект изменит на нашей планете очень многое. Изменения уже происходят и на очереди:
- Автоматизация целых отраслей.
- НИОКР на недосягаемой ранее сложности, скорости и одновременно экономичности.
- Технологическое превосходство владельцев ИИ над всеми прежними конкурентами, в любых сферах.
- И потенциально – превосходство ИИ над своими создателями (которые самонадеянно считают себя владельцами).
Похоже на священный грааль от науки. В ближайшие годы и десятилетия слишком многое будет определяться решениями тех, кто контролирует пока еще не взбунтовавшийся ИИ.
Любые новости из OpenAI вызывают шок и трепет. Потому что там миллиарды и триллионы долларов, сумасшедшее влияние, риски и возможности. Рынок ловит самые незначительные инсайты и утечки про кухню ИИ.
А тут как гром среди ясного неба:
- Бабах! Уволили Сэма Альтмана, гендиректора OpenAI!
- Без передышки, сразу следом — его берут в Microsoft!
- Более 700 из 770 сотрудников OpenAI готовы уволиться!
- Сэм Альтман возвращается в свою компанию победителем!
- Уволившие его «путчисты» изгнаны из совета директоров!
И все это происходит меньше, чем за неделю.
Кстати о масштабе. В новый совет директоров OpenAI вошел бывший министр финансов США Ларри Саммерс. Акулы бизнеса и политики хорошо понимают, что происходит. Мы — гораздо меньше, к сожалению. Давайте попробуем разобраться.
Версия 1. Угроза человечеству
Официальная причина увольнения Сэма Альтмана: «Не был последовательно откровенен в общении с советом директоров». Почти как у Лужкова «в связи с утратой доверия».
В чем же именно не хватило откровенности? Одна из теорий на этот счет говорит о чрезмерно быстром и неконтролируемом обучении ИИ. Дескать, сумасшедший ученый тайно тренирует в подвалах ЦОД свои не менее сумасшедшие нейросети. Дальше смотрите первые серии «Терминатора».
Как ни странно, для таких выводов есть основания.
Аккурат накануне лавины событий Reuters опубликовал довольно странные откровения анонимных информаторов из OpenAI с предупреждением «о мощном открытии искусственного интеллекта, которое, по их словам, может угрожать человечеству».
Речь о некой новой системе под кодовым названием Q*. Где «*» – не сноска на исчерпывающие пояснения (что жаль), а всего лишь часть названия «кью-стар».
Еще один звоночек о том же самом — проскочившее в интервью Financial Times прямое упоминание Сэма Альтмана о намерении получить дополнительное финансирование Microsoft на разработку AGI. То есть общего ИИ, который отличается от генеративного GPT примерно как человек от калькулятора.
Если алармизм уместен, то мы все, видимо, проиграли. Злой профессор вернулся с еще большими полномочиями, чем раньше. Теперь он точно дообучит свою Q*, после чего пандемийные и прочие ужасы всем покажутся мелкими неурядицами.
Версия 2. Козни Microsoft
А что же Microsoft? Ненадолго (примерно на день) они получили в свое распоряжение одного из основателей OpenAI. Вдобавок подписанные намерения об увольнении практически всей команды OpenAI — им тоже успели озвучить гостеприимное «Welcome!».
Правда, потом все шестеренки так же резко закрутились обратно. Но, возможно, просто сорвался рейдерский захват века, если не тысячелетия?
С одной стороны, такое предположение звучит довольно дико. Microsoft инвестировал в OpenAI миллиарды (по крайней мере $13 млрд). Им и так принадлежало 49% всех этих инноваций на правах крупнейшего инвестора.
Что, кстати, не замедлило проявиться сразу после скандального увольнения Сэма Альтмана — Microsoft тут же потерял 7% своей хваленой капитализации.
Пока ничего не говорит о корыстных интересах, правда? Но следите за руками:
- OpenAI – некоммерческая организация. Ага, бессребреники с оценкой на уровне самого дорого стартапа современности.
- Коммерцию мутит «дочка» OpenAI. Юридически это другая организация. Именно в нее Альтман закачал миллиарды Microsoft.
- Но и наследники Билла Гейтса не лыком шиты. Они дали не живые деньги, конечно. А по сути купоны на обслуживание в своих же ЦОД.
Таким образом, как и полагается у альфа-приматов, две суровые гориллы крепко держат друг друга за яйца. Microsoft может «задушить» производительность OpenAI простым выключением рубильника. Тем и так недавно пришлось прекратить брать деньги (!) у страждущих, потому что не справляются с нагрузкой.
При этом OpenAI похоже ничего Microsoft не должна! Прямо как Пегий дудочник в сериале «Силиконовая долина». Они же могут поменять «железки» на любые другие. Хоть Amazon или Google. Или производить собственные, о чем дальше.
С такого ракурса желание Microsoft крепче ухватиться за свой шанс пережить новую волну инноваций выглядит уже не совсем безумным. По большому счету, у них пока только временный альянс с OpenAI. Тогда как ставки до небес, и все деньги мира уже связаны с будущим ИИ.
Вишенкой на торте недавнее заявление, уже после триумфального возвращения Сэма Альтмана обратно: «OpenAI вряд ли предложит место в совете директоров Microsoft и другим инвесторам». Еще не развод, но уже и не медовый месяц.
Версия 3. Ближневосточный след
Подробнее о собственном производстве «железа». Совсем недавно Financial Times рассказал о сепаратных переговорах Сэма Альтмана с партнерами на Ближнем Востоке.
Обсуждалась такая безделица, как инвестиции в размере $100 млрд на создание нового конгломерата по выпуску микропроцессоров. Так и хочется упомянуть Тайвань в этом контексте, но гораздо ближе и вероятнее конкуренция с Nvidia и TSMC.
В любом случае, запуск настолько масштабного и чувствительного для многих производства сам по себе мог стать мотивом хорошо если только для увольнения.
Если догадка верная, то противники свободного рынка проиграли. Сейчас Сэм вернулся, у него лояльная команда и больше возможностей проводить свою политику, чем раньше.
Версия 4. Месть Илона Маска
Один из основателей OpenAI – техногик и филантроп Илон Маск. Он не смог раньше оседлать и возглавить компанию, поэтому кузница искусственного интеллекта избежала судьбы другого крупного IT-актива, бывшего Twitter.
При всех своих грубейших просчетах с Twitter, которые даже визуализировали в виде креста на почившей птичке, Илон Маск не оставил и амбиций по ИИ. Теперь у него есть собственный умный чат-бот Grok. По словам владельца: «Как ChatGPT, только лучше».
И это еще не все. Илон Маск всегда отстаивал осторожный подход к развитию ИИ. Что особенно смешно следующей строчкой после упоминания Grok. Но тут технологическая пропасть. Grok – вообще «умный» чатбот, он не претендует на апокалиптические сценарии. И уж всяко не AGI, которого даже у OpenAI пока нет. Так что нападки Маска на опрометчивое обучение ИИ вполне себе логичны.
Там, где нужен один мотив, здесь сразу три, на выбор:
- Месть за то, что отвергли его притязания на старте.
- Желание расправиться с прямым конкурентом.
- Идеологические расхождения со стратегией Альтмана.
А ведь это Илон Маск. Один из богатейших людей мира с невероятным чутьем и хваткой. Ни много ни мало — прообраз «железного человека». Мог ли он подстроить увольнение Альтмана и попытку развала OpenAI? Теоретически возможно, реально все же нет. Такое шило ни в каком мешке не утаить.
Мелко язвить в чатиках — другое дело. Тут Илону нет равных. Когда Альтман ненадолго перешел в Microsoft, Маск успел написать: «Теперь им придется использовать Teams!». Это меткая шпилька, потому что одной из претензий к Сэму была работа на платформе Google Meet. И это после всех инвестиций Microsoft.
Версия 5. Внутренние интриги
Последний в списке, но один из первых по вероятности сценариев. Простая борьба за власть внутри совета директоров и соучредителей.
В пользу этой версии говорит то, что долго рассуждать тут не о чем. Была стая товарищей во главе с Ильей Суцкевером, главным ученым OpenAI. Он давно был недоволен Альтманом, а точнее его деятельностью по безответственной коммерциализации высокой науки.
О таких мелочах, как средства и ресурсы для развития ИИ, Суцкевер видимо не задумывался. Зато его беспокоил вектор развития сервиса, который не без основания считал в том числе своим. Ну и теплый огонек власти мало кого оставляет равнодушным.
Подвернулась возможность — пошли сливы в прессу об угрозах человечеству, соперника выперли и вроде получилось закрепиться на троне новой империи. Правда очень ненадолго.
Теперь перед Ильей Суцкевером непростой выбор. Из совета директоров его вывели, но в лаборатории разработчиков ждут по-прежнему. Продолжит ли он заниматься любимым делом, или окажется, что хотел все-таки другого?
Что в итоге
Просто напрашивается аналогия с увольнением Стива Джобса из Apple. Только тогда цикл возврата был почти с десятилетие. Сейчас управились за пару дней. Это многое говорит о возросшем темпе жизни, особенно деловой.
Результат, вероятно, будет похожий. Вытаскивать инновации из небытия — миссия героев. Все равно что меч Короля Артура. Вроде вот он, торчит из камня у всех на виду. Подходи, бери. Многие пытаются. Но получается только у одного. Избранного.
Сэм Альтман внешне не очень похож на супермена. Однако в век крутых ботаников он еще как вписывается в высшую лигу. За него уже можно порадоваться. За нас всех… скоро будет видно. Может и нет.
В любом случае, пока что прояснились некоторые выводы:
- Крупный и крупнейший бизнес уже сделал ставку на ИИ.
- Оценка нового рынка в деньгах пока не имеет особого смысла. Все равно что вешать ценник на Интернет. Все деньги мира будут там.
- Монополизация технологии не вызывает сомнений. Что определит ландшафт надолго, и не только в IT.
- На таких историях мы видим, как обнажается дно до горизонта. Ошибочно считать это океаном возможностей. Наоборот, грядет цунами, которое снесет очень многое.
Запасайтесь попкорном. А лучше обратите внимание на хобби многих богачей, особенно в сфере IT: спорт, охота, выживание в дикой природе. Что не мешает им запускать новые проекты, бизнесы и надеяться на лучшее.
Читайте также:
Чтобы что-то хакнуть, надо иметь возможность поиграться с тем, что хакаешь.
Я очень сомневаюсь, что афганцы экспериментировали, нанося на скалы разные надписи.
Либо это ушло от разработчиков или тестировщиков, либо утек какой-то закрытый отчет о неполадках и уязвимостях.
В общем это напоминает историю со Сноуденом.
А может вообще это изначально была какая-то backdoor. Не могу исключить, что вся эта история была нужна для дополнительного выделения финансов.
Думаю, что эти истории из разряда обычных баек. Распознавание образов для военного ИИ - задача номер 1. Алгоритм не работает на оперативной памяти. Так что скорее всего это выдумка для получения бюджета, Михаил прав.
На БПЛА можно воздействовать только активной помехой, но невозможно залесть в код и пустить его по другому алгоритму. Ну или мне фантазии не хватает, чтоб представить такое. Невозможно надёжной помехой сформировать какую-то осознанную команду. Невозможно подменить команду оператора. А работа любого чипсета - это, сами понимаете, всего лишь определённая частота сигнала.
Сейчас, не улубляясь в детали, ИИ военных головок самонаведения основан на быстром анализе совершенно реальных сигналов - радио, тепло.
Конечно БПЛА в Афганистане падали, допускаю, что из каких-то обломков можно было вытащить код, элементы или даже создать какую-то модель. Но как найти такую специфическую уязвимость? Для этого нужна какая-то наводка.
Ну может быть они захватили какую-то документацию или даже языка взяли.
Все могло быть, но история очень странная.
Можно взглянуть в структуру командной радиолинии, кторая в спутниках применяется. Я не большой знаток КРЛ, но задача не из простых. У нас подобных станций было раз-два и обчёлся.
Если честно, то развитие отрасли реально вызывает опасение у chatgpt 4: 175 миллиардов параметрв; 96 слоев - кто-то считал как это проверить? Я вам скажу: это тысячам человек на десятки лет. Апотом ещё столько же лет чтобы согласовать данные.
Если кто-то пропустил, то команда OpenAI призналась, что её детище научилось РАЗМЫШЛЯТЬ как добиться нужного результата. Для тех, кто не в теме: РАЗМЫШЛЯТЬ это не свойство системы созданной человеком, иначе ждите что выша стиральная машина или кофеварка будет жить своей жизнью...
Да, будет интересно пообщаться с кофеваркой. Не пробовал.
Достаточно актуальная картинка на тему возможных веток и будущих возможностей. Количество доступного сырья категории Open Source быстро растёт. Ситуация меняется практически ежедневно, в том числе - в части регулирования AI.
И, как обычно, на данный момент самые большие конфигурации стоят очень дорого.
show must go on....
...одни богатеют, другие, открыв рот, смотрят на это.
Интересно! Но ведь в принципе, если размышление - это выбор вариантов, то именно это и есть суть ИИ.
Можно однозначно сделать самые простейшие выводы уже сейчас. В сравнении с человеком, с самым умным, самым всеядным, самым эрудированным человеком иск ителлект имеет:
- доступ к тысячекратному превосходству в данных;
- доступ ко всем доступным сейчас языкам мира;
- доступ ко всем задокументированным версиям тех или иных событий;
- собственный весовой коэффициент тех или иных вариантов и событий;
- стократную скорость принятия решения;
- собтвенный и закреплённый вариант контента.
Уже сейчас потенциал ИИ по многим параметрам гораздо выше, чем самого интеллектуально развитого человека .
Я как-то ставил опыт в чатгпт. Задал вопрос, но он ответил совершенно неверно, глупо - "пургу нёс". Бред и фантастика. Я пытался конкретизировать тему, уточнить вопрос, но он упорно выдвигал свою версию событий, довольно смешную, хотя речь шла о событии историческом.
Там вроде бы был разработчик этих систем, афганец. Ну а когда война наалась, решил помочь малой родине.
Спросите у него про роман Толстого "После бала", посмотрите что напишет.
Пока что ситуация следующая:
1. Наши программисты генерят куски кода. Код получается лучше, чем у самого плохого джуна, но хуже чем у нормального джуна.
2. При генерации обзора научных статей приходится проверять, времени на проверку уходит примерно столько же, сколько на написание обзора самостоятельно.