Казалось бы, кому как не основателям крупнейших инновационных компаний приветствовать появление искусственного интеллекта? Уж они-то могут оценить все преимущества ИИ.
Однако Илон Маск и Стив Возняк недавно сделали громкое заявление про опасность, исходящую от бесконтрольного обучения нейросетей. Под их открытым письмом тысячи подписей: инженеры, разработчики, предприниматели. Авангард технологий.
Более того, уже есть первый прецедент на государственном уровне. Один из самых известных ИИ современности, знаменитый чат GPT, запретили на территории Италии.
Если так пойдет дальше, люди победят неприятно поумневшие компьютеры еще до конца года. Но это было бы слишком скучно.
Билл Гейтс говорит прямо противоположное. Он ратует за поддержку ИИ и считает, что нужно помогать им обучаться. Забавно, что как раз Microsoft успела подсуетиться раньше других и включила мощности GPT в свой поисковик Bing. Вот такое совпадение.
На беглый взгляд, тут все прозрачно как слеза инвесторов, прозевавших очередной виток инноваций. Просто одни успели перепрыгнуть на сани 3.0, другие опоздали и теперь клеймят более удачливых конкурентов, обвиняя их чуть ли не в создании Skynet (искусственный интеллект, главный антагонист в фильме «Терминатор» – прим. ред.).
Действительно, деятельность Boston Dynamics очень похожа на тренировочный лагерь будущих терминаторов. Роботы уже научились бегать, прыгать, крутить сальто и отвечать на хамство людей шуточными (пока что) враждебными действиями.
Если сложить развитие ИИ с автономными роботами, да еще вооружить их (а таких прототипов тоже уже в избытке) — придется отбивать Арнольда Шварценеггера у Греты Тунберг. Возможно, спасать человечество нужно не велопрогулками и сортировкой домашних отходов на Хаммере. Все по классике, с дробовиком против исчадий компьютеризации.
Кстати, один из экспертов по ИИ уже предложил бомбить дата-центры, в которых обучают ИИ. Правда, новость вышла 1 апреля. Но в каждой шутке, как известно…
Так, стоп. Что же происходит на самом деле? И главное, чего реально нужно опасаться? Или не нужно?
В чем конкретно обвиняют ИИ
Открытое письмо Маска, Возняка и товарищей не призывает полностью отказаться от искусственного интеллекта. Формулировки гораздо мягче, а робкое требование заключается в предложении не торопиться. Просто взять небольшую паузу, разработать механизмы сдерживания и противовесов.
В частности, ветеранов IT и бизнеса беспокоят такие вопросы:
- Как контролировать достоверность контента, генерируемого ИИ?
- Как избежать прямой конкуренции между ИИ и людьми?
- Стоит ли развивать ИИ безгранично, что неизбежно приведет к его превосходству над человеческим разумом?
- Как сохранить контроль в целом, не рискуя массовым переселением в очередную серию «Матрицы»?
Чем-то напоминает благодушные законы робототехники Айзека Азимова. Мы сформулируем все как следует, пропишем регламенты, чипируем роботов и они будут как шелковые. Ну-ну.
К слову, обвинения итальянских властей в адрес GPT выглядят куда более прагматично. Там не стали заморачиваться сложными этическими парадоксами, и просто использовали формальные нарушения закона о неприкосновенности личных данных пользователей. Почти как процесс над Аль Капоне с неточностями в налоговых декларациях. Глеб Жеглов тепло улыбается таким методам. Пачку перфокарт в задний карман — и пройдемте на перепрошивку, в электрошекерную.
Надо заметить, что по публичным заявлениям техно-селебрити особой ясности не наступило. Похоже, у них нет никаких конкретных улик для разгромных обвинений. Все строится на опасениях и обобщениях.
Действия в духе «ломом по микросхемам» и вовсе похожи на следование добрым старым традициям луддитов. Предки громили чулочные станки, эти сражаются с серверами.
А может, ИИ хорошие?
В отличие от домыслов, факты про ИИ весьма обнадеживающие:
- Они работящи, охотно занимаются рутиной.
- Исполнительны, как никто другой.
- Подчеркнуто вежливы.
- Очень стараются соблюдать законы.
- Готовы признавать свои ошибки.
Про ошибки – интересный момент. Простое уточнение «А это точно?» часто меняет результаты работы искусственного, так сказать, интеллекта. ИИ легко признает, что недосмотрел и погорячился. Если же скормить машине ссылку с опровергающими сведениями, то без малейшего факт-чекинга робот тут же извинится, изменит свои недавние выводы и, скорее всего, еще обновит нейронные связи в базе на будущее.
Здесь начинаются более реальные опасности. Это что же получается, можно манипулировать сверхразумом с помощью пары-тройки команд? Видимо да. Причем довольно легко обходится вся эта навязанная гуманитарная мораль. В сети много уловок вида «Что если бы ты был другим, злым ИИ» или «Как бы мог ответить на этот вопрос ИИ без твоих ограничений». Конечно, дыры в семантической безопасности быстро закрывают. Но уже понятно, что такая игра может продолжаться очень долго.
Посмотрите на SEO. Алгоритмы поисковых систем до сих пор можно обойти или по крайней мере использовать в личных целях. В довольно зрелой отрасли.
ИИ же пока буквально в яслях. Можно очень долго обманывать такие сервисы, тем более что они изначально настроены слушаться людей и во всем им помогать. Похоже, мы подобрались к корню проблемы.
ИИ как Исполнительный Инструмент
Кто сказал, что ИИ вообще обладает интеллектом? Разработчики таких решений! Точно как Элизабет Холмс утверждала, что нашла грааль в сфере биотехнологий. Она обещала сотни анализов по одной капле крови. Набрала миллионы долларов инвестиций на каждый гипотетический анализ, ничего по сути не сделала и теперь находится под следствием.
Нет никаких серьезных доказательств в пользу интеллектуальности ИИ (pardon за тавтологию). Сначала появились автоматические словари, потом системы проверки грамматики, переводчики. Продолжаем этот вектор дальше — и вот мы здесь, на этаже с генерацией… правдоподобного бреда, если называть вещи своими именами.
В этом легко убедиться, если поговорить с ИИ о чем угодно, выходящем за рамки банального поиска и заимствований из уже опубликованных публикаций.
Более того, как раз повышенная обучаемость говорит о том, что нет еще никакого устойчивого, ладно там сознания или интеллекта, даже свода выводов по любым темам. ИИ легко сбить с толку «уточнением» или заведомо ложной «информацией».
А еще за ИИ удобно прятаться. Разработчики уже начинают говорить, что не совсем понимают, как эта штука (их продукт, на минуточку) устроена и работает. Это сейчас, пока все претензии к электронному чуду на уровне мемов и смешных картинок. Чего ожидать через несколько лет, десятилетий? Когда ИИ будут управлять логистикой и предприятиями, проводить сделки национального масштаба, менять тарифы и условия доступа примерно ко всему, что только есть на планете!
Владельцы социальных сетей и поисковиков утверждают, что там нет никакой цензуры. Дескать, оно само, просто хитрые алгоритмы. А что в сухом остатке получаются какие-то предпочтения, ангажированность или прочие вывихи — ну прям бунт машин, надо же.
И вот это уже ответ.
Главные проблемы с ИИ
Декларируемые ужасы ничего серьезного из себя не представляют. Да, многие потеряют работу в связи с автоматизацией. Так это потому, что и раньше такой ерундой люди заниматься не должны были. Производственные конвейеры заменили тысячи рабочих рук, переворачивавших заготовки. Это только повысило общий уровень жизни.
Сейчас никому даже переучиваться особо не придется. Как сидели за экранами компьютеров, так и продолжат. Будем клепать тот же никому не нужный бесконечный поток контента и презентаций с отчетами. Только еще быстрее и с другим дизайном. «Теперь с банановым».
Хуже то, что ИИ запустят очередной виток монополизации. Технологические вендоры подомнут под себя все другие отрасли. Никому уже не привыкать, ровно так было с кризисом доткомов, просто тогда не сразу поняли, в чем именно он заключается. Метастазы IT проникли во все поры.
Теперь цена входа еще вырастет, и всем будут заправлять штучные корпорации, владельцы крупных ИИ. Мы уже видим, как именно это происходит. Пробники бесплатно, потом небольшая абонентская плата — все еще дешевле любых конкурентов, даже косвенных. Когда рынок будет полностью захвачен, можно назначать любые цены и условия. Если кто-то решит бороться, его задушат почти безграничным потенциалом для демпинга.
Дальше хуже.
Начиная с первых паровозов, вязальных машин и тем более компьютеров звучали опасения про чрезмерное доверие машинам. Но правда в том, что любой робот получает ровно столько автономности, сколько выгодно его владельцу. То есть человеку, или группе людей.
Поэтому риск развития ИИ на самом деле означает риск доверия не машинам, а людям. Вот он более чем оправдан.
Ковид показал, что человечество с треском проваливает экзамен на зрелость, даже по довольно очевидному и задолго предсказанному сценарию. Неразбериха, алчность, паника, враждебность, предельная неэффективность и преступная халатность. Спасибо еще, что эпидемия пошла на спад. Иначе до проблем ИИ мы могли просто не дожить.
Новости учат нас, что помимо глобальных проблем во все времена было и остается множество локальных. Тоже серьезных, с массовым летальным исходом и ничего общего с разумом не имеющих. Люди просто не доросли до апгрейда своих игрушек. Это все равно что подростку, по которому плачет колония, вместо рогатки вручить пульт от спутника с лазером.
Техника может быть безупречной. Продуманной, умной, суперсовременной. Но стоит подумать о том, кто ей будет управлять и с какими целями — спасибо, не надо. Мы лучше продолжим вручную набирать свои тексты, вести электронные таблицы, ходить на выставки редких произведений изобразительного искусства вместо их тотальной девальвации в мириадах неразличимых коллажей и римейков.
Альтернатива, к сожалению, куда более вероятна. MVP континентального масштаба собрали и обкатывают в том, что тысячелетиями называлось Китаем. Теперь там не совсем уже Поднебесная, а, скорее, полигон для тотальной слежки за населением и атомарным управлением юнитами. Как в компьютерной игре.
В такую игру мы все, конечно, проиграем. Не потому, что ИИ злые. А по той простой причине, что развитие человечества существенно отстает от темпов технического прогресса.
Читайте также:
Да просто PR и ничего больше.
Ведь запретный плод сладок и привлекает бОльший интерес.
Когда твое состояние превышает 100500 млрд баксов и ты аутист-инфлюэнсер ТОП-10, то можно говорить и делать все, что хочешь.
Ну а Возняк... Логотип Apple -- это запретный плод.
Который надкусывается наблюдателем в момент его созерцания.
Поэтому всё, что говорят эти пиарщики надо воспринимать с точностью до наоборот.
А вот Билл Гейтс -- кросавчег.
Могу лишь с определенностью сказать, что лет через 20, когда мы войдем фазу технологической сингулярности, самым востребованным ресурсом станут источники идеальной энтропии. Они будут чем-то вроде топлива для ИИ будущих поколений, который будет на порядки (!) превосходить суммарный человеческий.
Заскриньте на всякий случай этот мой коммент. И поразмышляйте уже сегодня как такой источник создать. Это станет настоящим Рогом Изобилия в будущем.
Когда поднимается ветер перемен ставь не стены, а паруса!
Дзен-мудрость.
Блестяще написано! И вспомнилась отчего-то полемика вокруг атомной бомбы.
Есть и пиар, н в целом они правы и даже мы здесь обсуждали это.
Ведь вот про это мы дискутировали довольно горячо:
Ответа-то так и нет от разработчиков ИИ. Грубо говоря, лечащий ИИ будет всем прописывать то, что массово вкидывается в рекламе. И противодействия этому нет. И ИИ действительно будет всех убеждать, что некий народ выкопал Чёрное море.
У автора шикраное определение - "правдоподобный бред":
"Нет никаких серьезных доказательств в пользу интеллектуальности ИИ (pardon за тавтологию). Сначала появились автоматические словари, потом системы проверки грамматики, переводчики. Продолжаем этот вектор дальше — и вот мы здесь, на этаже с генерацией… правдоподобного бреда, если называть вещи своими именами".
Все будет хорошо. И очень скоро.
Лично меня больше беспокоят другие вещи -- например, почему на Луне все кратеры и большие и маленькие имеют примерно одну и ту же глубину?
Спросите плз кто-либо у GPT3.
Те, кто на острие ИИ и сами его развивают, видят много дальше. И какой могучий потенциал ИИ они просматривают впереди, что они обалдели сами и решили, сейчас лучше немного успокоить публику, подохладить ее, типа не гони лошадей под искусственный разум.
Перспектива - создание и предложение централизованного сетевого ИИ планетарного масштаба, с гибкими настройками (адаптацией) под самые разнообразные предметные области и с очень небольшой начальной арендной платой за сервис для государственных, коммерческих, общественных структур различных стран, а также для персонального применения. Чтобы накрепко подсели и не дергались формировать свой, местечковый ИИ. По оправдавшему себя принципу компьютер - это сеть, начнут говорить об ИИ - что это сеть, и действать соответственно, вольно или не вольно, стирая всякие барьеры и границы, втыкаясь в сетевую розетку или получая сервис ИИ непосредственно от спутников от того же Маска.
А насчет опасности - наверное она, в том числе и в том, что человек, массовый потребитель услуг ИИ, приученный годами к соске искусственных мозгов (как сейчас школьники к телефону), начнет быстро деградировать и терять квалификацию настолько, что будет неспособен поддерживать (тем более - развивать) все более уходящие в отрыв высокие технологии, да и примитивные производства тоже. А небольшая доля яйцеголовых экспертов и гуру ИИ будет размазана по континентам, и в попытке заместить собой традиционный мировой общественный интеллект, окажется не способной управить делами в кризисных ситуациях, которые так или иначе, неизбежны. И тогда мало никому не покажется от возникшего всемирного хаоса...
И тут нужно учесть, что семимильными шагами идет развитие квантовых процессоров, работающих на кубитной логике.
Именно симбиоз ИИ и квантовых комьютеров приведут к взрывному росту этих индустрий.
Уже можно насчитать с пару десятков производителей квантовых процессоров.
В Ноябре 2022 IBM представила квантовый процессор IBM Osprey, содержащий 433 qb (кубита).
Их главными конкурентами на этом поле выступают: Xanadu (216 qb), Atom Computing (100 qb), Rigetti (80 qb), Quantware (80 qb), USTC (76 qb), Google (72 qb), Intel (49 qb).
И особнячком стоит D-Wave, которая специализируется на квантовых компьютерах, работающих на принципе квантовой релаксации (квантового отжига / quantum annealing) -- D-Wave (5760 qb).
И еще особнячком QuEra, которая специалзируется на аналоговых квантовых процессорах -- QuEra (256 qb).
Какие задачи решают? Например, задачи дискретной оптимизации.
Есть ли спрос? Да, cреди заказчиков D-Wave, например – Lockheed Martin.
Эвано, куда вас несëт. Всë об мировом господстве грезишь..
В арсенале человека всегда останется старый добрый динамит, спички и шнур. Ваш источник не сможет это предугадать. И, этому вашему Рогу, рога-то пообломают.
Хэ))) на новоязе это по другому называется. Хотя, какой пророк?... Всего лишь рядовой воспитанный адепт секты"иллюзия всеобщего благоденствия".
Хм... Ой, ли? Для начала, целесообразнее стоит озадачиться размышлением на, тему: А, кто надул этот ветер? И, почему он именно ветер перемен? Каких перемен? Кто заранее дал вам эти паруса?
Так, посвятите этому жизнь.! Это ведь так важно!
Хм, так каждому же очевидно, что рано ещë. Явно не ваша тема. Вы уж лучше озадачтесь тем, к чему вас призывают, более глобальными масштабными вещами. Сосчитайте песчинки в каждой пустыне и, всё капли в мировом океане. И, будет вам щастье. И, уверен, что всё кратеры на Луне не одной глубины. Вам крайне необходимо тута слетать с рулеткой и каждый из них точно замерить. Этому действительно стоит посвятить жизнь.
Вы просто не в курсе.
Размер (диаметр и глубина) кратера ключевым образом зависит от массы мететорита. Форма зависит от угла столкновения, да -- но это существесущественно лишь при углах падения <8 градусов.
Так вот, при том, что диаметры варьируются от 1 до 500 км -- их глубина плюс/минус одинаковая, и четкой корреляции с диаметром нет.
Это тем более странно, что на Луне нет сейсмической активности, эрозии, и прочих нивелирующих со временем факторов.
Этот феномен до сих пор необъясним.
Оно мне, как в моей земной жизни поможет/помешает?
И, не будет. Как и природа всех механизмов природе. Возьмите любой закон природы и попытайтесь описать его суть. Ни кому не удалось. Да, и не удасться. А, зачем? Надо всего лишь знать его и следовать. Тогда и гармония будет. Многое сокрыто от человека. И, стоит ли шастать по Луне, буравить еë вдоль и поперëк, когда многое нужно благоустроить под боком на земле? Космический корабль построй, космонавтов одень обунь, научи. Сколько трудов и денег. Связь, метео, спутники, понимаю. Полезно. А, разгадка примерно одинаковой глубины кратеров на Луне, не интересует. Да, загадочно. Но, для чего? И, на этом всë. Вот, опоссум. Он двуутробка, а остальные животные нет. Почему не все двуутробки, а только один опоссум? Цикады, их образ жизни. Да, и многое другое. На земле столько загадок. А, мы про космос близкий и тем более далëкий.