Весь технический прогресс последних лет, если не десятилетий, заключается в последовательном выстраивании Матрицы. Виртуальная реальность пока не совершенна, дополненная тем более. Иммерсионные миры скорее игрушки. Правда, полезные. Причем не только для развлечений, но и для обучения, в медицине, строительстве – много где.
Но важнее другое. Уже сегодня практически ничем нельзя заниматься без IT. От романтических знакомств до ведения бухгалтерии – абсолютно любые вопросы решаются с помощью компьютеров и программ.
Мы просыпаемся под будильник в смартфоне, читаем в нем же новости, общаемся, работаем, развлекаемся, ищем врачей, шопимся, смотрим кино, слушаем музыку, покупаем билеты, заказываем пиццу или кто чего любит — все сферы жизни помещаются в устройство размером с мышеловку.
Поэтому создается ощущение, что намечена прямая дорога к полной и безоговорочной компьютеризации. Нужно просто продвинуться по этому вектору еще дальше, после чего все окажется оцифрованным. Более того, благодаря искусственному интеллекту процесс заметно ускоряется.
Пора готовиться к погружению в Матрицу?
Не верь глазам своим
Иронично, что ахиллесовой пятой средств связи нового поколения может стать как раз техническое совершенство.
Еще год назад было опубликовано видео, в котором Морган Фримен утверждал, что это не он:
И действительно, в конце мелькает раскадровка с другим человеком под маской знаменитого актера. Никакого грима, только хорошо обученная нейросеть.
Заметьте, речь не только о внешности. Также мимика, микрожесты, тембр голоса, интонации. Все то, из чего складывается впечатление о личности. Во всяком случае онлайн, без тонкой «химии». Хотя можно предположить, что запахи подделать не сложнее.
Любого можно не просто скопировать, но и изменить. Например, омолодить Харрисона Форда. Опять же, без миллионных бюджетов и долгих лет ожидания, пока голливудские кудесники нарисуют киношное чудо. Буквально на лету, пугающе дешево и при этом очень убедительно:
Нетрудно догадаться, как можно использовать такие сервисы. Прежде всего, шутливые фильтры для видео разовьются в серьезную онлайн-косметологию. Миллионы людей смеялись до истерики, примеряя на себя калейдоскоп из анимированных масок. Надо полагать, ничуть не меньше будет популярность у более полезных фильтров:
- Убрать мешки под глазами
- Стереть морщины
- Заменить настоящую косметику нарисованной
- Причесаться, да и просто «помыть голову» за экраном
- «Вылечить» прыщи и бородавки
- Добавить легкий загар, вообще поменять цвет кожи
- Как насчет татуировки? Пирсинг? Любой каприз без боли и последствий
- Добавить дорогие на вид украшения
- Одежду самых модных брендов
- Может, нос чуть уменьшить…
- А глаза наоборот увеличить. И сделать голубыми!
Будет сложно остановиться. Фотофильтры нравятся такому количеству людей, что их встраивают в фотокамеры и телефоны по умолчанию. Ладно там эффект красных глаз, что искажало реальный вид человека, теперь уже редко встречаются изображения с хорошо прорисованными порами на коже. Все автоматически сглаживается, подсвечивается, выравнивается.
Представьте, насколько мощнее реальность отредактируют видео-фильтры на ИИ. Все станут красивее. Элегантнее. Сексуальнее. Кто же откажется выглядеть на 146%! Правда, у этого кривого зеркала есть еще одна сторона.
Дипфейки
Моргану Фримену, Тому Крузу, Гаррисону Форду и другим звездам повезло, что дипфейки с ними сразу стали общеизвестными. А главное, это нарочито безобидные розыгрыши, по сути в рамках действующих брендбуков селебрити.
Куда менее приятно столкнуться с точной копией себя на порочащей записи. Что технически делается в точности так же — легко, быстро, дешево. То есть общедоступно.
В свое время редактирование фотографий с точностью до пиксела заставило мир пересмотреть отношение к картинкам в качестве доказательств. Сейчас звук и видео подделываются так же элементарно. В ближайшей перспективе можно ожидать полного разочарования в видео как средстве идентификации.
С такой точки зрения иначе воспринимаются инновации «оплата улыбкой, взглядом, движением ресниц». Все это скоро можно будет генерировать при помощи одной из многих онлайн-утилит, на выбор. Сфоткал жертву издалека или скачал фотку из соцсети, ИИ увеличит и дополнит изображение, потом будет поворачивать его под любым углом. Можно заставить пользователей вращать глазами, показывать язык, корчить рожи и говорить или прыгать на одной ножке. Все это запросто симулируется.
Однако полная катастрофа с собеседниками онлайн. Фишинговые письма легко подменяют адрес отправителя. Давно нет смысла обращать внимание на номер телефона, с которого прислали сообщение. Все входящие могут быть от мошенников. До сих пор оставался один надежный способ проверить, что говоришь с правильным человеком — видеосозвон.
Теперь эта верификация растает, как и все прочие. Никаких шансов распознать подлог, даже при случайных розыгрышах. И особенно в случае продуманных, спланированных подстав.
Простые следствия:
- Ни один руководитель не сможет быть уверенным в том, что говорит со своими сотрудниками. Про удаленные совещания по чувствительным темам можно забыть.
- Авторизация клиентов банков, других фискальных учреждений и сервисов, связанных с повышенной ответственностью — только лично. Тем более что скан паспорта в руках рисуется так же просто, как и человек, который якобы его держит перед камерой.
- Чарующие аватарки и профессионально отредактированные фотографии 10-летней давности в сервисах знакомств дополнятся не менее качественными видео для онлайн-бесед.
И так во всем. Звонки от родных и друзей, рабочие вопросы, кредиты и коллекторы, госорганы, любые ведомства — все без исключения столкнутся с невозможностью определить, кто сейчас находится на связи.
Точнее, сервисы для проверки уже есть и несомненно их расплодится великое множество. Вплоть до тех, кто заигрался с ИИ генерацией и выходит сам на себя при расследовании отредактированного контента.
Но это не поможет. Потому что по важным вопросам и чувствительным темам не захочется общаться с ненулевой вероятностью попасть на пранкера, бандита или сотрудника какой-нибудь неприятной организации. А никакая проверка изображений и видео гарантии дать не сможет. Антидот видео больше не работает. Теперь и особенно дальше любой созвон может оказаться фейком.
Ничего личного
Возможно, онлайн-торговле все это не так важно. Клиентов и так идентифицируют по случайным адресам, которые важны разве что для доставки. Платежи верифицируются отдельно, там никакие фото и видео не требуются. А кто и как себя видит — его личное дело, чисто для профиля.
В точности как и в компьютерных играх, где давно принято отрисовывать своего персонажа. Только лучше станет, и никаких проблем.
Соцсети, онлайн-шоу и кинотеатры, вся индустрия медийных развлечений тоже убытков не потерпит. Наоборот, их ожидает логичный расцвет. Причем сразу по нескольким направлениям. Прежде всего, более достоверная картинка. Потом можно добавлять кастомизацию, интерактивность. Вероятно, появятся фильмы с разными концовками — хоть бы и для зрителей в одном зале. Впрочем, ходить куда-то скоро станет незачем. Персональный кинотеатр уже давно не событие, им осталось стать массовыми. Разработки в сфере огромных и дешевых экранов решат этот вопрос.
Для всего Интернета как такового очередной виток графики и звука станет шагом вперед, как и обещают разработчики ИИ.
Однако в связи с ростом качества и снижением себестоимости видеоконтента возникнет парадоксальная ситуация: персонализация онлайн станет настолько хорошей, что будет полностью утрачен личный контакт. Точнее, объективно это произойдет. Но кто сказал, что людей интересует правда? Поэтому следствий наверное будет несколько:
- Да, развитие ИИ приведет к рискам массовых подделок.
- Нет, частных пользователей это не смутит.
- А вот корпоративных еще как насторожит, до крайности.
Можно ожидать, что обычные люди после краткой волны паники вернутся в свои онлайн-стойла и как ни в чем не бывало продолжат жить, знакомиться, общаться. Будет как сейчас, только на максималках. Ну да, красотка из сети может оказаться скучающим мужиком с волосатым брюхом. От имени родителей или детей могут позвонить хакеры. Ну и что, всегда так было — просто теперь «с банановым», то есть с видео.
Бизнес не сможет себе позволить такого благодушия. Общение с сотрудниками, поставщиками и партнерами, клиентами, любыми контрагентами придется окончательно отвязать от светлых образов людей. И сосредоточиться на ЭЦП или других средствах электронной идентификации. По сути, это приведет к тому, что человек станет вторичным. Обращаться будут к конкретному телефону или компьютеру, за которым «записан» пользователь. А не наоборот, как было раньше.
Как по другому поводу и немного иначе сказал Нил Армстронг на луне: маленький шаг для человечества, большой скачок в сторону сингулярности.
Развитие технологий для людей понижает нашу значимость и способность лично управлять якобы собственными сервисами. Потому что они не наши. Это кукольный театр будущего, в котором терминатор носит безупречную антропоморфную маску и легко может выдать себя за человека. А мы за компьютер сойти не можем!
Добро пожаловать обратно в офлайн. Мир высоких технологий достанется им самим. Кстати, уже появилась первая социальная сеть с приветствием «No humans allowed» («Людям вход воспрещен»). Создание аккаунтов пока доверяют кожаным мешкам, но пользоваться ими могут исключительно нейросети.
Может оно и к лучшему. До встречи в парке! Приходите без гаджетов.
Читайте также:
Это точно!
Не то что мы недооцениваем мессенджеры, но часто просто очень злят массовые рассылки всякой ернуды о том или ином событии. )))
А часто и ерунда, а явное психологическое воздействие. Как Вы думаете, это тоже часть "свободы слова"?
А вообще исследователи обеспокоены.
https://venturebeat.com/ai/the-ai-feedback-loop-researchers-warn-of-model-collapse-as-ai-trains-on-ai-generated-content
Группа исследователей пришла к выводу, что "обучение на данных, полученных другими моделями, вызывает коллапс моделей - дегенеративный процесс, при котором со временем модели забывают истинное базовое распределение данных ... этот процесс неизбежен даже в идеальных случаях для долговременного обучения".
"Со временем ошибки в сгенерированных данных соединяются и, в конечном счете, заставляют модели, которые учатся у сгенерированных данных, еще больше неправильно воспринимать реальность", - написал один из ведущих авторов статьи Илья Шумаилов в электронном письме VentureBeat. "Мы были удивлены, увидев, как быстро происходит коллапс модели: модели могут быстро забыть большинство исходных данных, из которых они изначально узнали".
Иными словами: поскольку модель обучения ИИ подвергается большему количеству данных, генерируемых ИИ, со временем она работает хуже, вызывая больше ошибок в реакциях и контенте, который она генерирует, и производя гораздо меньше неошибочного разнообразия в своих ответах.
Другой из авторов статьи, Росс Андерсон, профессор кибербезопасности в Кембриджском и Эдинбургском университетах, написал в блоге, обсуждая статью: «Так же, как мы разбросали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить Интернет бла-бла-бла. Это затруднит обучение новых моделей, очищая сеть, предоставляя преимущество фирмам, которые уже сделали это или которые контролируют доступ к человеческим интерфейсам в масштабе. Действительно, мы уже видим, как AI-стартапы забивают интернет-архив для получения учебных данных".
Тед Чан, известный автор научной фантастики «История вашей жизни», повести, которая вдохновила фильм «Прибытие», и писатель Microsoft, недавно опубликовал статью в The New Yorker, постулирующую, что копии ИИ-копий приведут к ухудшению качества, сравнив проблему с увеличенными артефактами, видимыми при повторной копии изображения.
Источник Insider info
Есть опыт других стран – приняты законы, все рассылки только с согласия клиента Штрафы большие. Свобода слова всегда определяется законом и правилами) Читала когда-то, Twitter был создан для того, чтобы пользователи могли высказывать разные мнения, выпускать пары, так сказать. Такие компании не регулируются государством. Но компании сами начинают устаавливать свои правила, причем правила зависят от ценностей, взглядов и убеждений владельцев. Впрочем как и во всех остальных компаниях
Что -то я ваших попыток помочь мне с книгой я не заметила, может быть вы хотели помочь, а потом решили что помогли советом печататься бесплатно на платформе Ридеро. А я не хочу бесплатно, я хочу передать свои романы с эксклюзивными правами на их использование за единоременный гонорар. , Такая возможность есть в законе об авторских правах, в том случае если автор не хочет работать в кредит, то есть за проценты от продаж. Издательствам конечно это выгодно - получить бесплатно рукопись и печатать левые тиражи, а автор пусть ждет свои проценты - сказать ему. что книгу не покупают. Знаем. плавали!!
Но даже за намерение помочь - огромное вам благодарность.
Насчет того что я выступала в роли оппонента, вы преувеличиваете, я просто высказала свое мнение, которое не совпадает с вашим. Но вы то зачем ввязались со мной в дискуссию? Зачем вам общаться с человеком, который ничего не смыслит в програмном обеспечении ИИ, не интересуется спообыми машинного обучения, а пишет детективные романы. Вы ответили и я из вежливости отетила, поддержали автора темы своими комментариями, и немного развлеклись на такой интересной теме. Разбавила своим делитанским пониманием ИИ серьезные комментарии умных, ориентированных в теме профессионалов. Тоже надо немного раскачать лодку, читателям не интереснытолько одни серьезные высказывания. Похоже на ликбез.
И вам всего хорошего!
Ну извините, если вы не считаете добпый и искренний совет помощью. Хорошо хоть помните. Да, есть люди, кторые только денежную помощь считают помощью.
Я на Ридеро издал несколько книг, очень и очень доволен. Нет ни попыток надавить со стороны редакторов, ни каких-то соблюдения псевдо-авторских прав. Раскупается быстро, но нужна и своя личная инициатива.
Напраасно вы так, я ваш совет хорошо помню, но мой личный опыт издания книги очень сильно отличается от вашего, Потому и доминанта такая у меня развилась - опережающее недоверие ко всем издателям. Насчет денег - я денежной помощи у вас не просила, и на "проявлени личной инициативы", у меня нет ни времени,ни желания, ни средств. А от денег за свой творческий труд я бы не отказалась - Деньги возьму с большим удовольствием!
Спасибо, Ирина! Всё в точку! Вы нашли прекрасные ссылки! Ранее не читал, но это подтверждает и мои опасения!
Очень важное уточнение про "коллапс модели".
Но вот что я хотел бы ещё сказать. Отрадно, что западные учёные обращают на это внимания, у нас пока только восторженные крики слышны: "Ах, как просто будет писать статейки! Ах, даже людей будет лечить ИИ".
Остается тут сказать: все назад! В "ленинку"!
Это есть, да. К сожалению наша судебна система очень неповоротлива. Верховный суд проводит анализ судебных решений, но, увы, это анализ отстаёт от судебной практики, он не влияет на законотворческие инициативы. ВС не выносит предложения для законодателей. Так и топчемся на законах СССР. Хорошо хоть суды, как правило, принимают электронную переписку, но в реале вы не найдёте ни одного нотариуса, который бы её заверил. В одном из судов я показал судье электронный адрес сервера ответчика, показал электронное письмо с такого же сервера. Судья спросила ответчика: "Это ваш адрес?". Ответчику ничего не сотавалось, как призать это.
Это так.
Советую во всех случаях вести "досье" на ваших партнёров - несколько доказательств использования их сервера, несколько скринов с их официальных сайтов. Если есть возможность, то взять свидетельства разработчика сайта.