В начале года видео стало вирусным на Platform X, бывшем Twitter. 

В нем был показан казахстанский ведущий новостей в телевизионной студии, зачитывающий последние новости. 

Аккаунт, опубликовавший видео, написал:

«Казахский язык звучит как попытка запустить дизельный двигатель зимой».

Видео было просмотрено более 30 миллионов раз и получило 24 000 лайков.

Пользователи X оставили более 800 комментариев, включая такие замечания, как «Боже мой!» и «Звучит так странно!».

 Необычность в этом: в видео вообще не было звука. 

Никто из комментаторов даже не слышал речи модератора.

we've gone right past dead internet to rotting internet found washed up on shore pic.twitter.com/LR0YD9SSyz

— Rimmy (@Rimmy_Downunder) January 9, 2024

Тем временем пост исчез с платформы, но только после того, как X пользователей указали в «Заметках сообщества», что видео было без звука. 

Тем не менее, скриншот поста продолжал распространяться.

 Для многих это доказательство теории, которая в последние месяцы находит все больше последователей среди пользователей социальных сетей: «теории мертвого интернета».

Люди в интернете как иллюзия?

Теория заключается в том, что большая часть Интернета больше не состоит из межличностного взаимодействия, а состоит из ботов и контента, созданного искусственным интеллектом. 

Любой, кто смотрит на посты на таких платформах, как Facebook или X, думает, что они исходят от реальных людей. 

Но это иллюзия.

 На самом деле, каждый дрейфует сам по себе в море искусственно созданного мусора.

Корни «теории мертвого интернета» уходят в конец 2010-х годов, когда на форуме «4Chan» были распространены утверждения о том, что интернетом управляют боты. 

В то время это все еще отвергалось как теория заговора, как немыслимая вещь.

Успех программ искусственного интеллекта, таких как Chat-GPT и Midjourney, которые могут создавать текст, изображения и даже видео практически с нуля за очень короткое время, изменил ситуацию. 

Внезапно в социальных сетях появляется все больше контента, сгенерированного искусственным интеллектом, накапливаются сотни комментариев под постами, которые имеют почти одинаковое название и выглядят так, как будто их написал искусственный интеллект.

 И все больше и больше пользователей задаются вопросом: действительно ли Интернет сейчас умирает?

 Будут ли люди вытеснены ботами?

ИИ облегчает жизнь спамерам

Фейковые аккаунты, кликбейты и анонимные аккаунты в социальных сетях существуют уже давно. 

Но генеративный ИИ дает возможность практически идеально имитировать среднестатистического пользователя интернета и при этом автоматически раскручивать спам-контент в интернете. 

Боты пишут обзоры товаров, публикуют праздничные фото и делятся видео в разделе X-Posts без контекста. 

И чем усерднее они работают, тем сложнее найти контент, который вы действительно ищете.

В декабре калифорнийская компания по кибербезопасности Arkose Labs опубликовала отчет, согласно которому на ботов приходится почти три четверти мирового интернет-трафика. Другие исследования предполагают половину. 

Боты работают с фейковыми аккаунтами, собирают данные и рассылают спам-сообщения.

 По данным Arkose Labs, особенно страдают такие сферы, как онлайн-розничная торговля, при этом компания оценивает долю ботов в социальных сетях в 46 процентов.

Эта проблема особенно заметна на X.

 Когда Илон Маск купил платформу в октябре 2022 года, он объявил, что резко сократит количество ботов.

 Но в апреле этого года он признался, что затея оказалась сложнее, чем ожидалось.

 Современные программы искусственного интеллекта могут легко пройти обычные тесты, используемые для разоблачения учетных записей ботов. 

Поэтому в Новой Зеландии и на Филиппинах Маск в настоящее время тестирует модель оплаты. 

Только от взноса в один евро в год пользователи должны иметь возможность что-то публиковать или делиться.

Спам-контент приносит прибыль

Удастся ли это чего-то добиться – под вопросом. 

Спамеры могут использовать украденные кредитные карты, отмечают IT-специалисты. 

Потому что математика того стоит: система монетизации, введенная Маском, сделала выгодным купить синюю галочку для проверки и прикрепить ее к большой языковой модели, которая затем начинает дико публиковать. 

Это связано с тем, что X платит верифицированным пользователям часть дохода от рекламы, полученной от их публикаций.

И дело не всегда в деньгах. 

Исследователи из Университета Квинсленда обнаружили обширную сеть ботов, проанализировав в прошлом году миллион твитов, которые распространяли ложные утверждения о выборах в США в 2020 году. 

Исследование онлайн-журнала Wired показало, как до 10 000 ботов распространяли фейковые цитаты знаменитостей, в которых они поддерживали войну России против Украины. 

А ранее в этом году Министерство иностранных дел Германии раскрыло российскую кампанию по дезинформации, в которой участвовало более 50 000 немецкоязычных учетных записей пользователей X.

«Креветочный Иисус» наводняет Facebook

И X — не единственная платформа, которая рискует быть захваченной ботами. 

В марте исследователи из Стэнфордского и Джорджтаунского университетов проанализировали, как фотографии, созданные искусственным интеллектом, распространяются миллионы раз на Facebook, потому что они используют алгоритмы платформы, и многие пользователи считают, что это настоящие фотографии.

Работает это следующим образом: боты захватывают ранее реальные профили или страницы, часто путем взлома, и используют изображения, созданные искусственным интеллектом, для привлечения внимания и взаимодействия (например, лайки и комментарии). 

Это приводит к тому, что контент видит еще больше людей.

 На картинах часто изображены голодающие или тяжелобольные дети, религиозные мотивы или солдаты. 

К ним относятся ссылки, ведущие на веб-сайты, которые собирают «пожертвования» или получают доход от рекламы с помощью контента, созданного искусственным интеллектом.

Иногда это приводит к странным явлениям, таким как «Иисус с креветками»: в марте этого года некоторые операторы этих спам-сайтов провели серию автоматических тестов, чтобы выяснить, какие посты распространяются лучше всего. 

В результате Facebook был наводнен изображениями, показывающими дикие комбинации крабов, Иисуса и стюардесс. 

Например, картина, на которой рядом с Сыном Божьим была изображена стюардесса в куртке и колючком венке из креветок, набрала более 20 000 лайков. 

Другая, на которой Иисус был изображен в виде гигантского краба, даже получила почти 200 000 долларов.

Почему именно сочетание христианства и ракообразных распространилось особенно успешно, остается тайной алгоритма Facebook. 

Но контент с искусственным интеллектом угрожает выйти из-под контроля не только в Facebook и X, но и там, где для многих находится входная дверь в Интернет: поисковые запросы Google.

Алгоритм Google ранжирует веб-сайты в первую очередь на основе того, как они построены, а не на основе критериев качества контента или полезности. 

Это дает преимущества искусственному интеллекту

. Он может очень эффективно программировать веб-сайты в соответствии с определенными критериями и генерировать тексты, которые затем выводятся в Google. 

Сам Илон Маск в апреле поделился постом на X, в котором раскритиковал накопление контента, созданного искусственным интеллектом, в поисковых запросах Google. Последнее предложение поста: «Паутина умерла».

Платформы не мертвы, но они вырождаются

Большинство экспертов пока не заходят так далеко.

 Но теоретик технологий Кори Доктороу придумал слово «enshittfication», которое Американское диалектологическое общество выбрало в качестве одного из слов 2023 года. 

На немецкий язык его можно примерно перевести как «Beschissenmachung».

 По словам Доктороу, цифровые компании удерживают своих клиентов с помощью хорошего продукта, а затем максимизируют их добавленную стоимость за счет качества. 

Все больше автоматизируется, а средства на борьбу со спамом экономятся. 

Платформы вырождаются.

И все же пользователи остаются к ним лояльными, потому что они по-прежнему предлагают им то, что вряд ли можно заменить: невообразимую сеть и возможность обмениваться идеями с людьми со всего мира — если они не боты. Вопрос в том, смогут ли устоявшиеся платформы что-то сделать с потоком ИИ. Или, возможно, в какой-то момент на сцене появятся новые, у которых это получится лучше.

Один из способов, который эксперты считают реалистичным, заключается в том, что в будущем платформы станут меньше и к ним будет сложнее получить доступ, например, через модель подписки. 

Интернет тогда будет состоять из множества маленьких, безопасных островков в огромном море мусора. 

Другой сценарий заключается в том, что искусственный интеллект сам решит проблему: преуспев в разработке надежной модели, которая одновременно сможет отфильтровать контент ботов и показать людям контент, который им интересен. 

Тогда ИИ спас бы интернет от самого себя.

Last Updated on 19.08.2024 by iskova