Читая ответ ИИ или снова и снова просматривая аналогичный контент в потоке, мы часто видим результат; не та система, которая его выбрала. Однако чат-боты и алгоритмы социальных сетей не работают в вакууме. Данные, проектные решения, правила безопасности и критерии успеха платформ вместе определяют, с чем мы столкнемся.
Я не читаю это как «алгоритмы контролируют все». Я говорю о более повседневном и, на мой взгляд, более важном эффекте: поскольку системы делают некоторые слова, идеи и продукты более заметными, мы видим, используем и производим их чаще. Затем такое поведение становится исходным материалом для новых предложений. Таким образом, между технологиями и поведением человека может образоваться петля обратной связи.
Существует ли такая вещь, как нейтральный инструмент?
Инструмент сам по себе не имеет хороших или плохих намерений. Но люди и учреждения решают, что измерять, на каких данных тренироваться, какой контент выделить и какой ответ считать безопасным или полезным. Эти решения влияют на то, как работает продукт.
Если в потоке социальной сети важны время просмотра и взаимодействие, система учится ранжировать контент в соответствии с этими сигналами. С другой стороны, на чат-бота влияют шаблоны обучающих данных, отзывы людей и правила продукта. Это не означает, что каждая реакция намеренно манипулируется. Но это напоминание о том, что то, что мы видим, не является равным и полным изложением всех мнений мира.
OpenAI объясняет, что разработка базовых моделей опирается на такие ресурсы, как открытые интернет-ресурсы, информацию, полученную от третьих сторон, а также контент, предоставляемый пользователями, преподавателями или исследователями. Реакция такой системы определяется объемом и выбором данных, а также тем, как обучается модель и правилами представления продукта.
Как происходит петля обратной связи?
Мы можем представить цикл в четыре этапа:
- Система выбирает: Часть контента или ответа выделяется конкретному пользователю.
- Пользователь реагирует: Смотрит, ставит лайки, делится, задает похожий вопрос или пробует предложить.
- Производитель адаптирует: Создатели контента, бренды и даже пользователи повторяют то, что, по их мнению, работает.
- Новое поведение становится данными: Система использует полученные взаимодействия как сигналы для новых предложений.
Этот процесс не всегда движется в одном и том же направлении; пользователи могут отклонять предложения, открывать для себя новые интересы, а платформы могут изменять свой дизайн, чтобы добавить разнообразия. Однако по мере повторения сигнала его заметность может увеличиться. Видимость также может со временем создать ощущение, что «все об этом говорят».
Даже одно слово может показать это изменение
Одним из часто приводимых примеров влияния искусственного интеллекта на язык является слово «покопаться» в английском языке. Исследователи изучили рост использования этого слова и некоторых подобных выражений в резюме биомедицинских статей после того, как ChatGPT получил широкое распространение. Этот вывод указывает на сдвиг в академических рефератах; Одно это не доказывает, что люди чаще используют одни и те же слова в повседневной речи.
Отдельное исследование, посвященное тому, почему это слово выделялось в результатах модели, не обнаружило доказательств того, что данные обучения напрямую объясняют это. Человеческая обратная связь рассматривалась как один из возможных факторов, но авторы не представили свои выводы как окончательную причинно-следственную связь. Таким образом, четкое заявление типа «работники данных в конкретной стране научили модель этому слову» выходит за рамки имеющихся доказательств.
Тем не менее, пример заслуживает внимания. Если модель часто создает определенный стиль, пользователи могут имитировать этот стиль, даже не осознавая этого; Эта закономерность может стать более заметной в онлайн-контенте по мере увеличения количества текстов. Что здесь несомненно, так это то, что объяснение причины этого изменения требует тщательного исследования, а также изменения слов.
Тенденции реальны или алгоритмичны?
Тот факт, что такие продукты, как лабубу, матча или шоколад Дубая, за короткое время появляются во многих потоках, заставляет задуматься о взаимосвязи культурных тенденций и алгоритмов. Одних только этих примеров недостаточно, чтобы сказать: «Алгоритм создал спрос». Внимание людей, публикации знаменитостей и создателей контента, усилия розничной торговли и рекламы, визуальный язык продукта и системы рекомендаций — все это может сыграть свою роль одновременно.
Здесь я обращаю внимание не на то, является ли тренд фальшивым или нет. Насколько быстро система увеличивает существующий интерес и какой тип контента возвращается производителям в качестве вознаграждения. Когда форматы, которые заставляют контент пересматриваться, комментировать или поощрять покупки, становятся более заметными, производители могут начать экспериментировать с подобными форматами. После определенного момента тренд становится совместным продуктом интересов пользователей и решений о видимости на платформе.
В собственном заявлении TikTok говорится, что поведение пользователей, такое как просмотр и взаимодействие, влияет на рекомендации «Для вас». Независимое исследование академического аудита, опубликованное в 2026 году, также показало, что тестовым аккаунтам, которые взаимодействовали с определенными интересами, с течением времени рекомендовалось больше подходящих видео. В исследовании это увеличение было связано с уменьшением разнообразия меток. Это обзор с контролируемыми учетными записями ботов и ограниченными тематическими группами; Он не учитывает поток всех пользователей или каждого вирусного продукта. Тем не менее, он представляет собой конкретный пример того, как предложения могут взаимно формироваться поведением.
Дело не только в том, что мы видим
Повторение в потоке может повлиять на нашу интуицию относительно того, что является популярным или общепринятым мнением. Чат-боты также могут влиять на то, как мы формулируем вопросы, какие источники мы считаем адекватными и как мы говорим о теме. Это не автоматические и неизбежные последствия; Эффекты варьируются в зависимости от человека, платформы, предмета и метода использования.
Для меня риск не в том, что отдельные люди внезапно изменятся. Сужение информационной среды, влияющей на решения каждого из нас. Если мы видим только одни и те же типы предложений, повторяем похожие темы и считаем ответ заслуживающим доверия просто потому, что он плавный, мы можем не заметить его, даже если наши возможности ограничены.
Еще один вопрос, который необходимо отслеживать, заключается в том, попадают ли результаты искусственного интеллекта повторно в Интернет и попадают ли данные обучения последующих систем. Исследование коллапса моделей, опубликованное в журнале Nature, показало, что некоторые распределения могут искажаться, если результаты генеративных моделей повторно используются в качестве обучающих данных. Этот технический результат не является тем же механизмом, что и рост тренда продукта в социальных сетях; но это дает повод серьезно отнестись к долгосрочным последствиям смешивания искусственного и искусственного контента.
Какие вопросы я задаю себе?
When I keep coming across a piece of content or when I notice that I'm starting to repeat an idea as if it were my own language, I ask three short questions instead of immediately making a judgment as to whether it's right or wrong:
- Почему я это вижу? Это учетные записи, на которые я подписан, мое предыдущее взаимодействие, текущее событие или спонсируемое распространение?
- Почему я говорю это? Возникла ли эта идея из моего опыта, или она кажется мне знакомой, потому что я видел ее снова и снова?
- Почему платформа вознаграждает этот контент? Is it because it provides information, because it starts a discussion, because it makes you watch for a long time or because it encourages you to buy?
Для создателя бренда или контента эти вопросы могут стать практическим контрольным списком. Instead of copying a style just because the algorithm likes it, linking every trend to the service, or publishing the first answer produced by artificial intelligence; Необходимо проверить источник, добавить реальный опыт и предоставить пользователю полезную информацию.
Понимать алгоритмы не значит бояться их
Системы рекомендаций упрощают поиск нового контента; Инструменты искусственного интеллекта также могут существенно сэкономить время в исследовательском и производственном процессе. Я считаю ценным использовать эти возможности. But we also need to ask what signals each tool operates on, what information it might leave out, and what business objectives influence the product experience.
Инструмент — это не нейтральное окно; Интерфейс, созданный с использованием определенных данных и определенных предпочтений. Как пользователи, мы должны задавать вопросы об этих предпочтениях, сравнивать разные источники и сохранять собственный опыт. Потому что то, как мы реагируем на эти сигналы, является такой же частью цикла, как и то, что нам покажут системы.
Ресурсы и заметки к прочтению
- OpenAI: Как разрабатываются ChatGPT и базовые модели?
- Юзек и Уорд: Исследование чрезмерного представления слов в «Delve» и больших языковых моделях — Исследует словосочетания в академических рефератах; не является свидетельством для случайного разговора.
- TikTok: Как работают рекомендации «Для тебя»?
- EPJ Data Science: аудиторское исследование 2026 года по алгоритмическому усилению контента в TikTok
- Природа: Эффекты переобучения моделей с использованием самостоятельно сгенерированных данных
С чего начать вашей компании?
Укажите сайт и вашу главную задачу. Вместе определим объём работы.
