Платформы воюют с AI-спамом, который сами же и породили

Snapchat перестал рекомендовать полностью сгенерированные ИИ видео в ленте Spotlight. За последние две недели аналогичные меры объявили YouTube, LinkedIn и Substack. Платформы, которые сами встроили генеративные инструменты в свои продукты, теперь борются с их прямым следствием — «AI slop», низкокачественным контентом, который заполоняет ленты.

Snap не запрещает AI-контент полностью. Платформа предлагает собственные инструменты для редактирования, поэтому контент, который был «улучшен или отредактирован» с помощью ИИ, по-прежнему будет попадать в рекомендации. Разделительная линия — между «полностью сгенерированным» и «человеческим с применением AI» — звучит логично, но на практике её почти невозможно провести последовательно.

LinkedIn пошёл дальше и убрал собственный промпт, который предлагал пользователям «улучшить» пост через AI. Вместо него вернули простой инструмент проверки орфографии. Параллельно платформа добавила кнопку для жалобы на AI-сгенерированные посты и комментарии. По словам продукт-директора Hari Srinivasan, LinkedIn заблокировал «миллиарды» попыток разместить автоматические комментарии и ежедневно ловит сотни тысяч новых.

YouTube обновил правила монетизации: шаблонный, повторяющийся и генерируемый по одному паттерну контент лишается права на доход. Ранее исследование обнаружило десятки каналов, полностью состоящих из AI-контента, — у некоторых были миллионы подписчиков и доход в миллионы долларов.

Цифры подтверждают масштаб. По данным исследования, которое цитирует CEO Substack Chris Best, до 40% текстов в социальных сетях уже сгенерированы или написаны с подменой реальности. Другой опрос показывает: чем больше фейкового контента видят пользователи, тем меньше они доверяют любому контенту в ленте — включая настоящий.

Парадокс очевиден. Платформы встроили генеративные инструменты, чтобы упростить создание контента и поднять engagement. Получили ровно то, что должно было получиться: поток низкокачественных генераций. Теперь они вводят фильтры, детекторы и кнопки жалоб — но проводят границу так, чтобы собственные AI-инструменты остались по «правильную» сторону. Вопрос, который никто пока не решает всерьёз: что делать с контентом, где AI использовался на 70%? На 30%? Ответа нет, и именно эта серая зона будет главной ареной борьбы.

Источник: Hacker News - Newest: ""AI" "LLM""