AI сломал главный сигнал: текст больше не доказывает, что автор думал

Три тысячи лет текст работал как proof-of-thought: если человек пишет связно и убедительно, значит он разобрался в теме. Писать хорошо было трудно, и этот барьер отсеивал тех, кто не понял. LLM этот сигнал сломали — ловкость текста теперь ничего не доказывает, а бремя проверки полностью переложено на читателя. Статья Juliette Ryan на Substack разбирает это с той стороны, которую практики редко обсуждают: проблема не в плагиате, а в когнитивном долге. Писать хорошо было трудно. Чтобы выдать связный текст, нужно было сжать трёхмерную мысль в линейный поток слов, который другой человек сможет пройти. Этот процесс — не побочный эффект, а механизм, который вскрывает пробелы в собственном понимании. Когда вы просите Claude «дополировать» текст, вы убираете именно ту стадию, на которой обнаруживаете, что половину темы вы на самом деле не понимаете. Автор статьи приводит наблюдение: её знакомый год писал посты в Facebook через AI «только для полировки» и искренне считал мысли своими. Проверка Pangram показала 100% AI-генерацию. Человек не врал — он просто не отличал свои мысли от текста, который модель собрала из его набросков. Это и есть ядро проблемы. Беглость текста создаёт ложное чувство понимания — не только у читателя, но и у автора. Вы читаете гладкий абзац, у вас «загораются лампочки», и вы думаете: «Да, именно это я и хотел сказать». Но попробуйте пересказать это без текста перед глазами — и окажется, что связного каркаса в голове нет. Модель заполнила пробелы, которые вы не заметили, потому что они были скрыты за красивой формулировкой. Осознанность не работает как защита. Автор подчёркивает: знание о fluency bias не отключает его. Это подкогнитивный рефлекс — вы всё равно доверяете гладкому тексту больше, чем рваному. Чем больше AI-текста вы читаете, тем сильнее ваш внутренний калибровщик «как звучит правда» сдвигается в сторону модельного стиля. Самый опасный тип — не новичок и не эксперт. Новичок знает, сколько он не знает. Эксперт тоже знает. Опасен «компетентный середняк»: человек с доменным бременем, который никогда не доводил его до стадии синтеза. Раньше ему не хватало навыка или уверенности, чтобы высказаться. Теперь Claude даёт и то, и другое — он подхватывает идеи, подбирает аргументы, ободряет. Человек публикует текст и верит, что понял то, что написал. Его читатели тоже верят — и распространяют дальше. Практический вывод для тех, кто работает с AI ежедневно: не делегируйте модели финальную стадию записи. Промптинг — это непроверенное мышление. Пока вы не выложили всю цепочку аргументов длинным текстом без AI-костыля, вы не знаете, было ли у вас целостное понимание или только его ощущение. Автор статьи сама использует AI для всего — исследования, брейншторм, проверку орфографии, анализ данных, автоматизацию. Но не для написания. И не считает себя готовой писать эссе, пока не начинает ловить AI на неточностях в своей области. Это жёсткий, но честный критерий зрелости: модель заслуживает доверия ровно настолько, насколько вы эксперт в теме. Если вы не можете поймать её на ошибке — вы не готовы ни доверять ей текст, ни публиковать результат от своего имени. Источник: Juliette Ryan — AI broke writing as proof-of-thought

Источник: Hacker News - Newest: ""AI" "LLM""