Idiota ex machina: Глупость, сошедшая с машины

В кибернетике этот феномен называют «цифровым автофагом»: обучаясь на терабайтах вторичного, синтетического мусора, созданного предыдущими поколениями нейросетей, искусственный интеллект необратимо глупеет за пять-семь поколений, теряя редкие, парадоксальные смыслы, которые всегда «зашиты» в настоящие, человеческие тексты. Причём этот феномен нельзя уже игнорировать и говорить, что это «проблема завтрашнего дня»: по данным агентства Graphite и детектора GPTZero, доля статей, которые являются преимущественно ИИ-сгенерированными или же написанными в глубоком соавторстве с ИИ, достигла уже отметки в 50%. Сегодня уже каждая вторая текстовая публикация в медиапространстве создана с привлечением LLM-моделей.

Проблема усугубляется тем, что человечество, призванное поставлять машинам живой язык, стремительно теряет способность его производить. Массовый аутсорсинг ментальных функций приводит к глобальному «отупению» человечества, которое идёт сразу по нескольким существенным путям. Люди страдают от атрофии сложных синаптических связей, смиряются с угасанием навыка преодоления ментальных трудностей и сталкиваются с падением времени удержания внимания до критического минимума. Медианный интеллектуальный уровень популяции снижается: люди отвыкают думать собственным мозгом, делегируя формулирование смыслов ИИ-алгоритмам и превращаясь в операторов текстовых шаблонов. Умение «правильно написать промпт» становится важнее гораздо более комплексных и важных навыков критического мышления и поисковой деятельности мозга.

Подчеркнём ещё раз, для понимания сложности и тупика сложившейся ситуации —  «глупость» LLM-моделей, обучающихся на некачественном материале (уже получившем хлёсткое название «нейрослоп», в буквальном переводе — ИИ-помои) — это органическая часть их процесса обучения, в котором поток входных данных принимается без какой-либо проверки или петли обратной связи. Это для человека неверное решение на основе искажения входных данных может оказаться летальным — алкоголику отнюдь не надо проверять «по колено ли ему море», это просто опасно. LLM-модель же ничем в своей работе не рискует — любой нейрослоп будет ею усвоен и переварен без всякого труда, после чего станет частью её внутренней структуры. 

В этой ловушке взаимной деградации человека и машины единственным легальным паспортом верифицированного мышления становится возврат к «хардкору» — неоконфуцианской системе персональных экзаменов, подкреплённых тотальным физическим контролем за абитуриентами и практикой их полной «сетевой изоляции». Оценить реальный индивидуальный человеческий интеллект вне «пустой комнаты» сегодня технически невозможно. Единственным рабочим решением становится формат, где соискатель заперт наедине с листом бумаги и ручкой, полностью отсеченный от мировой сети. Новые стандарты экзаменов, включающие тотальную защиту от тайного использования «всезнающего» и вездесущего ИИ или же перекрестный устный опрос в личном общении с экзаменаторами — принудительно возвращают нас на столетия назад, куда-то в эпоху династии Сун. Продвижение на основе заслуг, личная эрудиция и нравственная чистота, наравне с способностью внятно написать классическое «восьмичастное сочинение» (какую бы форму оно ни приобрело в мире такого будущего) — становится залогом выживания мыслящего человечества.

Однако верифицировать мышление реально индивидуума в «пустой комнате» — это лишь полдела. Главный вызов для человечества лежит в другой плосткости, а именно — в процессе передачи знаний, мыслительных практик и интеллектуальных подходов к следующему поколению. Здесь наш прогресс, и без того балансирующий на грани незримого перехода к деградации, упирается в железобетонную стену эволюционной биологии — число Данбара.

Дело в том, что наш «новый мозг» (неокортекс), с которым и связан феномен разума как такового, жестко ограничен энергетическим бюджетом мозга, позволяющим удерживать не более 150 значимых социальных связей⁴. Педагогика высших достижений — будь то игра на скрипке, хирургия или теоретическая физика — требует не трансляции лекций, а тончайшей синхронизации двух нервных систем, зеркально-нейронного обучения. Мастер обязан ежесекундно считывать микродвижения пальцев ученика, зажим в плече, фальшивую интонацию и уровень его ментального утомления. Такая глубинная сопричастность и удержание «разделяемого внимания» требуют колоссальных вычислительных мощностей мозга, из-за чего одновременный лимит у высококлассного преподавателя составляет всего два-три ученика. Всё, что сверх этого — превращается в конвейерную вычитку. Передача знаний в цепи «учитель-ученик» на её высшем уровне встраивается в самый узкий, первый круг числа Данбара, отвечающий буквально за семейные связи. Дело в том, что в классической пирамиде Данбара есть жесткие слои интимности: 5 человек — группа поддержки (самые близкие), 15 человек — группа симпатии (хорошие друзья), 50 человек — круг общения, 150 человек — значимые контакты. Поэтому, кстати, феномен «выдающегося педагога» часто сопровождался личной трагедией, связанной с неспособностью такого учителя организовать стабильные семейные связи — это место просто было занято учениками.

Попытка обойти это ограничение породила «промышленную» модель школьного класса из 25–30 человек, которая в цифровую эпоху окончательно превратилась в симулякр. Мозг учителя, неспособный распределить дефицитное внимание на такую массу, инстинктивно формирует микро-круг Данбара, выбирая три-пять «любимчиков», в которых учитель видит отклик, «результат моих трудов». Остальные ученики автоматически вытесняются во внешний контур, становясь объектами административного контроля, а не обучения. При этом современные учителя новой волны, сами выросшие внутри клипового шума и находящиеся в состоянии перманентного выгорания, всё чаще минимизируют этот энергозатратный личный контакт, заменяя его выгрузкой заданий в электронные уроки или мессенджеры. Преемственность рушится, а «цифровой шум» вместо помощи становится главным барьером между поколениями, разрушая авторитет мастера и создавая иллюзию, что любое знание можно просто «загуглить» — или же, на крайний случай, «написать промпт для ИИ».

Универсального ответа на этот кризис системы образования нет в принципе, так как ограничения нашей биологии не менее жёсткие, нежели математическая ловушка «оглупления» LLM-моделей.

В частности, этот кризис преемственности уже зафиксировал жесткое расслоение в структуре закрытого западного образования, разделив его на две неравные касты. Причём это не классическое западное разделение на «школу двух коридоров», когда образование для «народа» и для «элиты» сознательно велось совершенно различными способами и практиками. Сейчас очередной раскол на две неравные части происходит на наших глазах в «элитном», верхнем коридоре западного образования.

Первую часть этого раскола представляют дорогие школы для просто «богатых» (второй эшелон), которые ради позиций в рейтингах превратились в заводы по штамповке «людей-функций». В таких учебных заведениях сознательно уничтожается былая энциклопедичность знаний в угоду сверхранней, узкой специализации. Студентов натаскивают на прохождение алгоритмических тестов, превращая их в идеальный элитный обслуживающий персонал — военных, технократов и инвест-банкиров, неспособных мыслить за пределами корпоративных инструкций.

Вторая часть этого раскола — это сверх-престижные западные ВУЗы, которые призваны готовить будущую управленческую элиту высшего уровня, такие как Итонский колледж (Eton College) и швейцарский Институт Рози (Institut Le Rosey). Так, например, Итон ввел строжайшее правило «цифровой изоляции»: всем ученикам, начиная с младших курсов — и вплоть до выпуска категорически запрещено заносить на территорию колледжа смартфоны. Их SIM-карты переставляют в кнопочные «кирпичи» Nokia, способные только звонить и слать SMS, без доступа к интернету. Для строго академических задач выдаются планшеты с жестко ограниченным доступом, а личное время подростков полностью очищено от социальных сетей. Программа таких ВУЗов построена вокруг чтения первоисточников (от Платона до Эйнштейна) по бумажным книгам, а интернет находится под запретом. Студенты пишут от руки или на печатных машинках, а все исследования проводят в физической библиотеке. Понятным делом, возвращаясь к моменту «оценки разума в пустой комнате» — все экзамены сдаются в виде устных защит «лицом к лицу» перед коллегией профессоров.

ВУЗы такого типа называют фабриками «сверхэлиты», потому что они продают западному обществу товар, ставший невосполнимым дефицитом: способность человека удерживать фокус внимания дольше 10 минут, читать тексты объемом более 500 страниц или же убеждать собеседника вживую, без помощи презентаций и подсказок нейросетей.

Сможем ли мы найти свой, уникальный и более качественный ответ на кризис idiota ex machina, скопируем ли западные практики — или скатимся куда-то на обочину мира будущего? Пока что этот вопрос открыт, но его надо хотя бы осознать.