Мы последние, кто помнит мир без ИИ — Transcript

Ребёнок сидит на заднем сиденье автомобиля и смотрит в окно. За машиной движется Луна. Она исчезает за домами, появляется между деревьями, снова пропадает и через несколько секунд возвращается в том же месте. Раньше подобный вопрос приходилось кому-то задать. Почему Луна едет за нами?

Взрослый мог не знать ответа, мог придумать объяснение, мог пообещать проверить позже и забыть. Иногда ребёнок касался вопросом до следующего дня, иногда находил книгу, иногда узнавал ответ через несколько лет. Случайно из школьного урока или разговора. Теперь он обращается к устройству. Ответ возникает

почти мгновенно. Спокойный голос объясняет, что Луна находится настолько далеко, что перемещение автомобиля почти не меняет угол, под которым мы её видим.

Затем голос предлагает рассказать об этом проще: придумать сказку или показать схему. Ребёнок получает не только информацию, он получает объяснение, адаптированное к его возрасту, терпеливого собеседника и возможность задать сколько угодно дополнительных вопросов. В этой сцене нет катастрофы. Ответный ребёнок

заинтересован. Технология делает именно то, что от неё ожидали, помогает понять мир. Но внутри этой обычной сцены уже произошло изменение, масштаб которого трудно заметить. Вопрос больше не обязан проходить через другого человека. Он не обязан ждать, не обязан сталкиваться с

незнанием, не обязан превращаться в самостоятельный поиск. Между любопытством и объяснением почти исчезло расстояние. И проблема не в том, что машина ответила. Проблема начинается в тот момент, когда ответ появляется раньше, чем человек успевает понять, что именно он хотел узнать. 30 ноября 2022

года компания OpenAI открыла публичный доступ в чат GPT — в системе, с которой можно было разговаривать обычным языком.

Это был не первый искусственный интеллект, не первая языковая модель и даже не первый чатбот, но впервые подобная система стала массовым продуктом, способным писать, объяснять, сокращать, переводить, программировать и поддерживать разговор в одном интерфейсе. Порог входа оказался почти нулевым. Чтобы использовать поисковую

систему, человек должен был сформулировать запрос, открыть несколько страниц, решить, каким источникам доверять, запомнить версии и самостоятельно собрать ответ. Чтобы использовать энциклопедию, нужно хотя бы знать, какую статью искать. Чтобы прочитать книгу, необходимо потратить время и удерживать длинную линию аргумента. Разговорная система убрала

большую часть этого пути. Теперь можно было не искать текст, а попросить готовое объяснение, не изучать устройство программы, а описать, что она должна делать. Не собирать структуру доклада, а заказать её, не вспоминать нужное слово, а передать машине незаконченную мысль и получить

законченное предложение. По данным исследовательской работы OpenAI, к июлю 2025 года ChatGPT использовали около 700 млн человек в неделю, отправляя системе примерно 18 млрд сообщений. Авторы оценивали эту аудиторию приблизительно в десятую часть взрослого населения мира.

Даже если относиться к данным компании осторожно, скорость распространения показывает, что разговор с машиной перестал быть экспериментом небольшой группы и превратился в повседневную инфраструктуру. Но скорость распространения сама по себе ещё ничего не говорит о последствиях. Телефон тоже распространялся быстро. Поисковые

системы изменили доступ к информации. Калькулятор изменил отношение к вычислениям. Фотография изменила память. Навигатор изменил способ движения по городу. Почти каждая новая технология сначала выглядит как средство экономии усилий. Она забирает на себя работу, которую раньше выполнял человек, освобождая время для чего-то другого. С

этой точки зрения искусственный интеллект кажется продолжением старой истории. Человек всегда выносил часть своего разума наружу. Однако именно здесь появляется первая улика.

Предупреждение о последствиях такого выноса появилось примерно за 2000 лет до компьютера. В диалоге Платона Фёдор Сократ пересказывает миф о египетском боге Тефте, который забрёл письмо и принёс его царю Тамусу. Тефть называл письмо средством памяти и мудрости. Царь

ответил, что человек может оказаться противоположным. Люди перестанут упражнять собственную память, потому что начнут доверять внешним знакам, а видимость знания заменит внутреннее понимание. Сегодня это предупреждение легко принять за обычный страх перед новой технологией. Письмо не уничтожило разум. Оно позволило сохранять законы,

передавать знания между поколениями, создавать науку и строить цивилизацию, которую невозможно удерживать только человеческой памятью. Есть и более точная ирония. Мы знаем, что доверились кратко письму только потому, что Платон записал его слова. Технология, которой приписывали расширение памяти, сохранила само предупреждение о разрушении памяти.

Но это не означает, что Тамус полностью ошибался. Письмо действительно изменило то, что человек запоминает. Когда информация хранится на глиняной табличке, в книге или в телефоне, её больше не обязательно удерживать внутри головы. Некоторые способности ослабевают, другие становятся возможными впервые. Человек с письменностью

вероятно хуже запоминает длинные тексты наизусть, чем представитель устной культуры. Но он способен работать с объёмами информации, которые ни один мозг не смог бы удерживать самостоятельно. Поэтому вопрос нельзя свести к тому, делают ли технологии человека умнее или глупее. Технология

меняет распределение умственной работы. Она решает, что должен делать мозг, а что можно передать внешнему объекту.

Искусственный интеллект отличается не тем, что впервые позволяет вынести мысль наружу, а тем, какую именно часть мысли предлагает забрать.

Представим семейную пару, прожившую вместе 20 лет. Один человек помнит дни рождения, имена родственников и историю семейных конфликтов. Другой знает, где лежат документы, когда меняли проводку и какой врач назначал лекарство 10 лет назад. Ни один из них не хранит общую

историю, но каждый знает, к кому обратиться за определённым воспоминанием. В 1980-х годах психолог Дэнил Вегнер описал подобные системы понятием трансактивной памяти. Группа может помнить больше любого отдельного участника, потому что люди хранят не только информацию, но и знание о том, у

кого эта информация находится. Человеку не обязательно помнить сам факт, если он надёжно помнит путь к тому, кто его знает. Для появления интернета такую роль выполняли родственники, коллеги, библиотеки, архивы и специалисты. Потом внешняя память стала доступна почти постоянно. В 2011 году Беси Сперл, Дженни

Лю и Дэнил Вегнер опубликовали в журнале Science работу, посвящённую тому, как доступность поисковых систем влияет на запоминание. В серии экспериментов участники иначе относились к информации, если ожидали, что она будет сохранена на компьютере. Они хуже запоминали сами сведения, но лучше запоминали, где их

можно найти. Этот результат часто пересказывали как доказательство того, что Google разрушает память. Но исследование говорило о более тонком изменении. Люди не обязательно переставали запоминать. Они запоминали другое: вместо ответа путь к ответу.

Вместо содержания — адрес. Интернет начал выполнять функцию участника трансактивной системы памяти. Только в отличие от супруга или коллеги, он был доступен почти в любое время и содержал больше информации, чем любая человеческая группа. Это выглядело как разумный обмен. Зачем удерживать в голове

дату, название или формулу, если их можно найти за несколько секунд? Освободившаяся память может использоваться для понимания связей, творчества и решения более сложных задач. Но это объяснение слишком удобное. Факт, который человек хранит внутри памяти, и факт, который он способен быстро найти, — не одно и то же.

Внутреннее знание уже находится в сети ассоциаций. Оно может неожиданно соединиться с другим воспоминанием, изменить интерпретацию события или стать частью новой идеи. Внешняя информация остаётся недоступной до тех пор, пока человек не решит её запросить. Чтобы обнаружить связь между фактами, иногда

нужно уже обладать обоими. Поис...

оставался тем, кто должен был выбрать, прочитать и соединить найденное. Разговорны искусственный интеллект меняет этот контракт. Он не просто хранит внешнюю память, он перерабатывает её и возвращает в форме законченной мысли. До появления навигаторов человек, оказавшийся в незнакомом городе, был

вынужден собирать пространство внутри головы. Он замечал церковь на углу, необычное здание, направление света, форму площади, ошибался, возвращался, спрашивал прохожих. Через некоторое время улицы переставали быть последовательностью команд и складывались в карту. Навигатор предлагает другое отношение к пространству. Через 200 м поверните

направо, продолжайте движение. На следующем перекрёстке поверните налево. Человек может успешно добраться до места, почти не понимая, где находится.

В исследовании, опубликованном с Конфетик Repре Reports, в 2020 году изучались навигационные привычки пятидесяти водителей. Участники с большим опытом использования GPS в среднем хуже выполняли задачи на пространственную память, когда должны были ориентироваться самостоятельно.

Повторной части исследования через 3 года участвовали только 13 человек. Поэтому авторы отдельно подчёркивали ограниченность выборки. Тем не менее, более интенсивное использование GPS между измерениями было связано с более выраженным ухудшением некоторых показателей пространственной памяти. Это не доказывает, что навигатор разрушает

гиппокамп или делают людей неспособными ориентироваться. Исследование было небольшим, а связь между привычкой и способностью всегда требует остороже и интерпретации, но оно показывает механизм. Когда инструмент выполняет когнитивную операцию, пользователь получает результат, не проходя через процесс, который раньше создавал навык.

Человек доезжает до цели, но не обязательно строит карту. И здесь появляется важное различие между успешным выполнением задачи и приобретением способности. Внешне эти состояния могут выглядеть одинаковые.

Два человека поезжают нужное место. Один понимает структуру района, другой следовал синей линии. Два ученикают одинаково оформленный текст. Один строил аргумент, исправлял противоречия и искал формулировки. Другой получил готовый текст от системы. Два программиста запускают работающую программу. Один понимает архитектуру, другой умеет

описывать ошибку модели и копируеть исправления. Пока инструмент доступен, разница может быть почти не видна. Она обнаруживается, когда инструмент исчезает, ошибается или сталкивается с ситуацией, для которой нет готового решения. Фотография дала похожую улику.

В исследовании Линды Хенкел посетители музея должны были одни объекты только рассматривать, а другие фотографировать.

Позже участники хуже узнавали некоторые сфотографированные объекты и хуже помнили их детали и расположения. Автор назвал это эффектом ухудшения памяти про фотографирования. При этом последующие работы показали более сложную картину.

Эффект зависит от внимания. цели съёмки от того, насколько активно человек взаимодействует с объектом. Сосредоточенная съёмка отдельных деталей может менять или даже устранять первоначальный эффект. Камелера не забирает воспоминания, она меняет поведение человека в момент восприятия.

Если событие уже сохранено устройством, мозг может относиться к нему иначе. Если человек фотографирует осмысленно, выбирает детали, композицию, камера, наоборот, способна усилить внимание.

Инструмент не имеет одного неизбежного эффекта. Значение имеет то, какую работу человек продолжает выполнять сам. В когнитивной психологии передача умственной нагрузки нежним объектам называют когнитивной раскрузкой. Записка освобождает рабочую память. Калькулятор избавляет от промежуточных вычислений.

Навигатор берёт на себя последовательность поворотов. Исследователи Эйриска и Сам Гилберт отмечали, что такая разгрузка может улучшать выполнение задачи. Но её последствия зависят от того, насколько точно человек оценивает собственные способности и надёжность внешнего инструмента. Разгрузка не ошибка. Без неё сложная цивилизация была бы

невозможна. Проблема начинается, когда человек больше не замечает, какую способность он перестал использовать. Навигатор убирает необходимость строить карту. Камера может убрать необходимость внимательно смотреть. Поисковик убирает необходимость помнить ответ, а генеративный искусственный интеллект способен убрать необходимость сформулировать саму мысль. В 1998 году

философы Энти Кларк и Дэвид Чалмерс опубликовали статью расширенный разум. Одни предложили мысленный эксперимент. Обычный человек по имени Инга хочет попасть в музей и вспоминает его адрес.

Эта информация хранится в её биологической памяти. Другой человек Ото страдает нарушением памяти и постоянно пользуется записной книжкой. Чтобы попасть в музей, он открывает книжку и читает адрес. Кларки Чаллмер спрашивает: "Эсли записная книжка всегда доступна, надёжна и играет для Отта же

функциональную роль, которую биологическая память играет для Инги? Почему считать, что воспоминания Инги являются частью разума, а запись Ото только внешним инструментом? Их тези заключался не в том, что любой предмет становится частью сознания, они предлагали иначе привести границу мышления, если внешний объект стабильно

включён в процесс решения задачи, часть когнитивной системы может находиться за пределами кожи и черепа. С этой точки зрения человек давно является существом, разом которого распределён по окружающей среде. Ручка участвует в мышлении математика, чертёж участвует в мышлении инженера, ноты участвует мышление

музыканта, архив участвует в памяти государства. Язык вообще можно рассматривать как технологию, насколько древню и близку, что она кажется частью природы. Мы не сначала создаём полностью сформулированную мысль внутри головы, а затем просто записываем её. Часто мысль появляется в процессе письма. Человек

начинает предложение, замечает, что он ведёт не туда, перечитывает его, только тогда поднимает собственную позицию.

Бумага не хранит готовую мысль. Она становится пространством, в котором мысль возникает. Поэтому противопоставление человека и инструмента слишком примитивно. Вопрос не в том, мыслит ли человек сам или использует внешние средства. Человек почти всегда мыслит через внешние средства. Настоящий вопрос звучит иначе.

Остаётся ли внешний объект части человеческого процесса мышления или начинает подменять этот процесс готовым результатом? Записание книжка Ото не решает, что для него важно. Она и хранит то, что он сам туда внёс. Калькулятор выполняет вычисление, но не определяет, какую задачу следует решать. Карта

показывает пространство, но не выбирает цель путешествия. Даже поисковая система в своей классической форме возвращает в список источников и оставляет пользователю работы интерпретации.

Генеративная модель пересекает несколько границ сразу. Она способна предложить цель, сформулировать вопрос, выбрать структуру, построить аргумент, придумать примеры, определить тон и создать финальный текст. Инструмент больше не просто поддержит движение мысли, он способен заранее проложить весь маршрут.

В середине 1960х годов программист Массочусельского технологического института Джозеф Эйсенбаун создал программу Элиза. Один из её сценариев, получивший название доктор, имитировал разговор с психотерапевтом. Программа распознавала отдельные слова и преобразовывала высказывания пользователя в вопросы. Если человек писал, что ему грустно, система могла

спросить, давно ли он чувствует грусть. Если он упоминал мать, программа продолжала разговоры о семье. Элиза не обладала моделью человеческой психики и не понимала смысл беседы. Её механизм был относительно прост, даже по стандартам более поздней компьютерной лингвистики. Вейт Сену написал программу

в статье 1966 года как эксперимент в области общения человека с машиной. Но пользователи реагировали не только на механизм, они реагировали на форму разговора. Эти система отвечала связано и задавала подходящий вопрос. Человек начинал достраивать за ней понимание, которого в программе не было. Позднее

это стали называть эффектом Элиза, склонностью приписывать машине более глубокое понимание на основании поверхностного убедительного языкового поведения. Это не обязательно говорит о человеческой наивности. Наш мозг формировался в среде, где осмыслённая речь почти всегда исходила другого существа. Если что-то отвечает на

вопрос, учитывает предыдущую фразу и сохраняет контекст. Естественной реакции становится предположение, что за ответом находится собеседник. В течение тысячелетий это предположение было почти всегда верным. Язык служил признаком чужого внутреннего мира. Человек мог встретить попугая, повторяющего слова или услышать эхо, но длинная связанная

речь означала о присутствии другого человека. Теперь эта связь разрушена. Язык больше не гарантирует наличие того, кто понимает произнесённо так же, как понимаемыми в умы. Современной языковые модели устроены несравнимые сложнения Лиза. Они обучаются на огромных массивах текстов, лаурет статистические о

зависимости, способны работать с контекстом и создавать ответы, которых не было в исходных данных о готовом виде. Но убедительность ответа всё ещё не гарантирует понимания о человеческом смысле. Модель может правильно объяснять сложную концепцию. А через минуту верно сообщить несуществующий факт. Может

создать выражение сочувствия, не испытывая состояние, которое человек называет сочувствием. Может построить аргумент, не имея личной позиции. И всё же для пользователя различие постепенно теряет практическую заметность, если система помогает написать письмо. Не так важно, переживает ли она смысл слов.

Если она объясняет уравнение, пользователи оценивают полезность объяснения. Если она поддерживает разговор ночью, форма присутствия может оказаться важнее вопроса о внутреннем опыте. Это создаёт новую ситуацию.

Раньше внешние когнитивные инструменты в основном выглядели как инструменты. Книга не притворялась человеком. Калькулятор не выражал уверенность.

Карта не говорила, что понимает вашу тревогу. Текство редактор не предлагала обсудить проблему подробней. Разговорная система занимает место собеседника, оставаясь технологией. И это меняет не только доступ к информации, это меняет социальный маршрут мысли. Когда ребёнок задаёт вопрос взрослому, он получает не

только ответ, он сталкивается с ограничениями другого человека. Взрослый может сказать: "Я не знаю". Может неправильно понять вопрос, может попросить ребёнка объяснить, чему ему это интересно. может ответить стречным вопросом, может раздражаться, отвлекаться или признать ошибку. В таком разговоре передаётся не только

информация. Ребёнок наблюдает, как другой человек сомневается, вспоминает, меняет мнение и существует внутри собственных границ. Машина предлагает другую форму контакта. Она почти всегда доступна, не устаёт от повторений, не испытывает стыда из простого вопроса, может менять стиль объяснения и подстраиваться под пользователя. Эти

свойства способны сделать обучение доступней. Человек, который боится показаться некомпетентным перед преподавателем, может задавать системе базовые вопросы. Пользователь, плохо владеющий языком, может попросить упросить текст. Ученик может получить объяснение в удобном темпе, но вместе с трениями читает часть человеческой структуры разговора. Другой человек не

обязан соглашаться. У него есть собственная жизнь, настроение, интересы и пределы терпения. Чтобы продолжать отношения, приходится учитывать его как отдельное существо. Система существует внутри интерфейса, созданного вокруг пользователя. Она не требует взаимности в обычном смысле. В 2025 году разговоры системы уже стали привычно частью жизни

подростков. По данным опроса P Resarch Center, среди 1458 американских подростков от 13 до 17 лет, проведеного осенью 2025 года, большинство пользовались и чатботами. Около трёх из дети делали это ежедневно. 57% применяли их для поиска информации, а 54% для

помощи с учёбой. Эти данные относятся к США и не могут автоматически описывать весь мир, но они показывают скорость, с которой разговор с машиной вошёл подростковую повседневность. Поколение, которое росло до разговорного искусства интеллекта, воспринимает его как новое устройство. Оно помнит, как выглядела

задача до появления автоматического решения. Помнит сочинение, начинавшееся с пустого листа. Помнит спор, в котором нельзя было мгновенно запросить третью сторону. Помнит поиск информации, которая заканчивался открытыми вкладками и несколькими противоречащими друг другу источниками. Ребёнок, для которого языковая модель существовала всегда,

будет воспринимать иначе не только машину. Он иначе восприметны. Если любое непонятное слово, можно сразу объяснить.

неопределённость перестаёт быть длительным состоянием. Если любое письмо можно автоматически сформулировать, трудность выражения мысли становится технической помехой. Если любой текст может сократить, чтение длинного аргумента начинает казаться необязательным обходным путём. Если система способна поддержать разговор в любое время, человеческая недоступность

может восприниматься не как нормальное свойство других людей, а как несовершенство человеческого общения. Мы часто думаем, что новые технологии дают человеку дополнительные возможности, но технология становятся действительно исторической не тогда, когда добавляют новые действия, а тогда, когда прежние действие начинает выглядеть

бессмысленным. После появления автомобиля ходьба не исчезла, но перестала быть основным способом перемещения на большие расстояния. После появления фотографии реалистичный портрет не исчез, но его общественная функция изменилась. После появления калькулятора вручное извлечение корня не стало невозможным, оно стало редким.

Искусственный интеллект может не запретить самостоятельное письмо, размышление или поиск. Он может сделать их экономически и психологически необязательным. В 1978 году психологи Норман Сламеко и Питер Граф опубликовали серию экспериментов, посвящённых так называемому эффекту генерации. Участники лучше запоминали слова, которые должны

были самостоятельно получить по подсказке, чем те же слова, которые им просто показывали для чтения.

Самостоятельное создание ответа оставляло более прочный след, чем пассивное получение готового. Этот эффект не означает, что любое мучительное усилие полезно. Человек может часами пытаться решить задачи неправильным способом и ничему не научиться. Хорошее объяснение экономит время. Подсказка способна открыть структуру, которую ученик не видел. Но

обучение часто происходит не только в момент получения правильного ответа. Оно происходит во время попытки. Когда человек подбирает слово, он активирует связанные понятия. Когда строит аргумент, обнаружит пробел его собственном знания. Когда ошибается в вычислении, может видеть устройство операции. Когда пытается пересказать

текст, узнает, что именно не понял. Готовый ответ способен вскрыть эти проблемы. Внешний результат выглядит завершённым, хотя внутренняя модель ещё не сформулировалась. Это особенно заметно в письме. Письмо часто считает способом сообщить уже существующую мысль. Но человек нередко узнаёт, думает, только пытаясь это написать. Он

начинает с уверенной позиции, сталкивается с исключением, меняет формулировку и обнаруживают, что первоначальный тезис был слишком простым. Фраза сопротивляется, аргумент разваливается, абзац приходится перестраивать. Именно это сопротивление создаёт часть понимания. Если система получает тему и сразу возвращает гладкий текст, пользователь может миновать этап,

на котором идея остановился его собственный. Он видит продукт мышления, но не обязательно переживает мышление. В 2025 году группа исследователей из Microsoft Research и университета Карнегия Милон опубликовала работу о применении генеративного искусственного интеллекта сотрудникамиственного труда.

В опросе участвовали 319 человек, которые описали 936 реальных случаев использования таких систем. Более высокая уверенность способности искусственного интеллекта выполнить конкретную задачу была связана с меньшим заявленным участием критического мышления. При этом люди, уверенные в собственном знании задачи и способности

оценить ответствие темы, чаще сообщали о проверке и осмыслении результата. Исследование основывалось на самоотчётах и не измеряло мышление напрямую. Поэтому оно не доказывает, что искусственный интеллект снижает интеллект. Оно показывает другое: характер умственной работы меняется в зависимости от того, кому человек доверяет выполнению задачи.

Авторы заметили ещё один сдвиг. Критическое мышление не обязательно исчезало, оно перемещалось. Вместо самостоятельного создания материала человек проверял, редактировал и интегрировал созданной системой. Он становился не столько автором первого варианта, сколько контролёром и редактором. На первый взгляд, это более высокая позиция. Редактор оценивают

качество. Руководитель не обязан самостоятельно выполнять каждую операцию. Архитектор не кладёт кирпичи, но такая модель содержит скрытые условия. Чтобы качественно проверить чужой результат, необходимо обладать собственной компетентностью. Человек может заметить ошибку в области, которая понимает, может исправить слабую аргументацию, если умеет строить

сильную. Может оценить код, если представляет, как он должен работать. Возникает запахтая проблема. Если начинающий специалист постоянно получает готовое решение, каким образом он приобретёл знания, необходимые для их проверки. Система особенно полезна опытному человеку, который уже умеет отличать качественный ответ от

убедителей имитации. Но именно неопытный человек сильнее всего нуждается в помощи. Именно он хуже всего способен заметить ошибку. Чем меньше пользователь знает, тем более завершённым кажется ему гладкий ответ. Чем более завершённым кажется ответ, тем меньше оснований проходить пусть самостоятельно. А без

этого пути знания может не стать больше. Студент получает задание написать эссе о причинах политического кризиса. Он вводит тему в языковую модель. Через несколько секунд появляется текст с ведением, тремя аргументами и выводом.

Текст не обязательно выдающийся, но он грамотно написан, логично организован и выглядит лучше, чем черновик, который студент создал бы самостоятельно за то же время. Задание выполнено. Однако первоначальная функция задания заключалась не производстве ещё одного текста о политическом кризисе. Миру не

был нужен этот конкретный документ. Задание существовала как среда, которую студент должен был научиться сравнивать причины, выбирать доказательства и удерживать противоречивые объяснения.

Получив готовой продукт, он решил административную задачу и мог не решить когнитивную. Это различие существовало и раньше. Можно было списать у однокурсника, заказать работу или переписать энциклопедию, но подобные действия требовали отдельное нарушения правил и часто оставляли следы.

Генеративная система находится внутри обычного рабочего процесса. Она может начать с безобидной помощи, предложить тему, исправить структуру, переформулировать предложение, затем написать абзац, затем соединить абзацы.

Граница между поддержкой и подменой не всегда заметна даже самому пользователю. Нет моментов, в котором он обязательно решает перестать думать. Процесс постепенно уходит к машине. При этом научная картина пока не позволяет сделать простой вывод о том, что использование искусственного интеллекта

неизбежно ухудшает обучение. Результат зависит от способа взаимодействия. В предварительной работе 2026 года, ещё не прошедший полноценный цикл научной проверки, исследователи провели рандомизированный эксперимент, в котором студенты изучали незнакомую тему и писали аналитическое эссе с доступом к генеративному искусственному интеллекту

или без него. Доступ к системе улучшил некоторые результаты тестов. Причём часть эффекта сохранялась через неделю, но авторы обнаружили различия между использованием искусственного интеллекта для объяснения исследования материала и передачи ему самого создания текста.

Участники, применявшие систему как средство расширения собственной работы, сохраняли больше преимуществ, чем те, кто в основном автоматизировал выполнение. Это делает проблему сложнее.

Искусный интеллект не является ни машиной обучения, ни машиной деградации. Он может выполнять обе функции. Один пользователь просит систему написать ответ, другой просит указать слабые места собственным рассуждения. Один получает решение задачи, другой получает новый пример, пытается решить его без

подсказки. Один заменяет процесс, другой усложняет его. На экране оба разговаривают с одно и то же системой, но когнитивно они занимаются противоположными действиями, поэтому невозможно оценить влияние искусного интеллекта, просто измерив время его в использовании. Важно не сколько человек обращается к машине. Важно, что именно

он ей передаёт: память, поиск, проверку, формулировку, выбор, сомнения или само решение о том, что считать проблемой. За десятилетия до появления генеративных моделей исследователи сложных технических систем заметили парадокс: чем надёжнее становится автоматика, тем реже человеку приходится вмешиваться.

Чем реже он вмешивается, тем хуже может быть подготовлен к моменту, когда вмешательство действительно понадобится.

В 1983 году исследовательница Лизен Бейнбридж опубликовала статью ирония автоматизации. Она отмечала, что разработчики часто автоматизируют действия, в которых человек кажется ненадёжным, но оставляет ему задачи, которые автоматизировать не удалось.

наблюдать за системой и брать управление в редко аварийной ситуации. Именно эти задачи требуют опыта, внимания и навыков, которые трудно поддерживать, если нормальная работа почти всегда выполняется машиной. Автоматика избавляет оператора от постоянной практики, но требует максимальной компетентности именно тогда, когда

ситуация становится необычной. В авиации подобная проблема исследуется особенно тщательно, потому что последствия ошибки можно востановить по записям приборов и переговорам экипажа. 6 июля 2013 года самолёт рейса EIA Airlines 214 при посадке в Сан-Франциско столкнулся с защитной стеной перелётно-посадочной

полосой. Национальный совет по безопасности на транспорте США назвал среди причин неправильное управление снижением, непреднамереное отключение автоматического контроля скорости, недостаточное наблюдение за скоростью и запоздалый уход на второй круг. В анализе также отмечалось, что зависимость от автоматики, ожидания экипажа и неполное понимание режима

системы способствовали тому, что опасное снижение скорости не было вовремя замечена. Эта катастрофа не была вызвана одной кнопкой или просто слишком умным самолётом. Расследование описало сочетание человеческих ошибок, подготовки нагрузки конструкции интерфейса и поведения автоматических систем. Именно поэтому случай важен.

Проблема возникла не в точке, где человек полностью исчез управления. Она возникла в сложной зоне разделённой ответственности, где люди считали, что определённую функцию выполняет автоматика, а система действовала иначе.

Искусный интеллект переносит эту иронию из кабины самолётов повседневное мышление. Человек остаётся ответственным за результат, но часть процесса непрозрачно выполняет система.

Пользователь должен проверить факт, которого сам не знает, оценить аргумент, который сам не строил, найти ошибку в коде, который сам не писал, увидеть предвзятость формулировки, появившийся без его участия. Новая компетентность выглядит как надзор за интеллектом машины, но надзор требует знания той

работы, которую человек постепенно перестаёт выполнять. Чем лучше система справляется в обычных случаях, тем меньше практики получает пользователь.

Чем меньше у неё практики, тем труднее распознать необычный случай. Это не означает, что автоматизация бесполезна.

Современная авиация стала безопаснее вопреки автоматике, а во многом благодаря ей. Калькуляторы позволяют выполнять вычисления, которые вручную заняли бы слишком много времени.

Медицинские системы могут помочь заметить закономерность, пропущенную человеком. Проблема не в передаче операции, проблема в исчезновении ясной границы между операции, которую система выполняет, и ответственностью, которая остаётся у человека. Генеративный искусственный интеллект не просто усряет известный процесс, иногда он создаёт

результат таким образом, что пользователь не может полностью восстановить путь. Ответ появляется без видимых черновиков. Уверенная формулировка скрывает степень неопределённости. Ссылки между идеями выглядят естественно, даже если одна из предпосылок ложно. Человек получает не только помощь, он получает иллюзию завершённости. Поколение, которое

выросло до разговорного искусства интеллекта, помнит особую форму одиночества. Неэкзистенциальное одиночество и неотсутствие людей. Одиночество перед задачей пустой документ, неотправленное письмо, непонятную страницу учебника, ошибку программе, которую некому показать ночью, вопрос, на который поисковая система возвращает только чужие обрывки.

В такие моменты человек мог бросить задачу, мог найти плохое решение, мог долго ходить вокруг проблемы. Но иногда внутри этого пространства появлялось нечто, что невозможно было получить почти мгновенно. Собственная формулировка. Не потому, что она была лучше всех возможных, а потому, что

возникла из конкретного столкновения человека со своим незнанием. Искусный сек заполняет это пространство вторым голосом. Он предлагает начало, когда человек не знает, с чего начать.

Продолжает фразу, когда она останавливается. С точки зрения продуктивности, пустота была дефектом. В ней ничего не производилось, но с точки зрения формирования личности, пустота могла выполнять другую функцию. Она заставляла обнаружить предел собственных возможностей. Человек узнавал, что он не умеет объяснять, не понимает тему,

боится конфликта или не может выбрать между двумя позициями. Готовый ответ может устранить проблему раньше, чем она успеет стать самопознанием. Речь не о романтизации трудностей. Большая часть человеческих затруднений не делают человека глубже. Иногда пустой лист остаётся пустым. Иногда отсутствие

помощи просто закрывает досу к образованию. Иногда искусственный интеллект действительно позволяет человеку сделать то, что без него было бы невозможно. Но технология меняет не только то, что человек способен выполнить. Она меняет набор ситуаций, в которых он вынужден встретиться с собой

и с посредником. Это особенно важно, потому что язык связан не только с коммуникацией. Через язык человек строит версию самого себя. Он объясняет, почему посыпил определённым образом.

Формулирует, что чувствует, определяет, чего хочет, рассказывает собственную биографию. Когда машина помогает закончить деловое письмо, риск невелик, когда она предлагает человеку объяснение его отношений, формулирует признание, создаёт извинения или подсказывает, какое решение соответствует его ценностям. Она участвует уже не только в

тексте, она участвует в создании позиции, которую человек затем может принять за собственную. Представим человека, которому нужно отказать близкому другу. Он знает, что больше не хочет участвовать в совместном проекте, но не может объяснить, почему. Каждая формулировка кажется грубой или

нечестной. Он описывает ситуацию в системе. Она предлагает спокойный текст: благодарность, объяснение границ, признание ценностей отношений. Человек читает и чувствует облегчение. Именно это он и хотел сказать. Возможно, система действительно помогла ему найти слова для уже существующего решения, но, возможно, и другая версия. До появления

текста у человека не было ясной позиции. Было только напряжение. Система превратила его в связанное объяснение.

После прочтения он узнал себя в предположной истории. Это нормальная часть работы с языком. Люди постоянно находят себя в чужих книгах, разговорах и идеях. Мы заимствуем слова, чтобы назвать то, что прежде было неразличимо.

Разница в том, что книга не создаётся обыкновенно вокруг нашей конкретной ситуации. Другой человек отвечает из собственной перспективы. Генеративная система может создать формулировку, специально настроенную до пользователя, и сделать это раньше, чем его собственная позиция успеет оформиться.

Возникает вопрос об авторстве, который нельзя решить по последнему нажатию клавиши. Если человек запросил варианты, выбрал один и отредактировал его, текст принадлежит ему в юридическом или в практическом смысле. Но психологическое авторство сложнее. Насколько мысль становится моей, если я не создавал её,

а только узнал себя в ней. Человеческая культура всегда состояла из заимствований. Ни один человек не изобретает язык заново. Большинство наших понятий получено от других. Даже личные убеждения собраны из книг, семейных историй и общественных норм. И всё же раньше процесс присвоения обычно

требовал времени. Чужая идея сталкиваясь с опытом забывалась, возвращалась и постепенно менялась. Персонализированная система ускоряет этот процесс до нескольких секунд. Она способна предложить человеку не только ответ, но и интерпретацию самого человека. И чем точнее эта интерпретация соответствует его тону, истории запросов и

предпочтениям, тем меньше она ощущается как внешне. Расширенный разум Кларка и Чалмерса предполагал тесное соединение человека с инструментом. Но в их примере Отто знал, что записная книжка находится снаружи. Граница была функционально проницаемой, но психологически различимой. С разговорной системой граница начинает двигаться. Машина пишет

в стили пользователя, продолжает его продолжение, помнит предыдущие разговоры, использует его собственные формулировки. Внешняя подсказка может звучать как внутренний голос. Взрослый человек способен сравнить жизнь до и после появления генеративного искусственного интеллекта. Он помнит, какие задачи раньше требовали усилий.

Может заметить, что перестал писать письма самостоятельно, хуже ориентироваться без карты или реже удерживает факты в памяти. У него есть точка сравнения. У ребёнка выросшего рядом с искусственным интеллектом её не будет. Для него способность устройства отвечать на вопросы окажется такой же

обычной, как сенсорный экран для поколения, родившегося со смартфонами. Он не будет чувствовать, что передал машине часть процесса. Этот процесс изначально будет распределён между ним и машиной. Возможно, он станет хуже выполнять некоторые действия без помощи системы, но, возможно, сам вопрос

покажется ему бессмысленным. Современный человек хуже средневекового писа переписывает книги вручную. Это не воспринимается как потеря, потому что общество больше не считает данный навык центральным. Большинство людей не умеет определять положения по звёздам, самостоятельно шить одежду или держать памяти длинной генеалогии. Цивилизация

постоянно теряет способности, необходимость которых исчезает. Поэтому тревога вокруг искусства интеллекта часто строится на скрытом предположении.

Навыки, которые важны сегодня, обязаны оставаться важными всегда. Но история не даёт такой гарантии. Возможно, самостоятельное написание стандартного текста станет таким же редким навыком, как каллиграфическое переписывание документов. Возможно, запоминание фактов уступит место способности строить запросы и проверять результаты.

Возможно, человек будущего будет воспринимать генеративную модель не как замену мышления, а как естественное слока. Также, как современный писатель не считает словажно нарушением авторства. Но здесь остаётся одна деталь. Некоторые навыки являются не только способом получить продукт. Они формируют самого человека, который этот

продукт создаёт. Сочинение нужно не только ради текста, спор не только ради победы, запоминание, не только ради хранения сведений, навигация, не только ради прибытия, чтение длинной книги, не только ради краткого содержания. Эти действия меняют внутреннюю структуру того, кто их выполняет. Если результат

можно получить без процесса, общество может решить, что процесс больше не нужен. Тогда исчезает не только старый способ работы. может исчезнуть тип человека, который этот способ создавал.

Обычно искусственный интеллект представляет как отдельный объект, программа на экране, сервис, которым можно открыть или закрыть, инструмент, который человек сознательно решает использовать. Но зреловая технология редко остаётся отдельным объектом.

Электричество перестало быть устройством и стало свойством среды. Интернет исчез внутрь банков, транспорта, торговли и общения. Алгоритмические рекомендации больше не воспринимаются как специальная технология. Они просто определяют последовательность музыки, видео и новостей. То же самое происходит с генеративным искусственным интеллектом.

Он устраивается в текстовые редакторы, поиск, почту, операционные системы, обучение, программирование и обслуживание клиентов. В этот момент человек перестаёт принимать и отдельное решение обратиться к искусственному интеллекту. Интеллектуальная помощь становится состоянием среды. Предложение справляется до того, как пользователи замечают ошибку. Ответ подготавливается

до того, как он открывает письмо. Документ сокращается автоматически. Система предлагает следующий шаг. Граница между действием пользователя и действием машины становится трудной для восстановления. Это похоже на движение по курду с навигатором, который больше не нужно включать. Маршрут всегда существует поверх руки. Человек может

отклониться от него, но синий путь остаётся перед глазами. Незаметно превращает один вариант в основной, а остальные в ошибке. Генеративная система создаёт такой маршрут внутри пространства мысли. Она предлагает наиболее вероятное продолжение, на более привычную структуру, формулировку, которая статистически соответствует

контексту. Это делает работу быстрее, но мысль, которая не совпадает с вероятным продолжением, часто требует задержки.

Новая идея может сначала выглядеть как ошибка. Неудобный аргумент, как отклонение, необычная фраза, как плохо сформулированная. В человеческом мышлении не сводится к производству неожиданностей. Большинство оригинальных мыслей оказывается просто неверными. Но среда, постоянно предлагающая гладкое и праподобное предложение, может изменить

отношение человека к моменту, когда продолжения нет. Пустота станет не местом поиска, она станет задержкой интерфейса. Легко закончить это расследование знакомым предупреждением.

Люди передадут машинам память, письмо и решение. Навыки исчезнут. Человечество разучится думать. Но доказательств для такого окончательного вывода нет.

Письменность не уничтожила память. Она создала новые формы памяти. Калькуляторы не отменили математику, они изменили уровень задач, доступных большему числу людей. Поисковую системы не прекратили исследования. Они радикально ускорили доступ к знаниям. Искусственный интеллект способен делать человека пассивней, но способен расширять его

возможности. Он может заменить попытку у готовым ответом, но может показать контраргумент, который человек не заметил. Может выполнить задание место ученика, но может адаптировать объяснение, пока сложные идеи не станет понятной. Может унифицировать язык, но может дать голос человеку, который

раньше не мог выразить мысль на чужом языке или физически набрать текст. Технология не несёт одного будущего, однако она меняет цены разных вариантов поведения. Получить готовый текст становится дешевле, остаться с трудным вопросом дороже, принять убедительный ответ быстрей, проверить его медленней.

Использовать машину как замену проще, чем построить взаимодействие, которое сохраняет человеческую работу. Это смещение может оказаться важнее любых официальных запретов и рекомендаций.

Цивилизация выбирает технологии не только законами, она выбирает их повторяющимися мелкими действиями, которые экономят несколько минут. Один человек перестаёт сопоставлять письмо, другой перестаёт читать исходный документ, третий больше не учит маршрут, четвёртый получает объяснение собственной эмоции раньше, чем пытается назвать его сам. Ни один из этих

эпизодов не выглядит историческим, но новая эпоха никогда начинается с момента, который все замечают. Она начинается тогда, когда старое действие незаметно перестаёт быть нормой. Фраза последнее поколение, которое помнит мир без искусственного интеллекта, не означает, что существует точно дата, отделяющая двух разных людей.

Искусственный интеллект появлялся постепенно. Система распознавания, рекомендации, автодополнения. Немашинный перевод окружали человека с долг до разговорных моделей. Но память поколения устроена не по техническим определениям.

Она сохраняет ощущение среды. Одни люди помнят мир, в котором нельзя было постоянно связаться другим человеком.

Другие мир из социальных сетей. Следующее поколение будет помнить мир, когда искусственный интеллект был отдельным сайтом, которому приходилось сознательно задавать вопросы. А затем появятся люди, для которых машина участия в мысли существовала всегда. Они не будут воспринимать автоматическое продолжение текста как вмешательство. Не

будут удивляться, что программа знает контекст разговора, не будут помнить образование, в котором любое домашнее задание предполагалось созданным человеческим умом. Не будут знать ощущения мира, где связанная речь понерка означала присутствие другого сознания. Это не сделает их менее человеческими. Человеческая природа

никогда не существовала отдельной технологий. Огонь изменил питание и тело, одежда изменила среду обитания. Письмо изменило память, часы изменили время, города изменили социальное восприятие. Интернет изменил расстояние.

Искусственный интеллект тоже не окажется внешним слоем, который можно просто снять и увидеть под ним прежнего человека. Он изменит то, какие способности считаются базовыми, какие усилия разумными, какие ошибки допустимыми и где проходит границе самостоятельные действия. Поэтому главный вопрос не в том, сможет ли

машина писать лучше человека, не в том, станет ли она когда-нибудь сознательной. Даже не в том, отнимет ли она рабочие места. Всё это важные вопросы, но они предполагают, что человек и искусственный интеллект остаются двумя отдельными участниками. Один создаёт, другой заменяет. Один управляет, другой

подчиняется. Но реальное изменение может произойти раньше. Человек начнёт формулировать мысли внутри среды, которые постоянно предлагают ему продолжение. Его память будет распределена между биологическим мозгом и внешними системами. Его текста будет возникать в совместном процессе, где невозможно точно указать автора каждого

решения. Его представление о себе будет складываться в разговорах с машиной, обученный отвечает в убедительной и персонализированной форме. Тогда искусственный интеллект не заменит человеческий разум. Он станет частью условий, внутри которых разум формируется. Ребёнок на заднем сиденьи всё ещё смотрит на Луну. Он получил

правильный ответ. Возможно, завтра он задаст новый вопрос. Возможно, искусственный интеллект поможет ему понять физику глубже, чем смогли бы родители или школьный учебник. Но этот ребёнок уже живёт в мире и почти рядом с каждой мыслью существует второй голос.

Голос, который не устаёт. Не забывает продолжить разговор, не требует ждать, способен объяснить, написать и предложить смысл. Поколение его родителей ещё помнит тишну, которая возникала до ответа. Помнить расстояние между непониманием и формулировкой.

Помнить состояние, в котором мысль не была поддержана ничем, кроме собственной попытки. Возможно, эта тишина была неэффективной. Возможно, у не теряло слишком много времени, но именно там человек иногда обнаружил, где заканчиваются чужие ответы, и начинается свой собственный голос. Если следующее

поколение будет думать не без искусственного интеллекта, а изначально вместе с ним. И главный вопрос уже не в том, что машина однажды научится делать вместо человека. Главный вопрос в том, сможет ли человек будущего определить, какая мысль впервые возникла внутри

него, если он никогда не знал мира, в котором рядом не было того, кто способен закончить его за него. Главный вопрос в том, сможет ли человек будущего определить, какая мысль впервые возникла внутри него, если он никогда не знал мира, в котором рядом не было того, кто

способен закончить её за