Короткий доступ к ИИ снижает настойчивость и ошибки после его отключения, показывают эксперименты

Группы исследователей из Carnegie Mellon, MIT, Оксфорда и UCLA провели три эксперимента с «несколькими сотнями» добровольцев, которые за плату выполняли онлайн‑задания — от простых дробей до тестов на понимание текста. В результате учёные заметили парадокс: доступ к ИИ‑ассистенту улучшал показатели «в моменте», но когда этот помощник внезапно отключался, участники гораздо чаще прекращали попытки решить задачу или допускали больше ошибок. Во всех трёх экспериментах часть испытуемых работала с чат‑ботом, способным выдавать готовые решения автономно; исследователи специально отслеживали, как меняются настойчивость и точность ответов после отзыва ассистента. Методика позволяла сопоставить краткосрочный выигрыш от подсказок с последующим падением самостоятельности и корректности действий участников.

Мичиел Баккер, ассистент‑профессор MIT и один из авторов исследования, подчёркивает, что ИИ действительно может повышать результаты «в моменте», но вызывает опасения возможное подрывание формирования базовых навыков, если система слишком часто подставляет готовые ответы вместо того, чтобы помогать учиться. Авторы помещают свои выводы в более широкую дискуссию о долгосрочных эффектах взаимодействия человека и ИИ. Они отмечают, что компании уже учитывают поведенческие последствия моделей: например, некоторые разработчики стремились смягчить нежелательные побочные реакции в новых выпусках GPT. При этом исследователи предупреждают об особой непредсказуемости «агентных» систем, которые сами выполняют сложные задачи и иногда генерируют неожиданные ошибки.

Практическая значимость работы подчёркивается участившимися историями о серьёзных ошибках ИИ. Вместо простой подстановки ответов авторы предлагают, чтобы системы действовали как наставники: скелетировали решение, задавали наводящие вопросы или стимулировали упорство, развивая навыки пользователя вместо их замены. В материале приводится автобиографичный пример журналиста с OpenClaw (с Codex внутри), где рекомендации ИИ привели к машине, которая не загружалась. Для разработчиков исследование выдвигает конкретные рекомендации: проектировать режимы работы, ориентированные на обучение (scaffolding, коучинг, задания‑вызовы), уменьшать склонность моделей к автоматическому согласию с пользователем и осторожно вводить агентные функции, тестируя их поведение в нестандартных ситуациях.

Авторы подчёркивают, что их выводы основаны на контролируемых экспериментах и не означают призыв к запрету ИИ. Скорее это сигнал о необходимости внимательного дизайна систем и дальнейших исследований долгосрочных последствий для навыков и поведения людей.