Нейросеть ошибается — как объяснить это ребёнку

Иногда ребёнок приходит с ответом нейросети и совершенно уверен в нём. А ответ неверный: несуществующая книга, перепутанная дата, ссылка на исследование, которого никогда не было. Первый порыв — объяснить, что ИИ иногда ошибается. Это правда. Но из этого момента можно взять больше, чем просто исправить факт.

Почему нейросеть ошибается — и почему это не исправить

Нейросеть не хранит факты — она предсказывает следующий токен, опираясь на паттерны в обучающих данных. Большую часть времени результат выглядит верным и является верным. Но иногда модель уверенно генерирует имя, дату или цитату, которых не существует. Это называют галлюцинацией, и ни одна существующая модель от неё не избавлена.

Ключевое: модель не знает, что ошиблась. У неё нет встроенного механизма проверки содержания — только вероятностный механизм генерации следующего слова. Уверенный тон ответа ни о чём не говорит.

Почему дети доверяют ИИ больше, чем стоит

Аайюши Дангол и коллеги в 2025 году провели исследование с 106 учениками 3–8 классов (arxiv, 2505.16031) и обнаружили, что дети разного возраста понимают устройство ИИ совершенно по-разному. Младшие школьники (3–5 класс) склонны приписывать нейросети «встроенное знание» — воспринимают её примерно как взрослого, у которого есть правильный ответ. Старшие (6–8 класс) чаще понимают, что ИИ работает на паттернах, а не на понимании.

Это объясняет, почему у младшего ребёнка не возникает вопрос «а правда ли это?» — он просто не закладывается в картину мира. Вопрос требует другой установки, и сама по себе она не появляется.

Проверить — это навык, а не недоверие

Когда ребёнок замечает расхождение между тем, что сказала нейросеть, и тем, что написано в другом источнике, происходит кое-что важное. Чтобы заметить расхождение, нужно иметь собственное ожидание о том, каким должен быть ответ. Это мышление, а не потребление готового.

В 2025 году исследователи конференции ACM IDC провели короткую программу с 48 подростками 10–14 лет: те учились замечать ошибки ИИ, создавая собственных чат-ботов с механизмами проверки. По итогам — значимый рост осведомлённости о галлюцинациях и уверенности при работе с ИИ-инструментами (ACM IDC, doi:10.1145/3772318.3791480). Занятий было немного. Навык поддаётся тренировке — не в теории, а на практике.

Это не навык «не верить ИИ». Это навык проверять. Ребёнок, который привык спрашивать источник у нейросети, начинает спрашивать то же самое у статьи, у видео, у чужих слов. Перенос происходит.

Что делать, когда нейросеть ошиблась

Самый простой приём — попросить ребёнка задать нейросети прямой вопрос: «Откуда ты это знаешь?» или «Есть ли у тебя источник?» Нейросеть либо назовёт что-то проверяемое, либо признает неуверенность. В обоих случаях это уже разговор, а не принятый на веру факт.

Второй приём — проверять одну вещь из ответа перед тем, как использовать его дальше. Не всё подряд — это утомительно и не нужно. Одну: ту, от которой зависит решение. Привычка проверять что-то одно строится быстро и со временем распространяется.

Третий приём, специфичный для кодинга: попросить ребёнка предсказать, что сделает нейросеть, прежде чем она это сделает. Расхождение между предсказанием и результатом — это именно тот момент, в котором навык растёт.

Как это вшито в курс

В нашем курсе есть квизы-предсказания: перед тем как ИИ генерирует результат, ребёнок формулирует ожидание. Потом сравнивает. Неверное предсказание не наказывается — это не проверка памяти. Это привычка: сначала построить ожидание, потом проверить совпадение.

Есть и гейт «объясни и поправь»: игра публикуется только после того, как ребёнок нашёл в ней что-то, что работает не так, и исправил. Не потому что так правильно по инструкции, а потому что так и делается с любым результатом, в котором важен итог.

Оба приёма тренируют одно: не принимать результат просто потому, что он есть. Смотреть, совпадает ли то, что получилось, с тем, что хотелось.

Почему ошибка — лучший момент для учёбы

Правильный ответ с первого раза не строит навык — он просто закрывает вопрос. Ошибка, особенно замеченная самим ребёнком, это момент, когда что-то требует разбора. Откуда взялся этот ответ? Почему именно это? Как проверить?

Ребёнок, который умеет находить и разбирать ошибки ИИ, выходит из этого с пониманием того, как ИИ устроен. Это устойчивее, чем умение получать правильные ответы.

---

Курс школы вайб-кодинга — три ступени с 7 лет, 84 шага, бесплатный целиком. Данные ребёнка не собираем — только придуманный ник. Начать можно на странице курса.