Как проверить ответ нейросети: разбор примера и пять шагов

Короткий ответ: найдите в ответе нейросети главное утверждение и подтвердите его источником, который не зависит от ИИ: учебником, официальным сайтом, материалами учителя. Вычисления пересчитайте сами. Повторный уверенный ответ, согласие нейросети с самой собой или ссылка в её тексте доказательством не считаются. Ниже два разобранных примера, пять шагов, которые школьник может делать сам, короткий журнал проверки и ответы на частые вопросы родителей.

Почему нейросеть может ошибаться уверенно

Языковая модель составляет текст, который выглядит правдоподобно по закономерностям из примеров, на которых она обучалась. Она не сверяет каждую фразу с фактами, поэтому иногда появляются неверные утверждения и ссылки на несуществующие материалы, а тон остаётся уверенным. OpenAI прямо предупреждает об этом в справке о том, говорит ли ChatGPT правду: ChatGPT может давать неверные ответы и выдумывать ссылки.

Ребёнку это удобно объяснить так: уверенный тон показывает, как написан текст, а не то, верен ли он. Ответ «точно» или «конечно» не делает число правильным.

Ответ модели и источник: в чём разница

Некоторые сервисы в отдельных режимах умеют искать в интернете или работать с файлами, и тогда рядом с ответом появляются ссылки. Это полезно, но пересказ всё равно может исказить источник: перепутать числа, приписать автору чужую мысль, взять цитату не из того места. Поэтому правило одно: ссылку открывают и находят в ней нужное место. Если сервис ничего не искал, ответ составлен моделью без сверки с источником.

Пример 1: минуты и часы

Учебный пример, придуман для статьи. Это не настоящий ответ какой-либо нейросети. Вопрос: «Сколько часов и минут длятся три урока по 45 минут?» Ответ «ИИ»: «3 × 45 = 135 минут, то есть 1 час 35 минут».

Как это проверить:

1. Главное утверждение: «135 минут — это 1 час 35 минут».
2. Независимый источник: учебник математики, таблица единиц времени: 1 час = 60 минут.
3. Пересчёт: 135 = 60 + 60 + 15, значит, это 2 часа 15 минут. Умножение верное, ошибка в переводе минут в часы.
4. Вывод: ответ использовать нельзя, правильно — 2 часа 15 минут. Если бы нейросеть на вопрос «ты уверена?» ответила «да», это ничего бы не изменило: проверку сделали учебник и собственный пересчёт.

Обратите внимание: модель могла бы написать «1 час 35 минут» и во второй раз. Одинаковый ответ дважды — это повтор, а не независимое подтверждение.

Пример 2: площадь и единицы

Учебный пример, придуман для статьи. Это не настоящий ответ какой-либо нейросети. Вопрос: «Комната 3 м на 4 м. Какая у неё площадь в квадратных сантиметрах?» Ответ «ИИ»: «Площадь 3 × 4 = 12 м². В 1 метре 100 сантиметров, значит, 12 м² = 1 200 см²».

Проверяем по шагам:

1. Главное утверждение: «12 м² = 1 200 см²».
2. Независимый источник: таблица единиц площади в учебнике. Квадратный метр — это квадрат со стороной 100 см, поэтому 1 м² = 100 см × 100 см = 10 000 см².
3. Пересчёт: 12 × 10 000 = 120 000 см². Первая часть ответа верна (12 м²), но при переводе модель умножила на 100, как для длины, а не на 10 000, как для площади.
4. Проверка здравым смыслом: лист тетради — это несколько сотен квадратных сантиметров. Если бы вся комната была 1 200 см², на её пол поместилось бы всего несколько тетрадных листов. Так не бывает.
5. Вывод: правильный ответ — 120 000 см².

Этот пример полезен тем, что ошибка спрятана в середине рассуждения. Поэтому проверяют не только итоговое число, но и каждое правило перевода.

Пример 3: ссылка, которой нет

Учебный пример, придуман для статьи. Название книги и ссылка на страницу ниже придуманы для примера. Ответ «ИИ»: «Об этом написано в книге „Большой справочник единиц измерения“, страница 48».

Что делать: искать книгу по точному названию в школьной библиотеке, каталоге или поисковике. Если её нет нигде, ссылка не подтверждает ничего, даже если в ней указаны страница и автор. Точные детали делают выдумку убедительнее, но не делают её правдой. Сам факт при этом может оказаться верным, но проверять его придётся по другому, настоящему источнику.

Пять шагов проверки

1. Выпиши главное утверждение одной строкой: число, дату, имя, правило.
2. Найди независимый источник. Учебник, официальный сайт организации, материалы учителя. Без подтверждения факт остаётся непроверенным.
3. Открой ссылку, если она есть. Найди в источнике то самое место. Ссылка, которая не открывается или в которой нет нужного, не подтверждает ответ.
4. Пересчитай сам. Вычисления и перевод единиц легко проверить без ИИ.
5. Если сомнения остались, спроси учителя или взрослого и не используй факт, пока он не проверен.

Переформулировать вопрос тоже полезно: если ответы расходятся, это повод насторожиться. Но совпадение ответов не доказательство: модель может повторять одну и ту же ошибку.

Мини-журнал проверки

Записывать проверку удобно в четыре строки. Вот как выглядит запись для примера с площадью:

• Утверждение: 12 м² = 1 200 см².
• Источник: учебник математики, раздел о единицах площади.
• Место в источнике: 1 м² = 10 000 см².
• Вывод: утверждение неверно, правильно 120 000 см².

Такая запись занимает минуту, но приучает отделять «что сказал ИИ» от «что написано в источнике». Её можно показать учителю, если он спросит, откуда взят факт.

Если источник не подтверждает ответ

Бывает три ситуации, и в каждой действуют по-разному.

• Источник говорит другое. Верьте источнику, исправьте ответ и запишите, где была ошибка.
• Источник молчит. Например, учебник объясняет тему, но нужного числа в нём нет. Тогда факт остаётся непроверенным: ищите второй надёжный источник или спросите учителя.
• Источники противоречат друг другу. Это не повод выбрать ответ ИИ как «третье мнение». Покажите расхождение учителю и уточните, на какой источник опираться в этом задании.

Чего делать не стоит: просить нейросеть «подтвердить саму себя». Фраза «да, я проверила, всё верно» остаётся текстом модели, а не проверкой.

Признаки, что факт может быть выдуман

• Очень точные цифры без указания, откуда они.
• Книга, статья или исследование, которые не находятся по названию.
• Цитата, которой нет в надёжных источниках.
• Слишком гладкий ответ на вопрос, где у людей разные мнения.

Ни один признак не доказывает ошибку, но каждый — повод открыть источник.

Вопросы родителей

Ребёнок говорит, что проверил, спросив ещё раз. Объясните разницу: повторный вопрос показывает, устойчив ли ответ, но не верен ли он. Попросите показать строку из учебника или собственный пересчёт.

Что делать, если проверка занимает слишком много времени? Проверять стоит главное: числа, даты, имена и правила, на которых держится работа. Остальное можно переписать своими словами по учебнику.

Можно ли сидеть рядом, чтобы младший ребёнок пользовался сервисом? Присутствие взрослого не отменяет возрастные правила самого сервиса. Возрастная группа курса тоже не даёт разрешения пользоваться конкретной платформой. Если ребёнку по возрасту рано пользоваться ИИ-сервисом самостоятельно, проверяйте вместе в сервисе, правила которого это допускают, или работайте с ответами, которые получил взрослый.

Что делать с результатом

Если факт подтвердился, его можно использовать и указать, откуда он взят. Если нашлась ошибка, исправьте её в работе и обсудите, как её заметили. Похвалите ребёнка за найденную ошибку: это и есть навык.

Как этому учат в UONO

В программе UONO (Уоно) «От прототипа к своему продукту» для 13–16 лет март посвящён критическому мышлению: проверке фактов и качества ответов ИИ. Занятия ведёт живой преподаватель в группе до 8 человек, первый урок бесплатный. Как применять проверку в учёбе, читайте в статье про домашние задания с ИИ.