Безопасный ИИ для детей: что проверить родителям

Короткий ответ: возрастные ограничения, фильтры и присмотр взрослого не гарантируют, что ответ нейросети будет верным и уместным. Поэтому родителю важно смотреть на контекст: какой сервис, какая задача, что ребёнок получил в ответ. Помогают несколько договорённостей: сервис, правила которого допускают использование в возрасте ребёнка, никаких личных данных в запросах, взрослый рядом и понимание, что нейросеть — программа, которая может ошибаться. Ниже — чек-лист, примеры безопасных запросов, порядок первой сессии и короткое семейное соглашение.

На что опираться

Полезный ориентир — руководство ЮНИСЕФ по ИИ для детей. Среди принципов, которые организация предлагает тем, кто создаёт и внедряет такие системы, — безопасность детей, защита их данных и приватности и прозрачность. Документ адресован прежде всего государствам и компаниям, но его логика пригодится и дома. Чек-лист ниже составили мы, это не официальный список ЮНИСЕФ. Полный текст — на странице руководства ЮНИСЕФ.

Чек-лист перед началом

1. Правила сервиса. Прочитайте условия использования: у многих нейросетей есть минимальный возраст. Не создавайте ребёнку аккаунт в обход этих правил и не указывайте другой возраст. Присутствие взрослого не отменяет возрастных требований: если сервис не разрешён в возрасте ребёнка, «я же сижу рядом» не делает его разрешённым.
2. Кто рядом. Младшие школьники работают с ИИ вместе со взрослым или на занятии, где работу ведёт преподаватель.
3. Личные данные. В запросах не бывает полного имени, адреса, школы, телефона, паролей, фотографий себя и друзей.
4. Настройки. Проверьте родительский контроль и настройки приватности, если сервис их предлагает. Помните, что такие настройки снижают риски, но не исключают их.
5. Время. Работа с ИИ — часть экранного времени. Лучше короткая задача с понятным результатом, чем бесконечный разговор.

Как переформулировать запрос без личных данных

Дети часто пишут нейросети так же, как другу: с именами, названием школы и подробностями. Полезный навык — убрать из запроса всё, что указывает на конкретного человека, и при этом сохранить смысл задачи. Вот несколько учебных примеров.

Было: «Меня зовут Маша Петрова, я учусь в 3 «Б» школы на улице Лесной. Помоги написать поздравление учительнице Ольге Ивановне».

Стало: «Помоги написать короткое поздравление для учительницы начальных классов. Тон — тёплый, без длинных фраз».

Было: «Мой друг Дима живёт в соседнем подъезде и обиделся на меня. Что делать?»

Стало: «Как помириться с другом, если вы поссорились из-за игры? Предложи три простых способа».

Было: «Вот мой номер, напомни мне завтра про контрольную».

Стало: номер не нужен вовсе — напоминание лучше поставить в обычном будильнике или календаре вместе со взрослым.

Простое правило для ребёнка: перед отправкой перечитай запрос и спроси себя, можно ли по нему узнать, кто я, где живу и учусь. Если да — убери эти слова. Имена в учебных примерах выше придуманы.

Пример: первая проверка сервиса вместе с ребёнком

Это учебный порядок действий, а не гарантия результата.

1. Найдите в условиях использования возрастные требования и раздел о данных: хранится ли история переписки и можно ли её удалить.
2. Откройте настройки: приватность, история, родительский контроль.
3. Задайте вместе вопрос, ответ на который знаете, например «сколько минут в часе?», и обсудите, совпал ли ответ.
4. Договоритесь о стоп-фразе «Покажи мне»: ребёнок зовёт вас, если что-то смутило, и за это его не ругают.
5. Запишите три правила, о которых договорились, и повесьте листок рядом с компьютером.

Учебная ситуация. Ребёнок хочет загрузить фото класса, чтобы нейросеть превратила всех в мультяшных героев. Что можно ответить: «На фото чужие лица, а разрешения у одноклассников мы не спрашивали. Давай нарисуем своего героя на бумаге и попросим ИИ придумать ему историю — без фото и имён».

Продолжение этой ситуации может выглядеть так. Ребёнок рисует робота-садовника, взрослый помогает описать рисунок словами: «Робот зелёного цвета, с лейкой вместо руки, живёт на крыше». Запрос получается творческим, а фотографии и имена в нём не нужны.

Первая сессия: порядок работы

Если сервис прошёл проверку и разрешён в возрасте ребёнка, первую сессию полезно провести вместе — родителю и ребёнку — и по плану.

1. Задача заранее. До того как открыть сервис, договоритесь, зачем он нужен: например, придумать три загадки про осень.
2. Запрос вместе. Ребёнок пишет, взрослый смотрит, нет ли в тексте личных данных.
3. Разбор ответа. Прочитайте ответ вслух. Что получилось? Где ошибка? Что можно сделать лучше самому?
4. Доработка. Ребёнок исправляет или дописывает результат своими словами — ответ ИИ остаётся черновиком.
5. Завершение. Задача выполнена — сессия закончена. Если хочется продолжить, обсудите новую задачу, а не продолжайте разговор «просто так».

Учебная иллюстрация, не реальный ответ сервиса. Ребёнок спрашивает: «Придумай загадку про осень». Условный ответ: «Без рук, без ног, а ворота открывает». Взрослый спрашивает: «Это точно про осень?» Ребёнок замечает, что отгадка — ветер, и решает дописать строчку про листья. Так ошибка становится поводом подумать, а не просто списать.

Если ответ расстроил или появилось «секретное» приглашение

Бывает, что нейросеть отвечает странно, пугающе или предлагает что-то, что смущает ребёнка. Иногда в интернете рядом с ИИ-сервисами встречаются сообщения вроде «давай это будет наш секрет» или приглашения перейти в другой чат. Порядок действий может быть таким.

1. Сохраните спокойствие. Поблагодарите ребёнка за то, что он показал. Реакция взрослого влияет на то, придёт ли ребёнок в следующий раз.
2. Остановите разговор. Закройте чат, не отвечайте и не переходите по ссылкам.
3. Обсудите, что произошло. Спросите, что именно смутило, без допроса и обвинений.
4. Объясните правило. Если кто-то в интернете просит скрыть переписку или проблему от взрослого, которому ребёнок доверяет, это повод сразу позвать этого взрослого. Это не значит, что у ребёнка не может быть своих мыслей и личных тайн.
5. Сделайте выводы. Воспользуйтесь функцией жалобы, если сервис её предлагает, пересмотрите настройки или смените сервис и формат работы.

Разговор, который стоит провести

Объясните простыми словами, что нейросеть — не человек и не друг, а программа, которая подбирает ответ по закономерностям из примеров. Она может ошибиться, придумать факт или ответить странно. Если ответ напугал, смутил или показался неправильным, нужно остановиться и позвать взрослого.

Как понять, что что-то не так

• Ребёнок скрывает переписку с нейросетью или расстраивается после неё.
• Сервис просит личные данные или фото.
• Нейросеть изображает «друга» и подталкивает продолжать разговор.

В любом из этих случаев спокойно обсудите ситуацию и при необходимости смените сервис или формат работы.

Короткое семейное соглашение

Его можно переписать своими словами и подписать всей семьёй.

1. Мы пользуемся только теми сервисами, которые разрешены в нашем возрасте.
2. Мы не пишем в запросах имена, адреса, школу, телефоны, пароли и не загружаем фото людей.
3. Перед началом мы решаем, какая у нас задача.
4. Ответ нейросети — черновик, мы его проверяем и дорабатываем.
5. Если что-то смутило, говорим «Покажи мне» — и за это никого не ругают.
6. Если кто-то просит скрывать общение от нас, сразу рассказываем взрослому; обычное личное пространство при этом уважаем.

Если ребёнок уже пользуется нейросетью

Начните со спокойной просьбы, а не с упрёков: пусть ребёнок покажет, что делает с ИИ, а вы вместе разберёте пару запросов — что спрашивал, что получил, всё ли в ответе правда. Затем проверьте, разрешает ли сервис пользоваться им в возрасте ребёнка. Если нет — выберите разрешённый формат: сервис, правила которого допускают этот возраст; показ, где сервисом пользуется только взрослый, если правила продукта это позволяют; или упражнение без компьютера.

Как устроено в UONO

В UONO (Уоно) на уроках работу с ИИ ведёт живой преподаватель в группе до 8 детей, а ответ нейросети — черновик, который ребёнок разбирает и дорабатывает. Домашние договорённости при этом остаются в силе, а возрастная группа курса не означает разрешения пользоваться каким-либо сервисом самостоятельно. Для младших есть программа «Город будущего» для детей 7–9 лет; первый урок бесплатный.