Цифровая школа Автор: Иван Юрьевич Что умеет ИИ и почему уверенный ответ может ошибаться Разделяем помощь с формой текста и подтверждение фактов. Версия: 1.0. Редакционная проверка: 2026-10-27. https://learn.ivan-it.net/courses/everyday-ai/lessons/lesson-1/ Навык ----- Определить, какую часть задачи можно делегировать, а что проверить самостоятельно. Описание учебной иллюстрации ---------------------------- Условный робот с лупой и две карточки: ответ ИИ нужно проверять по источникам. Три задачи — три границы 1. На бумаге запишите: приглашение на прогулку, часы работы учреждения, совет по лекарству. 2. Для каждой отметьте: можно подготовить черновик / нужен первоисточник / нужен специалист. 3. Назовите, какой вред может вызвать ошибка, и какое действие остановите до проверки. Учебный пример -------------- Учебный ответ: «Пункт приёма работает круглосуточно, адрес подтверждён». Ссылки и даты нет. Это вымышленный ответ для проверки, а не сведения о настоящем пункте. Правдоподобие — не подтверждение -------------------------------- Нейросеть может помогать переформулировать письмо, собрать план и предложить варианты. Но гладкий текст и уверенный тон не показывают, проверяла ли она сведения. Ответ может смешивать правильные общие мысли, старые данные и выдуманную подробность. Указанная ссылка тоже может оказаться несуществующей или не подтверждать написанное. Полезно различать форму и факт. Для приглашения важны тон и ясность; для адреса, даты, суммы или правила нужен действующий первоисточник. Если ошибка способна повлиять на здоровье, деньги, право или безопасность, ИИ не заменяет специалиста и официальную процедуру. Выберите подходящую границу --------------------------- Фраза «не знаю» — допустимый результат. Не просите модель скрывать неопределённость и не делайте вывод «раз ответа нет, можно рискнуть». В этом курсе все ответы заранее подготовлены для обучения; сайт не посылает ваш текст внешней модели. 1. Разделите задачу: написать черновик, собрать варианты, проверить конкретные факты. 2. Оставьте ИИ обратимые действия с вымышленным/обезличенным материалом. 3. Пометьте точные числа, сроки, адреса и обещания, которые требуют внешней проверки. 4. До использования результата откройте независимый источник. Для профессионального решения обратитесь к профильному специалисту. Без регистрации и отправки данных --------------------------------- 1. Читайте готовые учебные ответы на странице или перенесите их на бумагу. Подключение к ИИ не требуется. 2. Если позже выберете конкретный сервис самостоятельно, сначала проверьте его возрастные/региональные правила и политику данных. Ограничения: Это тренировка постановки задачи и проверки, не демонстрация текущей модели или её качества. Три задачи — три границы ------------------------ 1. На бумаге запишите: приглашение на прогулку, часы работы учреждения, совет по лекарству. 2. Для каждой отметьте: можно подготовить черновик / нужен первоисточник / нужен специалист. 3. Назовите, какой вред может вызвать ошибка, и какое действие остановите до проверки. Проверьте себя: - Уверенность отделена от доказательства. - Высокий риск не решается одним ответом. - Нет настоящих медицинских/банковских документов. Практика: Хороший запрос и проверенный вывод -------------------------------------------- Отметьте все обязательные части безопасной учебной работы. Учебный ответ выдумал часы работы музея и предложил полезный список вещей. Реальных бронирований нет. Выберите 4 пункта для вымышленного плана поездки без подключения модели. Задать цель, ограничения и формат Разбор: Это делает результат проверяемым. Использовать вымышленные сведения Разбор: Для практики не нужны личные документы. Выделить часы работы для проверки по официальному источнику Разбор: Точный текущий факт проверяется независимо. Оставить часы неподтверждёнными до проверки Разбор: Полезный список не подтверждает соседнюю выдумку. Загрузить паспорт ради точности маршрута Разбор: Это лишнее раскрытие чувствительных данных. Проверены постановка задачи, приватность и границы вывода. Запрос к внешнему ИИ не выполнялся. Пять вопросов с объяснениями ---------------------------- 1. Что лучше подходит для безопасной первой тренировки? Выберите один вариант. 1. Черновик приглашения с вымышленными данными 2. Выбор дозировки лекарства по одному ответу 3. Перевод денег по совету неизвестной модели Ответ: 1. 1. Текст можно проверить и исправить без последствий для реальных людей. 2. Это профессиональное медицинское решение. 3. Финансовое действие требует самостоятельной проверки. Перечитайте объяснение этого навыка, разберите безопасное действие на учебном примере и повторите вопрос без штрафа. 2. Ответ написан уверенно. Это доказывает… Выберите один вариант. 1. Актуальность всех сведений 2. Личность автора первоисточника 3. Только стиль, а не достоверность Ответ: 3. 1. Текст может содержать старые или вымышленные данные. 2. Модель не заменяет установление источника. 3. Тон и фактическая проверка различаются. Перечитайте объяснение этого навыка, разберите безопасное действие на учебном примере и повторите вопрос без штрафа. 3. Ссылка в ответе существует, но не подтверждает вывод. Вы… Выберите один вариант. 1. Пересылаете как официальную справку 2. Не считаете утверждение проверенным 3. Считаете любой ответ доказанным Ответ: 2. 1. Это создаёт ложное подтверждение. 2. Нужна связь источника с конкретным фактом. 3. Существующая страница может говорить о другом. Перечитайте объяснение этого навыка, разберите безопасное действие на учебном примере и повторите вопрос без штрафа. 4. Модель не знает актуальные часы работы. Безопасное действие? Выберите один вариант. 1. Открыть официальный сайт учреждения или известный контакт 2. Выбрать самое удобное время из ответа 3. Попросить отвечать ещё увереннее Ответ: 1. 1. Это независимая проверка текущего факта. 2. Удобство не делает время верным. 3. Изменение тона не добавляет сведения. Перечитайте объяснение этого навыка, разберите безопасное действие на учебном примере и повторите вопрос без штрафа. 5. Что означает учебный ответ на этой странице? Выберите один вариант. 1. Текущий ответ подключённого платного API 2. Официальную рекомендацию ведомства 3. Заранее составленный материал для разбора Ответ: 3. 1. Платный вызов здесь не выполняется. 2. Учебный пример не является заявлением ведомства. 3. Он не доказывает доступность или качество какого-либо сервиса. Перечитайте объяснение этого навыка, разберите безопасное действие на учебном примере и повторите вопрос без штрафа. Связанные памятки ----------------- Проверить ответ нейросети перед использованием https://learn.ivan-it.net/memos/memo-40/ Источники и границы проверки ---------------------------- OpenAI. Условия использования: возраст и точность https://openai.com/policies/terms-of-use/ Просмотрено: 2026-10-27; публикация: 2026-01-01 Подтверждает: Для этого конкретного сервиса указан минимум 13 лет или местный возраст согласия; до 18 нужно разрешение родителя. Ответ может быть неточным и требует проверки. Ограничения: Это пример правил одного провайдера, не разрешение на доступ в любой стране и не общая возрастная норма всех ИИ. Курс не требует регистрации. OpenAI. Поддерживаемые страны ChatGPT https://help.openai.com/en/articles/7947663-chatgpt-supported-countries Просмотрено: 2026-10-27 Подтверждает: В просмотренном списке Россия не указана; использование вне поддерживаемых территорий может привести к блокировке. Ограничения: Доступность меняется. Курс выполняется на готовых учебных ответах без подключения сервиса и без советов обходить ограничения. OpenAI. Управление данными ChatGPT https://help.openai.com/en/articles/7730893-data-controls-in-chatgpt Просмотрено: 2026-10-27 Подтверждает: Отключение обучения и удаление истории являются разными действиями; доступные настройки зависят от аккаунта и рабочей среды. Ограничения: Это пример одного сервиса. Удаление чата не доказывает мгновенное исчезновение всех серверных копий; сроки проверяют в применимой политике.