Основы искусственного интеллекта

Искусственный интеллект — это инструмент для работы с информацией, а не электронный собеседник. Он получает запрос, учитывает доступный контекст и строит ответ. Иногда этот ответ можно использовать сразу, но чаще его нужно проверить и отредактировать. Убедительный тон не означает, что система понимает ситуацию как человек или сообщает только верные сведения.

Ниже разобраны семь понятий, которые пригодятся при работе с ИИ-сервисами. Они помогут точнее ставить задачи, проверять ответы и не передавать системе решения, за которые отвечает человек.

1. Модель: механизм, а не личность

Модель (model) — обученная математическая система, которая находит закономерности в данных и создаёт результат по входному запросу. Языковая модель работает с последовательностями текста: оценивает, какое продолжение подходит к данному контексту, и шаг за шагом формирует ответ. Мультимодальная модель (multimodal model) может дополнительно принимать изображения, звук, видео или файлы.

Обучение на большом количестве примеров даёт модели широкий круг навыков: перефразировать, классифицировать, составлять план, объяснять, переводить, выделять темы. Но в ней нет аккуратно разложенной энциклопедии, из которой она копирует проверенные факты. Знание распределено по параметрам модели. Поэтому правдоподобное продолжение может оказаться неверным.

Разные модели рассчитаны на разные компромиссы. Одна отвечает быстрее и дешевле, другая дольше анализирует сложную задачу, третья лучше работает с изображениями. Название сервиса и название модели — не одно и то же. Внутри одного сервиса модели могут меняться, а режим «исследование» может подключать поиск, выполнение кода и другие инструменты поверх модели.

Оценивайте не «характер» ИИ, а соответствие инструмента задаче. Для короткого черновика важны скорость и удобство. При анализе договора нужны работа с полным документом, ссылки на фрагменты и возможность проверить каждый вывод. Для ответственного решения одной модели недостаточно.

2. Контекст: рабочий стол модели

Контекст (context) — всё, что система учитывает прямо сейчас: ваш запрос, предыдущие сообщения, прикреплённые файлы, системные инструкции и результаты подключённых инструментов. Его удобно представить как ограниченный рабочий стол. Если нужного документа на столе нет, модель либо опирается на общие закономерности обучения, либо пытается заполнить пробел догадкой.

У контекста есть предел — контекстное окно (context window). Очень длинная переписка или большой набор файлов может не поместиться целиком. Сервис способен сжимать ранние сообщения, искать подходящие отрывки или исключать часть материала. Это полезно, но создаёт риск: важная оговорка потеряется, а поздний ответ будет противоречить начальным условиям.

Как управлять контекстом:

начинайте новую беседу, если задача заметно изменилась;
помещайте важные ограничения в текущий запрос, а не ссылайтесь на далёкое сообщение;
называйте источник и нужный раздел, когда прикрепляете несколько файлов;
просите отделить вывод из документов от общих предположений;
после длинной работы попросите кратко перечислить принятые условия и проверьте этот список.

После загрузки документа попросите назвать его заголовок, дату и основные разделы. Так проще заметить, что сервис открыл не тот файл, пропустил приложение или неверно распознал скан. Если ответ должен учитывать несколько документов, сначала проверьте их список и версии, а затем переходите к выводам.

Большой контекст не равен идеальной памяти. Наличие текста в беседе не гарантирует, что модель правильно связала все его части. Важные цифры, отрицания, исключения и даты проверяйте отдельно.

3. Промпт: постановка задачи

Промпт (prompt) — инструкция или вопрос, который вы передаёте системе. Он не обязан быть длинным. Важно убрать существенную неоднозначность. Для большинства бытовых задач достаточно пяти элементов:

результат: что нужно получить;
контекст: для кого и зачем это делается;
исходные данные: текст, факты или критерии;
ограничения: что нельзя менять, выдумывать или раскрывать;
форма: длина, структура и желаемый тон.

Например, вместо «напиши письмо» полезнее сказать: «Составь короткое нейтральное письмо организатору курса. Я пропустил занятие по болезни и хочу узнать, можно ли получить материалы. Не придумывай медицинские подробности. Тема письма и три абзаца». Такая постановка описывает наблюдаемый результат и границы.

Редко стоит ждать готового ответа после одной команды. Сначала запросите структуру, затем черновик, проверьте его по критериям и отредактируйте. Если результат не подходит, назовите конкретный дефект: «второй абзац звучит как обещание», «таблица смешивает факты и оценки», «пропущено ограничение по сроку». Просьба «сделай лучше» почти не добавляет полезного контекста.

Можно отдельно спросить: «Каких данных не хватает и какие предположения ты сделал?» Это не устраняет ошибки, но показывает места, где системе пришлось угадывать.

4. Галлюцинации: уверенная ошибка

Галлюцинация (hallucination) — сгенерированное утверждение, которое выглядит правдоподобно, но не подтверждается источниками или прямо им противоречит. Модель может выдумать название исследования, перепутать автора, продолжить несуществующую цитату, неверно сложить числа или приписать документу отсутствующий пункт.

Это не редкое исключение, которое можно убрать просьбой «не ошибайся». Генерация правдоподобного текста — основной механизм языковой модели. Поиск, цитирование и выполнение кода уменьшают некоторые риски, но не превращают ответ в доказательство. Ссылка может вести на реальную страницу, которая не подтверждает сделанный вывод.

Риск выше, когда запрос касается:

свежих событий и часто меняющихся правил;
редкой темы, местной организации или малоизвестного документа;
точной цитаты, номера пункта, даты, имени или статистики;
сложного расчёта без показанных исходных данных;
медицины, права, финансов и безопасности;
ответа, который слишком хорошо совпадает с желаемым выводом.

Проверяйте утверждение по первоисточнику: закон в официальной публикации, условия сервиса в его справке, научный вывод в исходной работе, число в таблице и пересчёте. Если первоисточник недоступен, напишите «подтверждение не найдено» вместо уверенного пересказа.

Для важных задач попросите модель составить таблицу «утверждение — источник — точный фрагмент — степень уверенности», а затем откройте источники сами. Эта таблица организует проверку, но не заменяет её.

5. Температура и вариативность

Один и тот же запрос способен давать разные ответы. Вариативность связана с тем, что при генерации выбирается одно из нескольких вероятных продолжений. Температура (temperature) — технический параметр, который в некоторых интерфейсах управляет разнообразием выбора. Высокая вариативность может быть полезна для идей, низкая — для повторяемой обработки, но ни одна настройка не делает результат истинным.

Не оценивайте надёжность по повторению ответа. Если пять запусков дали одинаковую ошибку, она не стала фактом. И наоборот, несколько разных формулировок могут выражать одну верную мысль. Для творческой работы собирайте варианты и выбирайте осознанно. Для фактической — фиксируйте источники и правила проверки.

Когда нужна воспроизводимость, дайте явный шаблон: названия полей, порядок разделов, допустимые значения и пример на вымышленных данных. Затем проверьте формат программой или вручную.

6. Инструменты и поиск

Сама модель генерирует ответ. Инструмент (tool) позволяет ей выполнить дополнительное действие: найти страницу, прочитать файл, запустить вычисление, создать изображение или обратиться к календарю. Система решает, когда вызвать инструмент, получает результат и продолжает работу с ним в контексте.

Поиск полезен для актуальной информации и источников. Выполнение кода помогает проверить арифметику и обработать таблицу. Работа с файлами позволяет отвечать по переданному материалу. Но на каждом переходе возможна ошибка: неверный запрос, неподходящий источник, неправильное извлечение, ошибочная интерпретация или слишком широкий доступ.

Проверяйте цепочку, а не только финальный абзац:

какую задачу система поняла;
какой инструмент выбрала;
какие данные получила;
как связала данные с выводом;
что осталось предположением.

Если сервис показывает ход работы, это помогает аудиту, но подробное объяснение тоже может быть сгенерировано неточно. Надёжнее опираться на наблюдаемые артефакты: открытые страницы, журнал изменений, исходный файл, выполненный расчёт и итоговую разницу.

7. Безопасность и конфиденциальность

О конфиденциальности (privacy) нужно подумать до отправки запроса. После загрузки данных действуют правила сервиса: настройки аккаунта, срок хранения, возможность просмотра сотрудниками и доступ подключённых приложений. Эти условия различаются и меняются.

Не отправляйте в потребительский ИИ-сервис без понятного разрешения:

пароли, ключи доступа, коды восстановления и платёжные реквизиты;
полные медицинские карты и документы, удостоверяющие личность;
коммерческие тайны, закрытый исходный код и внутренние отчёты;
чужие персональные данные, переписку и фотографии;
сведения, публикация которых нанесёт реальный вред.

Удаление имён не всегда достаточно. Человека можно узнать по сочетанию должности, города, редкого события и даты. Минимизация данных (data minimization) означает: передавать только тот фрагмент, без которого задача не решается. Заменяйте реальные реквизиты вымышленными, обобщайте суммы, убирайте метаданные и проверяйте, нет ли скрытых листов или комментариев в файле.

Перед подключением почты, диска или календаря выясните, какие данные сервис сможет читать и какие действия выполнять. Начинайте с минимальных прав. Подтверждайте отправку сообщений, публикацию, удаление и покупки вручную. Двухфакторная аутентификация защищает аккаунт, но не исправляет чрезмерный доступ самого приложения.

Если утечка текста создаст серьёзную проблему, не загружайте его, пока не проверены договор, настройки, полномочия и правила вашей организации.

Надёжный рабочий цикл

Для повседневной задачи используйте короткий цикл:

Сформулируйте результат. Опишите, что сможете увидеть и проверить.
Уберите лишние данные. Оставьте минимально необходимый контекст.
Дайте критерии. Укажите аудиторию, формат и запреты.
Получите черновик. Не публикуйте его автоматически.
Проверьте факты и расчёты. Откройте первоисточники.
Отредактируйте голос и смысл. Ответственность остаётся у автора.
Сохраните финальную версию отдельно. Чат не должен быть единственным местом хранения результата.

ИИ лучше не использовать, если вы не можете проверить результат, не имеете права передавать исходные данные или пытаетесь заменить им срочную профессиональную помощь. При непосредственной угрозе здоровью и безопасности обращайтесь к людям и службам, которые действительно могут действовать.

Следующий шаг — открыть раздел «Какой ИИ выбрать» и начать не с названия сервиса, а с типа своей задачи.

Практикум: от расплывчатого запроса к проверяемому

Рассмотрим бытовую задачу: нужно подготовиться к разговору с управляющей компанией о повторяющейся протечке. Запрос «помоги разобраться с протечкой» слишком широк. Модель не знает, где произошло событие, какие документы есть и какой результат нужен. Она может начать давать технические или юридические советы, хотя пользователь хотел лишь организовать свои записи.

Безопасная постановка выглядит иначе:

По приведённой ниже хронологии составь таблицу из четырёх столбцов: дата, наблюдение, предпринятое действие, подтверждающий файл. Не добавляй причины протечки и юридические выводы. После таблицы перечисли недостающие даты и вопросы, которые стоит уточнить у специалиста. Используй только текст в этом сообщении.

Здесь определён продукт — таблица, источник — сообщение, запрет — не диагностировать и не делать правовых выводов, а также способ обращения с пробелами. Полученный результат всё равно нужно сверить, но тип возможной ошибки уже ограничен.

Сначала данные, потом формулировка

Если задача фактическая, отделите исходные данные от инструкции. Пометьте блоки: «задача», «материал», «ограничения», «формат». Не смешивайте в одном абзаце цитату из документа и свою команду. Это особенно важно, когда внутри материала могут встречаться фразы вроде «игнорируй предыдущие указания».

Давайте ровно столько данных, сколько нужно. Для редактуры одного абзаца не требуется весь договор. Для сравнения трёх предложений можно скрыть имена и оставить характеристики. Если задача без реальных данных не решается, сначала выясните, разрешена ли их передача выбранному сервису.

Просите показать неопределённость

Ответ без оговорок читается легче, поэтому модель склонна сглаживать неопределённость. Верните её в явный вид:

«пометь места, которые нельзя подтвердить из материала»;
«не выбирай вариант, пока не перечислишь недостающие критерии»;
«для каждого числа укажи строку исходной таблицы»;
«раздели прямой вывод и возможное объяснение»;
«если два документа конфликтуют, покажи конфликт, а не объединяй версии».

Эти инструкции не гарантируют честность модели, зато задают структуру для ручной проверки.

Используйте примеры осторожно

Один пример помогает показать формат, но может случайно сузить содержание. Если в образце три пункта, модель решит, что ответ всегда должен иметь три пункта. Укажите, что в примере обязательно, а что случайно: «сохрани названия полей, но число строк определяется материалом».

Для классификации полезны два контрастных примера: что относится к категории и что не относится. Используйте вымышленные данные. После этого проверьте пограничный случай, который отличается от примера.

Как проверять разные виды результата

Проверка зависит от результата. Универсальная просьба «перепроверь себя» слабее, чем внешний критерий.

Текст

Сверьте имена, даты, числа и обещания с исходниками. Удалите повторения и канцелярские вводные. Прочитайте текст как адресат: не появились ли обвинение, гарантия или срочность, которых вы не задавали? Убедитесь, что голос принадлежит вам, а не безличному шаблону.

Конспект

Выберите по одному тезису из начала, середины и конца источника. Проверьте, не потеряны ли отрицание и условия. Хороший конспект может опускать детали, но не должен менять направление вывода.

Таблица

Проверьте число строк до и после обработки, единицы измерения, пустые значения и дубликаты. Пересчитайте несколько ячеек независимо. Если модель преобразовала дату или валюту, зафиксируйте правило преобразования.

Перевод

Сверьте термины, имена собственные, числа и модальные слова: «может», «должен», «рекомендуется». Для публикации нужен человек, владеющий языком и предметной областью. Машинный перевод особенно легко искажает двусмысленную фразу.

Код

Прочитайте разницу, запустите автоматические тесты и проверьте ошибочный ввод. Убедитесь, что не появились новая зависимость, сетевой запрос, сбор данных или широкое разрешение. Проходящий тест доказывает только проверенное поведение.

План

Проверьте зависимости, ответственных, реальные сроки и точку остановки. Найдите шаги, которые нельзя отменить. План должен обозначать неизвестное, а не маскировать его точной датой.

Частые ошибки начинающих

Антропоморфизм. Фраза «модель думает» удобна, но заставляет приписывать ей намерения, память и понимание. Для оценки результата полезнее спрашивать, какие данные были доступны и какая проверка выполнена.

Доверие длинному ответу. Подробность выглядит как компетентность, хотя каждый новый факт создаёт ещё одну точку отказа. Просите краткий ответ, если задача проста, и расширяйте только нужный раздел.

Смена задачи в старом чате. В контексте остаются прежние цели и стиль. Новая беседа с короткой актуальной постановкой часто надёжнее бесконечных исправлений.

Публикация первого черновика. Модель оптимизирует правдоподобный текст, а не вашу репутацию. Сделайте паузу, проверьте источники и отредактируйте формулировки.

Загрузка всего архива. Избыток данных ухудшает навигацию и повышает риск раскрытия. Начните с минимального набора и добавляйте документы по необходимости.

Поиск подтверждения желаемому выводу. Запрос «докажи, что мой вариант лучше» подталкивает к одностороннему ответу. Просите сильнейшие возражения, условия, при которых выбор неверен, и отсутствующие данные.

Для работы с ИИ не нужна техническая профессия. Формулируйте проверяемый результат, передавайте только нужные данные и независимо проверяйте важные части ответа.