Словарь ИИ

Здесь собраны практические определения для чтения интерфейсов и документации. Это не технический учебник. Английские названия указаны рядом, потому что они часто встречаются в настройках сервисов.

А–Д

Агент (agent)

Система, которая получает цель, выбирает последовательность шагов, использует инструменты и оценивает промежуточный результат. В отличие от обычного ответа в чате агент способен действовать несколько циклов. Чем больше у него прав, тем важнее лимиты, журнал и подтверждение необратимых действий.

Большая языковая модель (large language model, LLM)

Модель, обученная на большом объёме текста предсказывать и создавать последовательности. Она умеет работать со многими языковыми задачами, но генерирует правдоподобный ответ, а не извлекает гарантированно верную запись из энциклопедии.

Векторное представление (embedding)

Набор чисел, который кодирует смысловые свойства текста, изображения или другого объекта. По близости таких представлений системы ищут похожие фрагменты. Пользователь часто встречает embeddings косвенно — в семантическом поиске и подборе контекста.

Галлюцинация (hallucination)

Уверенно сформулированный, но неподтверждённый или неверный результат модели. Галлюцинацией может быть выдуманная ссылка, неверная цитата или ошибочная связь между настоящими фактами. Такие ответы нужно сверять с первоисточниками.

Генеративный ИИ (generative AI)

Системы, создающие новый текст, изображение, звук, видео или код на основе запроса и примеров обучения. «Новый» не означает полностью оригинальный или юридически свободный от ограничений.

Данные обучения (training data)

Примеры, на которых модель училась находить закономерности. Пользователь обычно не видит точный состав данных. Наличие темы в обучении не гарантирует полноту, свежесть или правильность ответа о ней.

Дообучение (fine-tuning)

Дополнительное обучение готовой модели на подобранных примерах для конкретного поведения или формата. Это не то же самое, что прикрепить документ к беседе: файл становится контекстом, но обычно не меняет параметры модели.

И–М

Извлечение с дополненной генерацией (retrieval-augmented generation, RAG)

Подход, при котором система сначала ищет подходящие фрагменты в базе документов, а затем передаёт их модели для ответа. RAG повышает привязку к источникам, но ошибка поиска или интерпретации всё ещё возможна.

Инструмент (tool)

Доступное модели действие: поиск, чтение файла, вычисление, работа с календарём или вызов программы. Инструмент расширяет возможности модели и одновременно границы потенциальной ошибки.

Инъекция в подсказку (prompt injection)

Попытка внедрить вредоносную инструкцию через данные, которые читает модель: страницу, письмо, документ. Защита включает разделение инструкций и данных, минимальные права и подтверждение внешних действий.

Искусственный интеллект (artificial intelligence, AI)

Общее название методов, позволяющих компьютерным системам выполнять задачи, которые связывают с восприятием, языком, прогнозированием и выбором действий. Термин охватывает гораздо больше, чем современные чат-сервисы.

Контекст (context)

Информация, доступная модели при создании текущего ответа: запрос, история беседы, файлы, инструкции и результаты инструментов. Если важного условия нет в контексте, модель не обязана его учитывать.

Контекстное окно (context window)

Максимальный объём информации, который модель может обработать вместе. Сервис может сокращать старую переписку или выбирать лишь части документов, поэтому длинная беседа не равна безупречной памяти.

Машинное обучение (machine learning, ML)

Подход, при котором система настраивает поведение по данным, а не только следует написанному вручную набору правил. Качество зависит от данных, цели обучения, проверок и условий применения.

Модель (model)

Обученная математическая система, преобразующая входные данные в прогноз или сгенерированный результат. Сервис может скрывать конкретную модель или переключать её в зависимости от задачи и тарифа.

Мультимодальность (multimodality)

Способность работать с несколькими типами данных: текстом, изображением, аудио, видео. Мультимодальная модель может описать фотографию или ответить по схеме, но не гарантирует точного чтения мелких деталей.

Н–П

Нейронная сеть (neural network)

Математическая модель из множества связанных вычислительных слоёв. Слово «нейронная» отражает историческую аналогию, но такая сеть не является цифровой копией человеческого мозга.

Параметры модели (parameters)

Числовые значения, настроенные во время обучения. Они определяют преобразование входа в выход. Большее число параметров само по себе не доказывает, что модель лучше для конкретной задачи.

Персонализация (personalization)

Настройка ответов на основе указанных предпочтений, истории или подключённых данных. Она экономит повторные объяснения, но требует понимать, что сохраняется, как удаляется и кто имеет доступ.

Подсказка, или промпт (prompt)

Запрос и инструкция для модели. Хороший промпт описывает результат, контекст, исходные данные, ограничения и формат. Особые формулы не нужны.

Предвзятость (bias)

Систематический перекос в данных, оценке или результате. Модель может воспроизводить неравномерное представление групп и распространённые стереотипы. Проверка должна учитывать, кто отсутствует в данных и кому повредит ошибка.

Преобразователь (transformer)

Архитектура нейронных сетей, лежащая в основе многих языковых моделей. Механизм внимания помогает учитывать связи между частями последовательности. Для практического выбора сервиса важнее проверяемое качество, чем название архитектуры.

Промпт-инжиниринг (prompt engineering)

Систематическая постановка задач модели и проверка результатов. В повседневной работе это ясное техническое задание, примеры, критерии и итерации, а не коллекция секретных формул.

С–Я

Семантический поиск (semantic search)

Поиск по близости смысла, а не только по совпадению слов. Он может найти «оплата не прошла» по запросу «проблема с транзакцией», но способен пропустить важное точное совпадение. Для кодов и имён полезен обычный поиск.

Системная инструкция (system instruction)

Правило верхнего уровня, которое задаёт роль, границы и поведение модели в приложении. Пользователь не всегда видит его полностью. Оно сильнее обычного сообщения, но не является абсолютной защитой.

Температура (temperature)

Параметр вариативности генерации. Более высокое значение обычно даёт разнообразные ответы, низкое — более устойчивые. Температура не измеряет достоверность.

Токен (token)

Небольшая единица текста, которую обрабатывает модель: слово, часть слова, знак или пробел. Лимиты контекста и использования часто считают в токенах, поэтому число слов и число токенов не совпадают.

Человек в контуре (human in the loop)

Организация процесса, при которой человек проверяет промежуточные результаты и подтверждает важные действия. Это особенно нужно, когда ошибка затрагивает деньги, доступ, публикацию, здоровье или других людей.

Цепочка инструментов (tool chain)

Последовательность внешних действий, результаты которых передаются друг другу: поиск, чтение страницы, извлечение таблицы, расчёт и запись файла. Ошибка в начале может распространиться на весь итог.

Чат-бот (chatbot)

Интерфейс диалога с системой. За ним может стоять простая база ответов, языковая модель или агент с инструментами. Внешний вид чата не говорит о реальных возможностях и доступах.

Эталонная проверка (benchmark)

Набор заданий и метрика для сравнения моделей. Результат полезен только в условиях конкретного теста и может не предсказывать качество на ваших данных. Один рейтинг не заменяет пробную задачу.

API (application programming interface)

Программный интерфейс, через который одно приложение обращается к другому. Использование API требует ключа, контроля расходов, обработки ошибок и защиты данных. Для обычного диалога в готовом сервисе API не нужен.

Автоматизированная оценка (evaluation, eval)

Повторяемая проверка результата по набору примеров и критериев. Оценка помогает заметить регрессии при смене модели или промпта, но сама должна быть проверена и дополнена человеческим суждением.