Что такое LLM, токены и контекстное окно: без формул
LLM, токены, контекстное окно, температура, галлюцинации и мультимодальность простыми словами: почему нейросеть забывает начало разговора. Глоссарий терминов.
LLM (large language model, большая языковая модель) — это программа, которая обучена на огромном объёме текстов и умеет продолжать текст наиболее подходящим по смыслу образом. Токены — кусочки слов, которыми модель читает и пишет. Контекстное окно — сколько таких кусочков модель держит в голове за один раз. Всё, что не помещается в окно, модель не видит, отсюда и «забывчивость» в длинных чатах.
Ниже — каждый термин на бытовом примере, без математики, и таблица-глоссарий в конце.
Что такое LLM простыми словами
Представь сотрудника, который прочитал огромную библиотеку: книги, статьи, форумы, документацию, код. Он ничего не помнит дословно, зато отлично чувствует, как обычно продолжается фраза, как устроено деловое письмо и что пишут в ответ на такой вопрос.
LLM работает похоже. Ты даёшь ей начало — свой вопрос, — и она по кусочку подбирает самое уместное продолжение. Слово за словом складывается ответ.
Три важных следствия:
- Модель не ищет ответ в базе данных. Она его сочиняет по образцу того, что видела при обучении. Поэтому ответ может звучать уверенно и при этом быть неверным.
- Модель не «понимает» в человеческом смысле. Но она настолько хорошо уловила закономерности языка, что на практике справляется с анализом, переводом, кодом и рассуждениями.
- Знания модели ограничены датой. Например, по документации Anthropic, у текущих моделей Claude надёжные знания заканчиваются июнем 2026 года. О том, что было позже, модель знает, только если подключён поиск в интернете.
ChatGPT, Claude, Gemini, DeepSeek, Алиса AI, ГигаЧат — это всё чат-боты, внутри которых работают LLM. Чем они отличаются между собой, мы разобрали в статье ChatGPT, Claude, Gemini, DeepSeek: чем отличаются. А общий принцип нейросетей — в материале что такое нейросеть простыми словами.
Что такое токены в нейросети
Токен — это кусочек текста, с которым работает модель. Иногда это целое слово, иногда часть слова, знак препинания или пробел.
Бытовая аналогия: модель читает текст не по буквам и не по словам, а слогами-кубиками. Частые слова — один кубик. Редкие и длинные — несколько.
Сколько это в привычных единицах? По справке OpenAI, для английского текста 100 токенов — это примерно 75 слов. В той же справке сказано, что для других языков соотношение другое. Русский текст обычно режется на большее количество токенов, чем английский того же смысла, поэтому одна и та же страница на русском «весит» больше.
Зачем обычному пользователю знать про токены
Токены — это единица учёта у нейросетей. Через них считаются:
- Лимиты. Сколько текста можно отправить и сколько модель ответит за раз.
- Цена по API. Компании берут деньги за миллион токенов на входе и на выходе. Если ты делаешь свой сервис на нейросети, это главная статья расходов.
- Память разговора. Размер контекстного окна тоже измеряется в токенах.
Что такое контекстное окно
Контекстное окно — это объём текста, который модель видит одновременно: твои сообщения, её ответы, загруженные файлы и служебные инструкции. Всё вместе, в токенах.
Аналогия: рабочий стол. На него можно разложить определённое количество бумаг. Когда стол заполнен, чтобы положить новый лист, приходится убрать старый. Модель работает только с тем, что лежит на столе прямо сейчас.
Размеры окон в ноябре 2026 года, по официальным страницам:
| Модель или тариф | Контекстное окно |
|---|---|
| Текущие модели Claude | 1 млн токенов (Anthropic) |
| Gemini 4 по API | 1 млн токенов (Google AI Studio) |
| DeepSeek по API | 1 млн токенов (DeepSeek) |
| ChatGPT Free, быстрые ответы | 27 тыс. токенов (тарифы ChatGPT) |
| ChatGPT Plus, режим рассуждений | 256 тыс. токенов (тарифы ChatGPT) |
Обрати внимание: в бесплатном чате окно может быть в десятки раз меньше, чем у той же модели по API. Поэтому длинный договор в бесплатной версии модель может «прочитать» не целиком.
Почему нейросеть забывает, что было в начале разговора
Причин три, и все связаны с контекстным окном.
- Окно переполнилось. В длинной переписке старые сообщения перестают помещаться на «стол». Сервис их обрезает или сжимает в краткий пересказ, и детали теряются.
- Середина длинного текста читается хуже. Исследование Стэнфорда и партнёров «Lost in the Middle» (Liu и соавторы, опубликовано в TACL в 2024 году) показало: модели лучше используют информацию из начала и конца длинного контекста, а из середины — заметно хуже. Новые модели с этим справляются лучше, но привычка «важное — в начало или в конец» по-прежнему полезна.
- Новый чат — чистый лист. Модель не помнит прошлые разговоры, если в сервисе не включена функция памяти. Каждый новый чат начинается с пустого стола.
Что с этим делать на практике:
- Для новой задачи открывай новый чат, а не продолжай старый на 200 сообщений.
- Важные условия повторяй в конце запроса: «Напоминаю: ответ до 150 слов, для директора, без терминов».
- Перед длинной работой попроси модель сделать краткую сводку договорённостей и вставь её в новый чат.
Как формулировать запросы так, чтобы модель держала нужное, подробно в статье что такое промпт.
Почему нейросеть отвечает по-разному на один и тот же вопрос
Потому что модель выбирает каждый следующий токен не строго «самый вероятный», а с долей случайности. Если у фразы есть пять хороших продолжений, сегодня модель возьмёт одно, завтра — другое.
Это сделано специально: без случайности ответы получались бы сухими и повторяющимися. Для писем и идей это плюс. Для фактов и расчётов — повод задать вопрос дважды и сравнить: если ответы расходятся, модель, скорее всего, не уверена.
Что такое температура нейросети
Температура — это настройка, которая управляет долей случайности. Низкая температура — модель выбирает самые предсказуемые варианты, ответы стабильнее. Высокая — ответы разнообразнее и смелее, но и ошибок больше.
Аналогия: низкая температура — бухгалтер, высокая — креативщик на мозговом штурме.
В обычном чате ChatGPT, Claude или Gemini температуру напрямую не настроить. Она доступна в API и в некоторых сервисах для разработчиков. В чате тот же эффект дают слова: «отвечай строго по документу» снижает фантазию, «предложи 10 необычных вариантов» — повышает.
Что такое галлюцинации нейросети
Галлюцинация — это когда модель уверенно выдаёт неправду: несуществующую статью закона, выдуманную цитату, ссылку на исследование, которого не было, неверную цифру. Модель не сверяется с базой фактов, а подбирает правдоподобное продолжение, поэтому иногда угадывает там, где честнее было бы сказать «не знаю». Откуда берутся галлюцинации и как проверять ответы по чек-листу, разобрали в статье почему нейросеть ошибается.
Что такое мультимодальность
Мультимодальная модель работает не только с текстом, но и с другими типами данных: картинками, аудио, видео, файлами.
Примеры из работы:
- Сфотографировал схему с доски после совещания — модель переписала её в список задач.
- Загрузил скриншот ошибки из программы — модель объяснила, что пошло не так.
- Отправил запись созвона — получил протокол встречи.
По документации Anthropic, все текущие модели Claude принимают на вход текст и изображения. В приложениях ChatGPT, Gemini и Claude есть голосовой режим, а Gemini умеет разбирать ещё и видео. Что именно доступно бесплатно, зависит от тарифа.
Что такое «рассуждающая» модель
В 2025–2026 годах у всех крупных компаний появились модели, которые перед ответом «думают»: выписывают для себя промежуточные шаги и только потом отвечают. В интерфейсах это называется Thinking, Reasoning, DeepThink.
Такие модели медленнее, но заметно лучше справляются с задачами в несколько шагов: расчёты, анализ договора, планирование, код. Для простого письма включать «размышления» не нужно.
Глоссарий: термины нейросетей простыми словами
| Термин | Что значит | Бытовая аналогия |
|---|---|---|
| LLM | большая языковая модель, которая продолжает текст по смыслу | начитанный сотрудник, который пишет «как обычно пишут» |
| Токен | кусочек текста, единица учёта | слог-кубик |
| Контекстное окно | сколько токенов модель видит одновременно | размер рабочего стола |
| Промпт | твой запрос к модели | техническое задание |
| Системная инструкция | скрытые правила от сервиса или от тебя | должностная инструкция |
| Температура | доля случайности в ответе | бухгалтер или креативщик |
| Галлюцинация | уверенный, но выдуманный ответ | студент, который угадывает на экзамене |
| Дата отсечки знаний | до какого момента модель знает о мире | газета, которую перестали выписывать |
| Мультимодальность | работа с картинками, звуком, видео | сотрудник, который не только читает, но и смотрит и слушает |
| Рассуждающая модель | модель, которая думает по шагам перед ответом | черновик перед чистовиком |
| API | доступ к модели из программ, а не через чат | служебный вход для разработчиков |
| Агент | модель, которая сама выполняет действия: ищет, открывает файлы, запускает код | ассистент с доступом к компьютеру |
Как эти знания помогают в работе
Понимание пяти терминов уже снимает большую часть разочарований:
- Модель «забыла» условие — значит, оно выпало из окна. Повтори его.
- Ответы разные — это случайность. Для фактов спроси дважды и сравни.
- Модель не знает свежих новостей — у неё дата отсечки. Включи поиск или дай текст сам.
- Модель выдумала источник — это галлюцинация. Проверь по первоисточнику.
- Длинный документ разобран не целиком — не хватило окна. Разбей его на части.
Если хочешь сразу перейти к практике, начни со статьи как начать пользоваться нейросетями. Попробовать разные модели бесплатно и сравнить их на своей задаче можно в Arena.
Частые вопросы
Чем LLM отличается от нейросети?
Нейросеть — общее название технологии. LLM — разновидность нейросети, которая работает с текстом и обучена на огромном его объёме. Генераторы картинок и видео тоже нейросети, но не LLM.
Сколько слов помещается в контекстное окно?
Зависит от модели и языка. Anthropic пишет, что 1 млн токенов на текущих моделях Claude — это около 555 тысяч английских слов. Русских слов поместится меньше, потому что русский текст режется на большее число токенов.
Почему ChatGPT не помнит наш вчерашний разговор?
Каждый чат по умолчанию начинается с чистого листа. Некоторые сервисы умеют запоминать факты о тебе между чатами, если функция памяти включена в настройках. Но содержимое прошлых чатов модель целиком не видит.
Можно ли убрать галлюцинации полностью?
Нет. Их можно заметно снизить: давать модели документ-источник, просить ссылки, разрешать ответ «не знаю». Но проверка фактов остаётся на тебе.
Нужно ли знать эти термины, чтобы пользоваться нейросетью?
Чтобы задать вопрос — нет. Чтобы понимать, почему ответ получился плохим, и исправлять это — да. Это пять-десять минут чтения, которые экономят часы.
Читай также
Что нельзя отправлять нейросетям: личные данные и тайна
Какие данные опасно вставлять в ChatGPT, Claude и Gemini, как отключить обучение на переписке, как обезличить документ и при чём здесь 152-ФЗ.
11 ноябряКак вкатиться в AI с нуля: план на 3 месяца для взрослых
План входа в AI для работающих взрослых: от пользователя до смежных ролей. Что учить, сколько часов, бесплатные курсы Google, Anthropic, OpenAI, Яндекса.
11 ноябряНейросети в работе: 20 задач, которые можно отдать ИИ сегодня
20 рабочих задач для нейросети: офис, продажи, маркетинг, HR, бухгалтерия, руководитель. Как написать запрос, чем проверить ответ и где ИИ не справится.
11 ноября