LLM простыми словами: что такое большая языковая модель

Что такое LLM простыми словами?

Языковая модель — программа, которая по началу текста предсказывает, что идет дальше. Большой ее называют из-за размера. Внутри у нее миллиарды параметров, то есть чисел, которые обучение подбирает на огромном массиве текстов так, чтобы предсказания модели сбывались все чаще.

Порядок размеров показывают открытые публикации. В статье OpenAI от 28 мая 2020 года у модели GPT-3 175 млрд параметров. Самая крупная модель Llama 3.1, которую Meta выложила в открытый доступ 23 июля 2024 года, содержит 405 млрд параметров.

Для текущих моделей Claude и GPT число параметров в документации Anthropic и OpenAI я не нашел. Сравнивать модели по этой цифре я бы не стал. Качество на ваших задачах покажет тест на своих примерах, о нем ниже.

В IT под LLM понимают сам «движок». Чат-бот, ИИ-ассистент или ИИ-агент — программы поверх модели. Они добавляют к ней интерфейс, доступ к документам и инструменты.

Как работает большая языковая модель?

Модель читает текст по токенам. Токен — кусочек текста, то есть слово, часть слова или знак. В документации Anthropic сказано, что у моделей Claude до версии 4.7 один токен в среднем равен примерно 3,5 английского символа. Новые модели дают на тот же текст примерно на 30% больше токенов. По токенам провайдеры считают цену и объем текста, который модель удерживает за один раз.

Обучение идет в два этапа. Сначала модель читает огромный корпус текстов и учится предсказывать следующее слово. После этого этапа она продолжает текст, но плохо выполняет просьбы. Затем ее дообучают на примерах диалогов и оценках людей, и модель учится отвечать на вопросы и следовать инструкциям.

Ответ модель тоже пишет по одному токену. Она смотрит на весь текст запроса вместе с уже написанной частью ответа, выбирает вероятное продолжение, дописывает его и повторяет шаг. Так складывается абзац.

Связи между словами модель держит благодаря архитектуре «трансформер». Ашиш Васвани и соавторы предложили ее 12 июня 2017 года в статье «Attention Is All You Need». Авторы построили модель только на механизме внимания и отказались от рекуррентных и сверточных слоев, которыми до этого обрабатывали текст.

Внимание позволяет каждому токену учитывать остальные токены фразы. В предложении «Агент сверил счет с договором и отправил его на согласование» слово «его» относится к счету. Механизм внимания помогает модели связать их, даже если между словами длинная вставка.

Контекстное окно задает, сколько текста модель видит за один раз. В него входят запрос, приложенные документы и уже написанная часть ответа. У текущих моделей Claude, по таблице Anthropic на 23 октября 2026 года, оно равно 1 млн токенов. Все, что не поместилось в окно или не попало в запрос, для модели не существует.

Чего LLM не умеет без RAG и инструментов?

Модель без подключений знает только то, что было в обучающих текстах, и умеет только писать текст. Отсюда три ограничения, и каждое закрывают отдельной частью системы.

К первому ограничению относится и дата среза знаний. У знаний каждой модели есть дата среза. Для текущих моделей Claude Anthropic указывает июнь 2026 года. О приказе, подписанном позже, модель узнает только из документа в запросе.

Документы компании подают модели через поиск. Система находит нужные фрагменты и вставляет их в запрос, а модель строит ответ по ним и ставит ссылку. Как это устроено, я разобрал в статье «RAG простыми словами: как ИИ отвечает по документам компании». Поиск по смыслу держится на векторах, о них отдельный материал «Эмбеддинг простыми словами: как ИИ находит смысл в тексте».

С действиями то же самое. По документации Anthropic, модель сама решает, какой инструмент вызвать, и возвращает структурированный вызов. Выполняет его приложение компании и передает результат обратно модели. Стандартный способ подключать такие инструменты я разобрал в статье «MCP-сервер простыми словами: как ИИ подключается к вашим системам».

Третье ограничение не исчезает и после подключения документов. Модель угадывает продолжение, и правдоподобная ошибка для нее выглядит так же, как верный ответ. Причины ошибок и способы проверки я собрал в статье «Галлюцинации нейросети: почему ИИ выдумывает и как это проверить».

Как подключить LLM по API?

В рабочем процессе с моделью говорит программа компании. Она отправляет запрос в API провайдера и получает ответ, а счет приходит за потраченные токены. Порядок у всех четырех провайдеров из таблицы ниже похожий.

1. Создать проект в кабинете провайдера и получить ключ API.
2. Отправить запрос с названием модели, сообщениями и параметрами ответа.
3. Забрать из ответа текст и счетчик токенов для учета расходов.

Совместимость с OpenAI экономит работу. Программу, написанную под библиотеку OpenAI, переводят на Yandex AI Studio или GigaChat сменой адреса и ключа. У GigaChat совместимость частичная, поэтому вызовы функций и формат ответа проверяют отдельно. Для кода на GigaChat API есть набор Скиллы GigaChat из восьми скиллов о выборе способа интеграции, доступе и SDK.

В Yandex AI Studio к API подключаются и готовые MCP-серверы Yandex AI Studio, через которые модель работает с внешними системами. Интерфейсы и адреса API всех четырех провайдеров я сверил с их документацией 23 октября 2026 года.

Какие LLM лучшие для бизнеса?

Лучшая модель у каждой задачи своя. Короткий список из двух или трех моделей я бы составлял по трем признакам: качество на ваших примерах, цена и место обработки данных. Публичные рейтинги помогают только с первым отбором, о них последний подраздел.

Качество на своих примерах

Соберите 30–50 типовых задач отдела с эталонными ответами, например вопросы сотрудников, письма и пункты договоров. Прогоните их через каждую модель из короткого списка и сравните ответы с эталоном. Число задач здесь мой рабочий ориентир.

Прогон удобно автоматизировать в Promptfoo. Утилита из командной строки запускает один набор задач на нескольких моделях и показывает, где ответы разошлись с ожидаемыми.

Цена за токен

Провайдеры берут деньги отдельно за входные и выходные токены. У Anthropic на 23 октября 2026 года Claude Sonnet 5.5 стоит 2 доллара за миллион входных токенов и 10 долларов за миллион выходных. В задаче, где на входе длинный договор или регламент, а на выходе абзац ответа, считайте обе части, потому что дешевых входных токенов там намного больше, чем дорогих выходных.

Где обрабатываются данные

Если в запросах есть персональные данные, провайдера выбирают по тому, где он их обрабатывает. Для облака по 152-ФЗ учитывают статью 12 о трансграничной передаче и часть 5 статьи 18 о первичной базе с данными граждан России на территории страны.

Второй путь — открытая модель на своем сервере. Ollama запускает открытые модели на компьютере или сервере компании и отдает их программам через локальный API. Тогда тексты не уходят за пределы компании, но качество открытой модели проверяют тем же набором задач, что и облачные модели из короткого списка.

Что показывают публичные рейтинги

Рейтинги полезны для первого отбора. На арене arena.ai (раньше lmarena.ai) пользователь получает ответы двух анонимных моделей и голосует за лучший ответ, из голосов складывается публичная таблица. MERA от Альянса в сфере искусственного интеллекта оценивает русскоязычные модели, в ее текстовой версии MERA Text 2.0 12 тестов.

Оба рейтинга оценивают модели на чужих задачах. Ваш набор задач точнее. Порядок в таблицах меняется с выходом новых моделей, поэтому смотрите дату обновления и проверяйте лидеров на своем наборе. Описания методик я сверил с сайтами рейтингов 23 октября 2026 года.

Где граница возможностей LLM в компании?

Сама модель только читает запрос и пишет текст. Она видит то, что ей передали в запросе: вопрос, найденные фрагменты документов, результаты инструментов. Остальные данные компании она не видит.

Действия в системах выполняет программа компании, и права ей выдают так же, как новому сотруднику. На старте я бы дал такой программе один процесс и права только на чтение в одной системе.

Человек проверяет все, что стоит денег или создает обязательства. Это цифры в платежах, условия договоров и письма клиентам перед отправкой. При ошибке модель выдаст гладкий неверный ответ, поэтому у каждого ответа должна быть ссылка на источник.

Если хотите проверить, как модель отвечает по вашим регламентам, приходите на разбор ИИ-базы знаний компании. Возьмите с собой 20–30 вопросов, которые сотрудники задают чаще всего.