Вызов инструментов: где заканчивается ответ модели

Модель может предложить вызов функции, а решение о его выполнении принимает приложение.

Иллюстрация к теме, а не фотография описанного события. Oleg Yunakov · CC BY-SA 4.0. Размер изменён; при показе возможно кадрирование.

Tool calling связывает диалог с возможностями приложения. Модель возвращает имя инструмента и аргументы в предусмотренном формате. Дальше сервер проверяет их и выполняет разрешённую операцию. Сам текст ответа модели не должен автоматически становиться командой для оболочки или запросом с произвольными правами.

Например, редакторский помощник может попросить найти черновик по идентификатору. Приложение должно ограничить поиск доступными пользователю материалами и проверить тип идентификатора. Возможность прочитать черновик не обязана давать возможность его опубликовать. Такое разделение делает поведение инструмента понятным и помогает сохранить контроль над действиями автоматизации.

Источники

  1. Официальная документация — Вызов инструментов: где заканчивается ответ моделиdocs.ollama.com