Execution completion Во время инференса LLM не выполняется побочных эффектов, вместо этого генерируется после…
Execution completion Во время инференса LLM не выполняется побочных эффектов, вместо этого генерируется последовательность токенов, которые можно интерпретировать как намерение вызвать инструмент. Это напоминает мне ту часть шаблона transactional outbox, в которой намерение сущности (entity) отправить запрос внешней системе записывается в специальную таблицу, а не реализуется сущностью самостоятельно.В статье приведен... https://clck.ru/3S3Nhg
Автор: Habr все новости об IT