Личное облако на Proxmox, нейронки, LLM и embedding В прошлой статье я описывал как построить сетевую часть с…
Личное облако на Proxmox, нейронки, LLM и embedding В прошлой статье я описывал как построить сетевую часть самодержавного сервера, пора принести в него что-то отдаленно разумное. Это руководство описывает весь процесс: от подготовки хоста Proxmox и настройки LXC-контейнера до поиска, конвертации и запуска embedding-моделей (на примере BAAI/bge-large-en-v1.5) с использованием Intel GPU для работы модели. Но будет легко запустить не одну модель или ... https://clck.ru/3QNNF2
Автор: Habr все новости об IT