Усі статті за тегом ai-agents
Який сервер потрібен для Ollama та локальних LLM: CPU, RAM, GPU і VRAM
Чи можна запустити власну мовну модель на звичайному VPS, чи для цього обов'язково потрібен потужний сервер із GPU? Все залежить від розміру моделі, обсягу оперативної пам'яті та вимог до швидкості її роботи. Наприклад, для запуску невеликої LLM із 3 мільярдами параметрів може вистачити звичайного VPS, тоді як модель із 30 мільярдами параметрів потребуватиме значно більше ресурсів.
У цій статті розберемося, як правильно підібрати сервер для Ollama: скільки потрібно RAM і VRAM, коли достатньо процесора без відеокарти, а коли варто обирати GPU. Також розглянемо конкретні конфігурації серверів для запуску моделей різного розміру.
Безпечний запуск Claude Code на VPS: Docker Sandbox замість доступу до всього сервера
Claude Code може читати файли, змінювати код і виконувати команди в терміналі. На VPS це не просто зручний AI-помічник, а процес із доступом до серверного оточення: .env, SSH-ключів, конфігів, дампів і файлів інших проєктів.
У статті розбираємо, як запускати Claude Code безпечніше — через Docker Sandbox та sbx. Такий підхід ізолює агента від усього сервера, залишає йому доступ лише до потрібного проєкту і дозволяє сміливіше виконувати команди всередині контейнера, не ризикуючи production-середовищем.
#ai-agents #claude-code #cloud #docker #programming #security #ubuntu
