http://proxmox.su Новое в теме Запускать GPU-кластер на Proxmox – хорошая идея или лучше остаться на bare metal? форума Proxmox Виртуальная Среда на сайте Аспро: ЛайтШоп [proxmox.su] ru http://backend.userland.com/rss2 Sat, 18 Apr 2026 14:26:56 +0300 Запускать GPU-кластер на Proxmox – хорошая идея или лучше остаться на bare metal? Proxmox Виртуальная Среда в форуме Proxmox Виртуальная Среда.
Мы сейчас настраиваем проброс GPU с парой карт H100 NVL, пока что функциональность и производительность вроде бы хорошие, но виртуалке требуется огромное количество времени на загрузку. Похоже, проблема в vfio и отображении памяти, хотя конкретные детали мне пока немного за гранью моего понимания. Я пробовал некоторые обходные пути с hugepages и фиксацией NUMA, но ничего не оказывает влияния. Коротко говоря: по последнему опыту должно работать, но, возможно, с некоторыми компромиссами.
03.04.2025 10:11:00, skillz-admin.]]> http://proxmox.su/forum/messages/forum63/message307623/75336-zapuskat-gpu_klaster-na-proxmox-_-khoroshaya-ideya-ili-luchshe-ostatsya-na-bare-metal http://proxmox.su/forum/messages/forum63/message307623/75336-zapuskat-gpu_klaster-na-proxmox-_-khoroshaya-ideya-ili-luchshe-ostatsya-na-bare-metal Thu, 03 Apr 2025 10:11:00 +0300 Proxmox Виртуальная Среда Запускать GPU-кластер на Proxmox – хорошая идея или лучше остаться на bare metal? Proxmox Виртуальная Среда в форуме Proxmox Виртуальная Среда.
Сейчас у моей команды на работе заканчивается бюджет, и если не найдём, на что ещё его потратить, то, возможно, сможем использовать его для покупки дополнительных GPU. У нас сейчас есть такая система: GPU A+ Client System AS -4125GS-TNRT https://www.supermicro.com/ja/products/system/gpu/4u/as -4125gs-tnrt, которая работает под bare metal Linux, с 2 CPU, 1.5 TB RAM и одним GPU (A100 80GB). Мы сейчас думаем, можно ли добавить ещё 7x H100 NVL 94 GB (продавец утверждает, что эта деталь совместима с системой), и потом управлять всем этим через Proxmox. Планируется сделать несколько VM:
1. Запуск численного моделирования с 1 GPU
2. Запуск оптимизации измерений с 1 GPU
3. Запуск локальной большой языковой модели с RAG с 6 GPU

У меня большой опыт работы с Proxmox с версии 4.0, я установил и поддерживал более 10 машин, занимался GPU passthrough. Но с проектом такого масштаба я раньше не работал. Я хочу использовать Proxmox и, скорее всего, буду использовать статическое распределение GPU, поэтому думаю, что мне не придётся возиться с лицензиями Nvidia vGPU и прочей работой, а просто проходить GPU по одному. Интересно, не наивен ли я в этом? Буду признателен за любые мысли и опасения.
01.09.2024 16:51:00, Sandbo.]]> http://proxmox.su/forum/messages/forum63/message307622/75336-zapuskat-gpu_klaster-na-proxmox-_-khoroshaya-ideya-ili-luchshe-ostatsya-na-bare-metal http://proxmox.su/forum/messages/forum63/message307622/75336-zapuskat-gpu_klaster-na-proxmox-_-khoroshaya-ideya-ili-luchshe-ostatsya-na-bare-metal Sun, 01 Sep 2024 16:51:00 +0300 Proxmox Виртуальная Среда