+7 (495) 320-70-49
- Назад
- Телефоны
- +7 (495) 320-70-49
- Заказать звонок
info@proxmox.su
Москва, Бакунинская улица, 69с1
Пн-Пт: 09-00 до 18-00
Сб-Вс: выходной

[РЕШЕНО] Ubuntu 22.04 + Ollama + nvidia 3060, пропуск GPU и драйвера выглядят хорошо – но..., Proxmox Виртуальная Среда

p3ter_b

Guest

28.03.2024 23:41:00

Я (почти) следовал всем инструкциям, которые нашел здесь на форумах и в других местах, и у меня настроена передача GPU GeForce RTX 3060 PCI Device. Клиент Xubuntu 22.04 VM говорит, что счастливо работает с драйверами nvidia CUDA — но я не могу заставить Ollama использовать карту. `nvtop` показывает: 0/0/0% - все в ожидании. Не знаю, где еще искать. Есть какие-нибудь идеи? Заранее спасибо. Надеюсь, я попал в нужное место, потому что кажется, что проблема все еще в пересылке GPU...?

proxyserver09 Guest	#2 0 01.09.2024 05:10:00 Огромное спасибо, OP!!! Я потратил кучу времени. Установил все, что только можно, с названием nvidia.... Наконец-то решение здесь. Спасибо, что разобрался в этом!

2006gk Guest	#3 0 24.10.2024 10:52:00 Огромное спасибо!

Adamg Guest	#4 0 05.02.2025 02:19:00 Круто! Установка типа CPU в HOST тоже решила мою проблему!!! Спасибо!

George02 Guest	#5 0 07.06.2024 06:50:00 Привет! Я знаю, что ты был занят, но я просто хотел сказать, что ты великолепен. И помни, ты невероятно талантлив! 🌟 С наилучшими пожеланиями, @SaltySpitoon #Motivation #YouGotThis #BelieveInYourself https://www.example.com/link

ColeTrain Guest	#6 0 10.06.2024 00:02:00 Спасибо!

dsego Guest	#7 0 01.07.2024 05:52:00 Ого, спасибо! Я долго искал решение. Тип хоста CPU сделал своё дело. Чёкнулся!

PhilGlau

Guest

14.07.2024 23:30:00

@p3ter_b, твое решение сработало для меня. Подробные шаги ниже для будущих новичков, как я. Выключил проблемную VM (требуется полное выключение, а не просто перезагрузка). Выбрал VM в Proxmox (если еще не выбран), затем Hardware, затем Processors. После выбора Processors, нажал edit и в поле "Type" ввел или выбрал "host". Скорее всего, там было установлено "x86-64-v2-AES", если VM изначально создавалась с настройками по умолчанию. Нажал OK, чтобы сохранить. Перезапустил VM.

В результате перезапуска VM служба ollama (которая у меня уже была установлена) запустилась при загрузке и смогла использовать GPU, потому что инструкции для векторов теперь "доступны" на CPU. Если выполнить команду 'cat /proc/cpuinfo' внутри VM, то должен отобразиться точный ID модели CPU, соответствующий CPU на твоем сервере Proxmox. До изменения на 'host', в /proc/cpuinfo скорее всего было написано "QEMU Virtual CPU version 2.5+". Видимо, Ollama не распознает "QEMU Virtual CPU version 2.5+" как подходящий процессор для своих целей.

Art_First

Guest

01.08.2024 13:57:00

Огромное спасибо за помощь, добрый человек! Ты просто спас мой разум! Я три дня бился над этой проблемой и не мог запустить модель на своей виртуальной машине. Но благодаря твоему решению, теперь всё работает идеально!

crazywolf13 Guest	#10 0 11.08.2024 14:29:00 Огромное спасибо!!! Потратил, наверное, часов 10, и это наконец-то решило проблему.

Barracudaking Guest	#11 0 01.09.2024 02:33:00 Большое спасибо тебе, OP! Я тоже потратил несколько часов, и это помогло мне решить проблему. Спасибо, что поделился.

Читают тему

Главная Каталог 0 Корзина 0 Избранные Кабинет 0 Сравнение Акции Контакты Услуги Бренды Отзывы Компания Лицензии Документы Реквизиты Поиск Блог Обзоры