+7 (495) 320-70-49
- Назад
- Телефоны
- +7 (495) 320-70-49
- Заказать звонок
info@proxmox.su
Москва, Бакунинская улица, 69с1
Пн-Пт: 09-00 до 18-00
Сб-Вс: выходной

Сеть падает через 3–4 часа работы., Proxmox Виртуальная Среда

arnaudp

Guest

07.02.2023 12:12:00

Привет, у нас проблема с двухпортовой сетевой картой на 25Гб, которая «вылетает» через 3-4 часа. Вот отчет об ошибке:

Feb 07 11:27:17 pve-03 kernel: ice 0000:98:00.0 irdma0: ICE OICR event notification: oicr = 0x04000003
Feb 07 11:27:17 pve-03 kernel: ice 0000:98:00.0 irdma0: HMC Error
Feb 07 11:27:17 pve-03 kernel: ice 0000:98:00.0 irdma0: Requesting a reset
Feb 07 11:27:19 pve-03 kernel: ice 0000:98:00.0: Removed PTP clock
Feb 07 11:27:19 pve-03 kernel: ice 0000:98:00.0: Clearing default VSI, re-enable after reset completes
Feb 07 11:27:30 pve-03 kernel: vmbr0: port 1(enp152s0f0) entered disabled state
Feb 07 11:27:30 pve-03 kernel: ice 0000:98:00.0: PTP init successful
Feb 07 11:27:32 pve-03 pvestatd[2632]: Backup: error fetching datastores - 500 Can't connect to 172.16.110.233:8007 (Connection timed out)
Feb 07 11:27:32 pve-03 pvestatd[2632]: status update time (14.178 seconds)
Feb 07 11:27:35 pve-03 kernel: ice 0000:98:00.0: VSI rebuilt. VSI index 0, type ICE_VSI_PF
Feb 07 11:27:35 pve-03 kernel: ice 0000:98:00.0: VSI rebuilt. VSI index 383, type ICE_VSI_CTRL
Feb 07 11:27:37 pve-03 kernel: vmbr0: port 1(enp152s0f0) entered blocking state
Feb 07 11:27:37 pve-03 kernel: vmbr0: port 1(enp152s0f0) entered forwarding state

enp152s0f0 является vlan-aware и настроен только по vlan на vmbr0. Нет бондинга, используется стандартный порт Linux. После этой ошибки сеть вроде бы не рушится, но все виртуальные машины на узле теряют сетевое подключение. Перезагрузка виртуалок не помогает. Единственный способ восстановить — перезагрузить сервер Proxmox. Перезапуск службы сети, похоже, приводит к перезагрузке компьютера.

Версия Proxmox — последняя, 7.3.4 с ядром 5.15.83-1-pve.

У кого-нибудь была такая ошибка?

fst Guest	#2 0 16.03.2023 16:15:00 Спасибо. У меня сработало. Вот ещё отзывы о версии 6.2.x. У вас такие же симптомы? https://forum.proxmox.com/threads/opt-in-linux-6-2-kernel-for-proxmox-ve-7-x-available.124189/

Ivanhome Guest	#3 0 10.04.2023 16:11:00 Попробуй сменить DNS на 8.8.8.8, у меня так получилось починить.

Jorge Peixoto

Guest

01.06.2023 00:28:00

Я. Посмотри на это:

Мой сценарий: HPE ProLiant DL380 Gen10 Plus, два сетевых адаптера настроены как LACP OVS bonding: Intel® Eth E810-XXVDA2 и Intel® Eth Ntwk Adptr OCP3.0 E810-XXVDA2. Оба с прошивкой версии 3.20. На обоих успешно загружен DDP пакет ICE COMMS Package версии 1.3.40.0. Proxmox VE 7.4 работает на ядре 5.15.85-1-pve или 5.19.17-2-pve. PVE стабильно работает, если запущен на ядре 5.15.39-1-pve. Обновление ядра до 6.2 — не вариант, насколько я знаю, оно несовместимо с DRBD/LINSTOR. https://forum.proxmox.com/threads/kernel-6-2-drbd-inkompatibel.126902/

kev1904 Guest	#5 0 21.08.2023 09:49:00 Столкнулся с той же проблемой на DL325 Gen10 Plus — сеть/сервер падает через несколько дней. Вы как-то решили это? У нас используются 100Gbit/s QSFP адаптеры от Intel (E810-C), сертифицированные HP.

fst Guest	#6 0 21.08.2023 12:43:00 Сейчас я использую ProxMox 8.0 с ядром 6.2. На версии 5.15 помочь не могу. Пока что сбоев не было. Но я больше не запускаю pfSense на этой машине, так что сетевого трафика стало меньше.

Jorge Peixoto Guest	#7 0 21.08.2023 14:11:00 Мне удалось исправить это, обновив ядро до версии 6.2.

Simryc

Guest

13.02.2024 09:54:00

У меня тоже проблемы с картой Intel 810-C. Я заменил карту на новую, и всё было нормально больше недели, пока сегодня связь опять не оборвалась. Ядро 6.5.11-8-pve, proxmo 8.1.4. Кто-нибудь уже смог найти причину? dmesg:
Код:
[132894.250139] ice 0000:41:00.0 irdma0: ICE OICR событие уведомления: oicr = 0x04000003
[132894.250394] ice 0000:41:00.0 irdma0: Ошибка HMC
[132894.250582] ice 0000:41:00.0 irdma0: Запрос на сброс
[132895.311016] vmbr0: порт 1(enp65s0f0np0) перешёл в отключённое состояние

Первая мысль была про несовместимость драйверов с Debian 12, но, судя по отзывам других, эти карты работают нормально.

kev1904

Guest

13.02.2024 12:09:00

Привет, Simryc! Я очень долго пытался решить эту проблему. Похоже, что использование сетевых карт на 100 Гбит/с всё ещё слишком новое. В итоге мы заменили карты Intel на Mellanox (NVIDIA) ConnectX-6, и они уже несколько месяцев работают без единой проблемы.

Simryc Guest	#10 0 18.02.2024 22:37:00 После обновления BIOS на материнской плате и установки новой сетевой карты, кажется, что всё наконец заработало.

TedC

Guest

#11

17.10.2024 19:48:00

Мы наблюдаем эту проблему на трех серверах SuperMicro с сетевыми картами AOC на базе `ice`. Я зарегистрировал этот вопрос у команды драйверов Intel, чтобы попытаться разобраться с корнем проблемы: https://github.com/intel/ethernet-linux-ice/issues/12

firth Guest	#12 0 17.10.2024 23:14:00 То же самое здесь, с Intel E810-C в Supermicro SYS-221H-TN24R.

TedC Guest	#13 0 17.10.2024 23:16:00 Не мог бы ты прокомментировать это в GitHub issue, чтобы повысить шансы, что Intel обратит на это внимание? Я пока не обращался к SuperMicro, но это тоже вариант, который мы могли бы рассмотреть.

TedC

Guest

#14

01.11.2024 16:32:00

Похоже, это ошибка во взаимодействии между сетевой картой Intel и драйверами RDMA. Мне не удалось воспроизвести эту ошибку при выключенных модулях irdma и Infiniband в ядре. Драйвер сетевой карты Intel действительно пытается загрузить irdma, если он доступен, поэтому для долгосрочного решения стоит добавить этот модуль в черный список. Я продолжу тесты на выходных, и если проблем больше не возникнет, планирую внедрить решение с черным списком повсеместно.

TedC Guest	#15 0 08.11.2024 18:57:00 За последнюю неделю я убедился, что блокировка загрузки модулей RDMA и IB предотвращает эту ошибку.

Читают тему

Главная Каталог 0 Корзина 0 Избранные Кабинет 0 Сравнение Акции Контакты Услуги Бренды Отзывы Компания Лицензии Документы Реквизиты Поиск Блог Обзоры