+7 (495) 320-70-49
- Назад
- Телефоны
- +7 (495) 320-70-49
- Заказать звонок
info@proxmox.su
Москва, Бакунинская улица, 69с1
Пн-Пт: 09-00 до 18-00
Сб-Вс: выходной

Ceph PG застрял в состоянии unknown / inactive после обновления?, Proxmox Виртуальная Среда

petwri

Guest

24.04.2025 20:58:00

Только что обновил PVE и Ceph до версии 19.2.1. Делал по одному узлу за другим, и поначалу всё казалось в порядке. Но когда подошёл последний из трёх узлов для перезагрузки, случился внезапный сбой электропитания. Пришлось жёстко перезапускать кластер. Всё заработало, как и ожидалось. Сразу же выключил все свои ВМ, чтобы убедиться, что с Ceph всё в порядке. Все OSD поднялись, и поначалу всё казалось нормальным. Но потом одна группа размещения (PG) стала неизвестной, а другие стали устаревшими и/или переговаривающимися. Код: pg 2.1b застрял в состоянии устаревшего уже 9 часов, текущее состояние устаревшее+переговаривающееся, последний активный [9,3]
pg 4.a застрял в состоянии переговаривающегося уже 19 часов, текущее состояние переговаривающееся, последний активный [3,9]
pg 4.4e застрял в состоянии неактивного уже 19 часов, текущее состояние неизвестное, последний активный []
pg 4.78 застрял в состоянии неактивного уже 19 часов, текущее состояние активирующееся+недостаточного размера, последний активный [3]. Кроме того, всё больше и больше OSD стали работать медленно: Код: osd.6 зафиксированы признаки медленной работы в BlueStore
osd.7 зафиксированы признаки медленной работы в BlueStore
osd.9 зафиксированы признаки медленной работы в BlueStore
osd.10 зафиксированы признаки медленной работы в BlueStore
osd.11 зафиксированы признаки медленной работы в BlueStore. Состояние SMART для всех OSD — PASSED. Что может быть причиной? Я начал уменьшать размер реплицированных пулов, чтобы временно освободить немного места и инициировать перебалансировку. Теперь я не знаю, был ли это правильный подход или что ещё можно сделать, чтобы вернуть все PG в активное состояние. Какие есть идеи?

petwri

Guest

25.04.2025 21:31:00

Я уже перезагружал несколько раз. Пытался перезапустить несколько нод, несколько сервисов mgr, несколько osd, мой свитч — пока ничего не помогло вернуть PGs. Но пока я ничего такого не делал, что могло бы перезаписать данные. Так что надеюсь, что смогу вернуть всё в рабочее состояние.

SteveITS

Guest

25.04.2025 00:14:00

По поводу медленной работы, это новое сообщение в ветке 19.2.1. Ветка "Ceph 19.2.1 2 OSD(s) experiencing slow operations in BlueStore" от 10 апреля 2025 года.

Привет,

В наших кластерах 8.4.0 после обновления Ceph с 19.2.0 до 19.2.1 (pve2/pve3) у меня появились предупреждения. Я применил "решение" с https://github.com/rook/rook/discussions/15403, но это не решило "проблему".

С уважением,
Francis
FrancisS
ceph 19.2.1 osd slow
Ответов: 91
Форум: Proxmox VE: Установка и настройка

Вы создали эти OSD в 19.x?

petwri Guest	#4 0 25.04.2025 02:44:00 Понял, уже читал, что это новое сообщение в 19.2.1. Но всё равно, PGs неактивны. Весь кластер (и каждый отдельный OSD) был настроен в 19.2.

SteveITS Guest	#5 0 25.04.2025 03:10:00 И вот что было у нас… согласно https://pve.proxmox.com/wiki/Roadmap#8.4-known-issues нужно пересоздавать каждую OSD. Не знаю, связано ли это с твоей проблемой "зависшего" состояния, но это необходимо.

petwri Guest	#6 0 25.04.2025 08:19:00 Что?! Мне нужно демонтировать весь OSD (выкинуть, начистить), а потом пересоздать его?

SteveITS Guest	#7 0 25.04.2025 15:01:00 Да…счастливый пятница. По одному. Просто будьте терпеливы и дождитесь, пока он завершит задачу, прежде чем что-то с ним делать. GUI показывает примерное время окончания, но это просто предположение.

petwri

Guest

25.04.2025 17:43:00

Окей, хорошие новости: это "всего лишь" моя домашняя лаборатория. Так что единственный, кто меня за это убьет, — это я сам. Чтобы правильно тебя понял: я буду переводить OSD в состояние down, ждать завершения перебалансировки, стирать диск, заново настраивать OSD с нуля и повторять это для каждого по очереди? Это должно вернуть мои неизвестные PGs без потери данных?

SteveITS Guest	#9 0 25.04.2025 17:58:00 Я не могу ответить по поводу застрявших OSD. Я этого не видел. Я просто говорю, что там написано, что нужно пересоздать OSD, чтобы предотвратить повреждения, согласно примечаниям к релизу. Может, попробую перезагрузить один? Или сервер? Но пересоздание их в любом случае перезагрузит его.

Читают тему

Главная Каталог 0 Корзина 0 Избранные Кабинет 0 Сравнение Акции Контакты Услуги Бренды Отзывы Компания Лицензии Документы Реквизиты Поиск Блог Обзоры