Какой процессор у вашего сервера? Proxmox может виртуализировать TPM, но если ваш процессор не поддерживает инструкции, необходимые для Windows 11, то ничего не получится (без каких-то грязных хаков...).

Виртуализация Windows 11 на этом железе не работает, процессор слишком старый и не поддерживает нужные инструкции, которые требуются Windows 11 (предполагая, что у вас Intel Xeon E5-26xx v2). Можно, конечно, попробовать один из этих хаков в реестре, которые валяются в интернете, чтобы заставить её работать, но с очередным обновлением Windows 11 скорее всего перестанет. Proxmox с этим процессором должен справиться, можно попробовать загрузить ISO-образ установщика, чтобы проверить общую совместимость оборудования.