Allora, ci sto capendo meno di prima ma almeno adesso funziona. A sto punto volevo avere una risposta ed ho riprovato ma c'è ancora più confusione.
Ho ripristinato lo stesso sistema con l'unica differenza che prima di installare W11 ho disabilitato la virtualizzazione SVM da BIOS.
Non ho avuto più BSOD ma i driver ufficiali non sono riuscito tuttora ad installarli. Durante l'installazione due volte si è riavviato automaticamente il PC in seguito al momentaneo spegimento del monitor ma al riavvio nessun driver installato ed ovviamente nessuna scheda riconosciuta.
In un altro paio di occasioni l'installazione è arrivata fino alla fine ma senza click dei relè e momentaneo spegnimento del monitor. Driver installati ma nessuna scheda rilevata, neanche in seguito ad un riavvio.
Ho riattivato nuovamente SVM nel BIOS, ho riabilitato l'isolamento core che stavolta non era attivo di default rispetto alla precedente installazione e nessun BSOD nemmeno stavolta durante l'installazione dei driver ufficiali ma continuano a non installarsi correttamente o non funzionano.
A sto punto ho provato ad installare gli Unixonar (sempre con SVM e isolamento core attivi, stessa identica situazione di ieri), dopo aver disabilitato la firma driver, stavolta si sono installati al primo colpo.

Funzionare ora funziona ma chissà perchè ieri non funzionava. Tra l'altro gli stessi driver Unixonar con la STX sono andati al primo colpo, con la STX II era tutto un BSOD.
Vabbè funziona (con gli Unixonar qua) anche se può non funzionare o causare problemi per un qualche motivo ancora ignoto.
EDIT Ok, penso che sia proprio la virtualizzazione e/o l'isolamento core a creare il problema anche se non sempre.
Ho disintallato nuovamente gli Unixonar e:
ho provato ad installare i driver ufficiali disablitando la firma driver anche con questi (con SVM e isolamento core attivi) -> BSOD con codice di interruzione HYPERVISOR_ERROR causato da STXII.sys
ho provato a reinstallare gli Unixonar disabilitando la firma driver (con SVM e isolamento core attivi) -> BSOD con codice di interruzione HYPERVISOR_ERROR causato da cmudaxp.sys
ho reinstallato gli Unixonar, sempre con firma disattivata, dopo aver prima disabilitato l'isolamento core e SVM -> driver installati e subito funzionanti senza riavvio
Ora sarebbe da testare a lungo e in varie situazioni di utilizzo ma al momento sembrerebbe essere un problema legato proprio alla virtualizzazione. Se non altro sarebbe da disabilitare almeno in fase di installazione, eventualmente riabilitarla successivamente e vedere se si manifestano problemi.
*resta sempre l'incognita dei driver della STX installati al primo colpo con SVM e core isolation attivi ma anche con la STX II si sono installati in un'occasione...