Non credo che trovi la risposta in Process Monitor, perché apparentemente non c'è nessun processo in loop (CPU sta a 0% come si vede dal video che hai condiviso) e nessun evento negativo (i processi sembrano in stallo e non riportano errori di nessun tipo). Ma si crea una wait chain tra vari processi (explorer.exe e OpenWith.exe sicuramente, come risulta dai dump user-mode che hai condiviso, ma probabilmente ci sono altri processi coinvolti).
Tuttavia, dare un'occhiata Process Monitor male non fa.
Filtrerei per Process Name explorer.exe, OpenWith.exe e dllhost.exe. I primi due sono i processi che sono in deadlock. dllhost.exe è un processo host che spesso viene coinvolto in operazioni di questo tipo, e potrebbe essere lui la causa dello stallo. Guarderei gli eventi con esito negativo (esito diverso da STATUS_SUCCESS).
Se vuoi, puoi mandarmi anche una traccia. Combinando le informazioni estratte dalla traccia di Process Monitor (in formato PML) con le informazioni contenute nel dump, potremmo riuscire a individuare il problema.
Dato che la comunicazione inter-process avviene in kernel-mode, come già detto per tracciare bene il problema servirebbe un dump kernel-mode e un traccia ETW per fare kernel-level tracing. Da questi è possibile ricostruire la wait chain tra i processi e la parte di stack kernel-mode che non compare nei dump user-mode.
Apprezzo e condivido la tua voglia di approfondire il problema.