Domanda molto interessante . Siccome la vista dovrebbe conoscere il viewmodel, ma il viewmodel non dovrebbe conoscere la view, l'ipotesi di creare la window nel viewmodel è da scartare.
Quella del code behind invece è pulita perché è la view che istanzia la finestra e il viewmodel ma l'azione che lo farebbe sarebbe un normale handler, invece dei command del viewmodel, rendendolo un po' bruttino.
La soluzione del toolkit mi piace, ma forse non sempre applicabile.
Un'altra possibile soluzione è preparare un evento sul viewModel ad indicare che necessiti di aprire una nuova view, la view principale la intercetta e fa il resto, mantenendo la testabilità.
A questo punto decidere è solo una questione di quanto vuoi restare puro puro. Probabilmente opterei per la soluzione del toolkit, usando un manager come punto di contatto tra view e model, magari usando IOC così in fase di test non mostri nessuna finestra.

Tieni duro con questo pattern perché vedrai che paga molto se sfrutti a pieno le potenzialità di WPF

Bene, mi fa piacere che non dico cavolate
Comunque se tu scrivi classi di supporto o behavior piuttosto astratti, una volta fatte le puoi usare per altri progetto, aumentando moltissimo la produttività