Wollte mir selbst mit einem vor konfigurierten System genau diese Nervenrobe ersparen... aber gerade weiß ich garnicht mehr wo ich weitermachen soll...
Schau mal nach, welche DirectShow-Filter im Player aktiv sind. Vielleicht hängt da SVP mit drin oder so. Und prüfe die Auflösungen, auf die madVR ggf. wechselt.
Ansonsten: vorkonfiguriert ist immer schlecht, da du nichts über das System weißt. Mach es lieber neu und lerne selbst. Das ist der schmerzhafte Weg, den alle HTPC-Nutzer gehen müssen.