Gerade habe ich mal einen Blick auf Deine Messungen geworfen.
Ohne Glättung sieht das ganz schön zappelig aus. Ein erstes Anzeichen, dass es zu vielen Reflexionen kommt.
Das hier ist die Messung mit dem optimierten Sub und einer 1/12 Glättung
Bei dem Blick auf die Nachhallzeit offenbart sich das eigentliche Problem. Es gibt viele Reflexionen an den schallharten Oberflächen vom Mittel und Hochton. Über 125 Hz sollte das bei ca. 250 Millisekunden liegen.
Im Bassbereich sieht das mit den Raummoden gar nicht so schelcht aus.
Hier würde ich erst mal schauen, dass ich das Signal linearer bekomme. Nicht mit Audyssey sondern erst mal durch die Aufstellung der Subs.
Hast Du Dir die Raumsimulation von REW schon mal näher angesehen? Ich vermute mal es dürfte mit einem L Raum für die Simulation schwierig sein.
Ansonsten solltest Du Dich mit den Begriffen "DECAY" und ETC (Frühe Reflexionen) auseinandersetzen