Il problema è che tu vorresti ottenere una quadra per come vuoi tu, ma in realtà se sei a scrivere è perchè i tentativi non vanno a buon fine...
Da quello che ho capito, i segnali rai sono marginali rispetto ai locali molto forti, tanto che spingi di gain per tirarli su di intensità.
Hai un filtro passa/taglia 3+3 ma i segnali Rai sembrano troppo deboli e il filtro, nella speranza sia ben regolato, attenua 4dB di troppo e ne distrugge la qualità.
Purtroppo quel filtro non prevede la telealimentazione e quindi non puoi rafforzare il segnale con l'amp a siluro prima di filtrare.
Prova a farti controllare la taratura delle celle dal rivenditore e se in ultima instanza continua a non andare è veramente un casino, dovresti acquistare altro materiale .
Come ti scrivevo ti ritroveresti o una marea di scatolini oppure un centralino analogico filtrato, ma se tanto mi da tanto, ti conviene aumentare il budget e andare diretto sulla profino e una buona direttiva per i rai tipo la Blu10hd.