[begemot]

но неочевидно какой апроксимацией пользоватся для FIR. Если фаза линейна то вроде бы как и не так важно какой, но как-то хз

Очевидно что FIR, какой смысл повторять аналоговые прототипы.
Если конечно хватает ресурсов.
Хотя линейность фазы - это же для каждой полосы в отдельности.
Но надо ещё и чтоб оба постоянных ГВЗ было одинаково.
Ну, по видимому надо пытаться задать некие границы, обеспечивающие приемлемый спад.
После чего попробовать оптимизировать пульсацию по сумме, по сумме в пределах некоторых углов (ну хотя-бы +/-20-30 градусов),
по сумме мощностей.
Я не встречал решение этой задачи в аналитическом виде, скорее всего его нет.
Но в цифре просто делать высокие порядки, соответственно сужается ширина полосы этой ошибки.
Но можно ли "безнаказанно" увеличивать крутизну даже при условии линейной и сопряжённой фазы-х.з.