transfer function
system coefficients從時域轉換到頻域，藉由傅立葉轉換。
簡單起見，考慮MA model。
針對訊號：時域signal＝頻域spectrum。
針對系統：時域system coefficients＝頻域transfer function。
順向通過系統：時域sequence convolution＝頻域polynomial multiplication。
反向通過系統：時域sequence deconvolution＝頻域polynomial division。
已知輸入訊號的頻譜、輸出訊號的頻譜，求得系統的頻譜。
如果已知係數數量，那麼係數數值的頻譜有唯一解。
多項式除法可以求解。
訊號數值的頻譜有偏差，那麼改用least squares method。
最佳化演算法可以求解。
訊號學家自創一個詞彙transfer function。
transfer function = 𝓩(y) / 𝓩(x)
白話文：
spectrum(input signal)
spectrum(system) = ———————————————————————
spectrum(output signal)
進階的系統模型，
系統係數的構造更複雜，無法直接從時域轉換到頻域。
只好參考MA model，只好間接採用「輸出訊號頻譜除以輸入訊號頻譜」。
物理意義：
輸入訊號、輸出訊號，拆解成各種頻率的複弦波疊加，
其振幅放大倍率、相位偏移角度。
spectrum
Fourier transform / time domain / frequency domain
因為真實世界的訊號幾乎都是一堆波，
所以大家用傅立葉轉換，把訊號分解成波。
原本訊號稱作時域（座標軸是時間），傅立葉轉換之後稱作頻域（座標軸是頻率）。
spectrum / Bode plot / amplitude spectrum / phase spectrum
訊號實施傅立葉轉換（時域轉頻域）。
一串數列的傅立葉轉換是一串數列，每個數值都是複數。
複數長度是振幅。頻譜每個數值的振幅，形成振幅頻譜。
複數角度是相位。頻譜每個數值的相位，形成相位頻譜。
兩者合稱頻譜。
振幅頻譜橫軸與縱軸都取log，相位頻譜橫軸取log，兩者合稱波特圖。
frequency response / transfer function / gain / phase shift
訊號實施傅立葉轉換（時域轉頻域）。
一串數列的傅立葉轉換是一串數列，
每個數值代表每種頻率(frequency)的波(wave)的振幅(amplitude)和相位(phase)。
值得一提的是，除了訊號可以分解成波，其實系統也可以分解成波。
系統弄成加權總和的形式，然後把權重當作訊號，拿去分解。
（因為z-transform和convolution theorem）
兩種方式可以得到系統的頻譜：
一、系統的頻譜（權重做傅立葉轉換）。
二、輸出訊號頻譜除以輸入訊號頻譜（訊號做傅立葉轉換，再相除）。
頻率響應：系統的頻譜的數值，針對特定頻率。
轉移函數：系統的頻譜的數學式，變數是頻率。
增益：系統的振幅頻譜。各種頻率的波的振幅變化倍率。
相位偏移：系統的相位頻譜。各種頻率的波的相位變化差距。
generating function
z-transform / Laplace transform / z-domain / s-domain
實務上，
差分方程（離散訊號）／微分方程（連續訊號）
實施離散傅立葉轉換／連續傅立葉轉換，
改寫成複弦波，形成frequency domain。
理論上，
差分方程（離散訊號）／微分方程（連續訊號）
實施z-transform / Laplace transform，
改寫成生成函數，形成z-domain / s-domain。
上述「理論上」觀點其實是錯的。很不幸地，教科書習慣介紹這種觀點。
很多人將拉普拉斯轉換解讀成z轉換的連續版本，但是這種解讀不太對。
拉普拉斯轉換其實也有離散版本、應當先講離散版本。
嚴格來說，z轉換是普通生成函數，拉普拉斯轉換是指數生成函數。性質截然不同。
錯誤的解讀方式：
一、z轉換和拉普拉斯轉換兩者對比，宛如離散和連續兩者對比。
正確的解讀方式：
一、z轉換（普通生成函數）。無法推廣為連續版本。
二、z轉換的重要變種是拉普拉斯轉換（指數生成函數）。可以推廣成連續版本。
三、z轉換與拉普拉斯轉換的重要特例是傅立葉轉換。可以推廣為連續版本。
四、推廣為連續版本，前提是積分結果受限（不會是正負無限大）。
五、離散z轉換可以改寫成連續拉普拉斯轉換，稱作bilinear transform。
https://math.stackexchange.com/questions/105800/
bilinear transform
mapping from z-domain to s-domain
https://www.youtube.com/watch?v=acQecd6dmxw
https://www.google.com/search?q=mapping+from+s-domain+z-domain+transfer+function&udm=2
喪心病狂。
Fourier transform / Laplace transform
傅立葉轉換：振幅為1、頻率為自然數／各種數值。
拉普拉斯轉換：振幅為各種數值、頻率為各種數值。
離散傅立葉轉換：z轉換當中，多項式代入特定數值。
分別代入N種不同數值，z = exp(𝑖(2π/N)f)，f從0到N-1。
離散時間傅立葉轉換：z轉換當中，多項式代入特定數值。
分別代入∞種不同數值，z = exp(𝑖2πω)，ω從-∞到+∞。
exp的指數從自然數f推廣成實數ω。
完整名稱應該是離散時間連續頻率傅立葉轉換。重點在於連續頻率。
連續傅立葉轉換：訊號從離散數列推廣成連續函數。
分別代入∞種不同數值，z = exp(𝑖2πω)，ω從-∞到+∞。
拉普拉斯轉換：訊號從離散數列推廣成連續函數。
分別代入∞×∞種不同數值，z = exp(s)，s是各種複數a+b𝑖。
exp的指數從實數ω推廣成複數s。
傅立葉轉換是特例，拉普拉斯轉換是通例，導致教科書很喜歡用拉普拉斯轉換。
然而拉普拉斯轉換在現實世界當中沒有對應的物理現象。
而且拉普拉斯轉換的時間複雜度和空間複雜度遠遠大於傅立葉轉換。
因此實務上只會使用傅立葉轉換。完全不用拉普拉斯轉換。
拉普拉斯轉換用來在網路論壇裝逼。用來假裝自己講話有份量。
transfer function: linear difference equation
implicit form / explicit form
system (implicit form): L(x(t), y(t)) = 0
system (explicit form): y(t) = F(x(t))
LTI system (implicit form): L(x(t), x′(t), x″(t), ...,
y(t), y′(t), y″(t), ... ) = 0
LTI system (explicit form): y(t) = x(t) ∗ f(t)
recurrence representation (implicit form)
遞迴函數表示法：系統視作權重
y[n] = a[0]x[n] + a[1]x[n-1] + a[2]x[n-2] + ... + a[k]x[n-k]
convolution representation (explicit form)
卷積表示法：系統視作移動視窗
輸入訊號超出頭端，必須視作0。
輸出訊號超出尾端，必須視作未定義。
(x[0], ..., x[n]) ∙ (a[0], 0 , 0 , ... ) = y[0]
(x[0], ..., x[n]) ∙ (a[1], a[0], 0 , ... ) = y[1]
(x[0], ..., x[n]) ∙ (a[2], a[1], a[0], ... ) = y[2]
: : :
(x[0], ..., x[n]) ∙ ( ... , a[2], a[1], a[0]) = y[n]
(x[0], ..., x[n]) ∙ ( ... , a[3], a[2], a[1]) = NaN
: : :
(x[0], ..., x[n]) ∙ ( ... , 0 , 0 , a[k]) = NaN
x ∗ a = y
shift operator / generating function / characteristic equation
ordinary
┌───────────────┐ generating ┌──────────────────┐
│ time domain │ function │ frequency domain │
│ implicit form │←────────────→│ implicit form │
└───────────────┘ └──────────────────┘
↑ ↑
│ shift and dot │ divide zᵏ
│ │ at both sides
↓ ordinary ↓
┌───────────────┐ generating ┌──────────────────┐
│ time domain │ function │ frequency domain │
│ explicit form │←────────────→│ explicit form │
└───────────────┘ └──────────────────┘
原理請見本站文件「transformation」。
線性代數的相似變換、傅立葉轉換的乘法卷積對偶，都是此原理。
遞迴函數／轉移函數
線性遞迴函數與根／轉移函數與特徵值
Ŷ(z) z⁻ᵏ = G(z) Y(z) z⁻⁽ᵏ⁻¹⁾ + H(z) E(z)
z-transform, denoted by sequence:
𝓩{x} = X(z)
^^^^
polynomial function of z
its name is uppercase X
z-transform, denoted by set of numbers:
𝓩{(x[0], x[1], x[2], ...)} = x[0]z⁰ + x[1]z⁻¹ + x[2]z⁻² + ...
shiftable function: 𝓩{x ⇧ k} = zᵏ X(z)
linear function: 𝓩{x₁ + x₂} = X₁(z) + X₂(z)
𝓩{k x} = k X(z)
convolution–multiplication duality (convolution theorem)
convolution theorem:
𝓩{a∗x} = 𝓩{a} 𝓩{x}
convolution:
(a∗x)[n] = a[0]x[n] + a[1]x[n-1] + a[2]x[n-2] + ...
number -> sequence:
a∗x = a[0] x + a[1] (x ⇧ -1) + a[2] (x ⇧ -2) + ...
z-transform:
𝓩{a∗x}
= 𝓩{a[0] x + a[1] (x ⇧ -1) + a[2] (x ⇧ -2) + ...}
= a[0] 𝓩{x} + a[1] 𝓩{x ⇧ -1} + a[2] 𝓩{x ⇧ -2} + ...
= a[0] 𝓩{x} + a[1] z⁻¹ 𝓩{x} + a[2] z⁻² 𝓩{x} + ...
= (a[0] + a[1] z⁻¹ + a[2] z⁻² + ...) 𝓩{x}
= 𝓩{a} 𝓩{x}
只有數列可以做z-transform。
然而教科書的數學符號表示法，不區分數字和數列。
另外必須假設：
訊號超過頭端（負索引值），必須視做0。
訊號往左移位可以超過頭端（負索引值）。
transfer function / zero / pole
z-transform：訊號=>多項式
convolution theorem：訊號加權總和=>多項式乘法
transfer function：輸出多項式作為分子，輸入多項式作為分母。
zero：分子多項式的根（多項式變成0）。
pole：分母多項式的根（多項式變成±∞）。
大家用示波器看zero pole，然後反向推理系統是什麼。
ARMA model:
a₀ x[n] + a₁ x[n-1] + a₂ x[n-2] + ...
= b₀ y[n] + b₁ y[n-1] + b₂ y[n-2] + ...
z-transform:
𝓩{a} 𝓩{x} = 𝓩{b} 𝓩{y}
transfer function:
𝓩{a} 𝓩{y}
———— = ———— = transfer function
𝓩{b} 𝓩{x}
zero / pole:
roots(𝓩{y}) = zeros
roots(𝓩{x}) = poles
explicit formula
┌──────────────────┐ ┌──────────────────┐
│ time domain │ power series │ frequency domain │
│ implicit form │━━━━━━━━━━━━━🢂│ implicit form │
└──────────────────┘ └──────────────────┘
│ ┃
│ find ┃ 1 & 2
│ formula ┃
↓ 🢃
┌──────────────────┐ ┌──────────────────┐
│ time domain │ power sum │ frequency domain │
│ explicit formula │🡸━━━━━━━━━━━━━│ explicit formula │
└──────────────────┘ └──────────────────┘
1. polynomial factorization
2. partial fraction expansion
linear difference equation (with zero initial value):
a₀ x[n] + a₁ x[n-1] + a₂ x[n-2] + ...
= b₀ y[n] + b₁ y[n-1] + b₂ y[n-2] + ...
where x[0] = 0
z-transform (time domain -> z-domain):
a₀ z⁰ X(z) + a₁ z⁻¹ X(z) + a₂ z⁻² X(z) + ...
= b₀ z⁰ Y(z) + b₁ z⁻¹ Y(z) + b₂ z⁻² Y(z) + ...
(a₀ z⁰ + a₁ z⁻¹ + a₂ z⁻² + ...) X(z)
= (b₀ z⁰ + b₁ z⁻¹ + b₂ z⁻² + ...) Y(z)
transfer function:
Y(z) a₀ z⁰ + a₁ z⁻¹ + a₂ z⁻² + ...
F(z) = ———— = —————————————————————————————
X(z) b₀ z⁰ + b₁ z⁻¹ + b₂ z⁻² + ...
polynomial factorization:
Y(z) (z-z₀)(z-z₁)(z-z₂)...
F(z) = ———— = —————————————————————
X(z) (z-p₀)(z-p₁)(z-p₂)...
partial fraction expansion (when all poles are distinct):
C₀ C₁ C₂
F(z) = ———— + ———— + ———— + ...
z-p₀ z-p₁ z-p₂
where C₀ = ... , C₁ = ... , C₂ = ...
inverse z-transform (z-domain -> time domain):
f[n] = C₀ p₀ⁿ + C₁ p₁ⁿ + C₂ p₂ⁿ + ...
線性差分方程式求解（隱式改成顯式，並且找到公式），
計算過程其實就是對偶變換和對偶運算，繞一圈回來。
一、最初是線性差分方程式。
二、改寫成transfer function（時域轉頻域）。形成多項式分式。
三、改寫成因式分解。分母的根pole、分子的根zero。
四、改寫成部分分式。形成分式連加。
五、改寫成符號解（頻域轉時域）。形成power sum。
https://eng.libretexts.org/Bookshelves/Electrical_Engineering/Signal_Processing_and_Modeling/Signals_and_Systems_(Baraniuk_et_al.)/04%3A_Time_Domain_Analysis_of_Discrete_Time_Systems/4.08%3A_Solving_Linear_Constant_Coefficient_Difference_Equations
BIBO stability
滿足穩定性，才能形成穩態，才能控制。
不滿足穩定性，輸出可能正負無限大。
導致電路過載燒掉、動力機械暴衝、反應槽爆炸。
BIBO stability (and steady state is zero):
if |x[n]| < ∞ then |y[n]| < ∞ for all n≥0
=> if |x[n]| < ∞ then |Cᵢ pᵢⁿ| < ∞ for all n≥0 and i≥0
=> |pᵢⁿ| < ∞ for all n≥0 and i≥0
=> |pᵢ| < 1 for all i≥0
stability criterion:
輸入受限則輸出受限：可以改寫成訊號L¹-norm受限。
線性差分方程式的情況下：所有pole都在複平面單位圓內或上。
訊號學家還希望收斂至零：所有pole都在複平面單位圓內。
stability test:
(1) 直覺的方法是使用多項式函數求根演算法，求得所有pole。
經典演算法是companion matrix求特徵值，時間複雜度O(N³T)。
(2) 特殊的方法是使用特殊數學公式，檢查正負號。
經典演算法是Jury's test，時間複雜度O(N²)。
transfer function: linear differential equation
explicit formula
┌──────────────────┐ Laplace ┌──────────────────┐
│ time domain │ transform │ frequency domain │
│ implicit form │━━━━━━━━━━━🢂│ implicit form │
└──────────────────┘ └──────────────────┘
│ ┃
│ find ┃ 1 & 2
│ formula ┃
↓ inverse 🢃
┌──────────────────┐ Laplace ┌──────────────────┐
│ time domain │ transform │ frequency domain │
│ explicit formula │🡸━━━━━━━━━━━│ explicit formula │
└──────────────────┘ └──────────────────┘
1. polynomial factorization
2. partial fraction expansion
linear differential equation (with zero initial condition):
a₀ x(t) + a₁ x′(t) + a₂ x″(t) + ...
= b₀ y(t) + b₁ y′(t) + b₂ y″(t) + ...
where x(0) = x′(0) = x″(0) = ... = 0
Laplace transform (time domain -> s-domain):
a₀ s⁰ X(s) + a₁ s¹ X(s) + a₂ s² X(s) + ...
= b₀ s⁰ Y(s) + b₁ s¹ Y(s) + b₂ s² Y(s) + ...
(a₀ s⁰ + a₁ s¹ + a₂ s² + ...) X(s)
= (b₀ s⁰ + b₁ s¹ + b₂ s² + ...) Y(s)
transfer function:
Y(s) a₀ s⁰ + a₁ s¹ + a₂ s² + ...
F(s) = ———— = ———————————————————————————
X(s) b₀ s⁰ + b₁ s¹ + b₂ s² + ...
polynomial factorization:
Y(s) (s-z₀)(s-z₁)(s-z₂)...
F(s) = ———— = —————————————————————
X(s) (s-p₀)(s-p₁)(s-p₂)...
partial fraction expansion (when all poles are distinct):
C₀ C₁ C₂
F(s) = ———— + ———— + ———— + ...
s-p₀ s-p₁ s-p₂
where C₀ = ... , C₁ = ... , C₂ = ...
inverse Laplace transform (s-domain -> time domain):
C₀ C₁ C₂
f(t) = ————————— + ————————— + ————————— + ...
exp(-p₀t) exp(-p₁t) exp(-p₂t)
= C₀ exp(p₀t) + C₁ exp(p₁t) + C₂ exp(p₂t) + ...
https://tutorial.math.lamar.edu/classes/de/IVPWithLaplace.aspx
https://lpsa.swarthmore.edu/LaplaceXform/InvLaplace/InvLaplaceXformPFE.html
BIBO stability
BIBO stability (and steady state is zero):
if |x(t)| < ∞ then |y(t)| < ∞ for all t≥0
=> if |x(t)| < ∞ then |Cᵢ exp(pᵢt)| < ∞ for all t≥0 and i≥0
=> |exp(pᵢt)| < ∞ for all t≥0 and i≥0
=> Re[pᵢt] < 0 for all t≥0 and i≥0
=> Re[pᵢ] < 0 for all i≥0
stability criterion:
輸入受限則輸出受限：可以改寫成訊號L¹-norm受限。
線性微分方程式的情況下：所有pole都在左半複平面。
訊號學家還希望收斂至零：所有pole都在左半複平面，但不含虛軸。
stability test:
(1) 直覺的方法是使用多項式函數求根演算法，求得所有pole。
經典演算法是companion matrix求特徵值，時間複雜度O(N³T)。
(2) 特殊的方法是使用特殊數學公式，檢查正負號。
經典演算法是Routh–Hurwitz test，又稱Routh array，時間複雜度O(N²)。
diagram
block diagram
for transfer function of causal LTI system,
1. series connection
──→ G₁ ──→ G₂ ──→ = ──→ G₁G₂ ──→
2. parallel connection
──┬─→ G₁ ──┬──→ = ──→ G₁+G₂ ──→
└─→ G₂ ──┘+
3. feedback connection
u e y
──┬─→ G₁ ──┬──→ = ──→ G₁/(1+G₁G₂) ──→
-└── G₂ ←─┘
y = G₁e = G₁(u-G₂y) = G₁u - G₁G₂y
u = (y + G₁G₂y)/G₁ = y(1 + G₁G₂)/G₁
y/u = G₁/(1+G₁G₂)
4.
──→ G₁ ─┬─→ G ──→ = ──→ G₁ ──→ G ─┬─→
──→ G₂ ─┘ ──→ G₂ ──→ G ─┘
5.
──→ G ──┬─→ G₁ ──→ = ─┬─→ G ──→ G₁ ──→
└─→ G₂ ──→ └─→ G ──→ G₂ ──→
6.
──┬─→ G₁ ──┬──→ = ──→ 1/G₂ ──┬─→ G₂ ──→ G₁ ──┬──→
-└── G₂ ←─┘ -└───────←───────┘
主角是頻域transfer function。
主角其實也可以改成時域system coefficients。
串聯series：函數複合。
並聯parallel：函數相加。
回饋feedback：遞迴函數。
LTI system串聯／並聯／回饋，仍是LTI system。
非常棒的數學性質。
藉由時域system coefficients，證明變得容易。
藉由頻域transfer function，公式變得漂亮。
signal-flow graph
Mason's rule
https://en.wikipedia.org/wiki/Mason's_gain_formula
invariant
convolution identity: impulse response
以輸出訊號分類
1. finite impulse response system (FIR system)
2. infinite impulse response system (IIR system)
脈衝響應分成兩種。
1. finite impulse response
有限脈衝響應。輸入脈衝函數，輸出很快歸零。時長有限。好人不長壽。
2. infinite impulse response
無限脈衝響應。輸入脈衝函數，輸出永不歸零。時長無限。禍害遺千年。
系統有兩種款式。
1. FIR system = open-loop system = MA model = all zero system
開迴路。系統的數學式不含輸出訊號。
開迴路=>輸入的加權總和=>輸入只取幾項=>有限
2. IIR system = closed-loop system = ARMA model = pole—zero system
閉迴路。系統的數學式包含輸出訊號。
閉迴路=>輸入與輸出的加權總和=>強行展開=>輸入取所有項=>無限
frequency invariance: frequency response
frequency invariance of LTI system:
針對LTI system，輸入弦波，輸出也是弦波。
而且頻率不變，僅振幅和相位改變。
【待補證明】
response
dynamic response
已知輸入、系統，求得輸出。
輸入：已知函數（教科書習慣討論下述三種）
系統：已知函數（教科書習慣討論一次微分方程、二次微分方程）
輸出：未知函數。
1. impulse response：脈衝波。
2. frequency response：複弦波。
frequency response理論上是輸入複數exp波，實務上是輸入實數cos波。
必須自行推導cos波經過傅立葉轉換之後的振幅和相位。
steady state
已知輸入、系統，求得輸出最終數值。
輸入：教科書習慣討論步進函數（step response）
系統：教科書習慣討論一次微分方程、二次微分方程
輸出：求得穩態
step response
1. impulse response：脈衝波。隔壁棚結構分析很常用，控制系統則不使用。
2. frequency response：複弦波。得到波特圖其中一個數值。
3. step response：單位步進函數。主角。例如啟動馬達至定速。
步進函數：傅立葉轉換是1/s。
最終值定理：時域穩態（時間趨近無限大）＝頻域乘上s後頻率趨近無限大。
系統改寫成transfer function形成分式。觀察分母：
一、實根（一次多項式）：輸出指數衰減。
步進函數恰好跟最終值定理互相抵銷，剩下系統。
二、共軛複根（二次多項式）：輸出振盪。兩種表達方式。
甲、decay rate σ and damped frequency ωd
乙、damping ratio ζ and natural frequency ωn
其他情況：
一、連乘積：實係數多項式因式分解，總是得到一次暨二次多項式連乘積。
因此只需討論實根、共軛複根兩種情況。
最後讓transfer function相乘。
二、重根：一次暨二次多項式的次方。
ARMA model
一個比較簡單的例子是MA model。
system (MA model): f(x) = y
LTI system: x ∗ f = y
spectrum: 𝓩(x) 𝓩(f) = 𝓩(y)
transfer function: 𝓩(y) / 𝓩(x) = 𝓩(f)
FIR system / IIR system
FIR system property:
(1) convergence: converge to zero at infinite
(2) stability: all poles at origin
IIR system property:
(1) stability: initial condition matters
(2) two amplification factor
ARMA model
http://feldman.faculty.pstat.ucsb.edu/174-03/lectures/l7.pdf
AR(1) model:
u ───┬─────────────┬────→ y
+↑ ┌───────┐
│ │ delay │ amplifier should be a triangle
│ ┌────┐ └───────┘
└──│ ×a │←────┘
└────┘
y[k] = a y[k-1] + u[k]
transfer function:
┌──────────┐
│ 1 │
u ───→│ ———————— │───→ y
│ 1 - az⁻¹ │
└──────────┘
1
Y(z) = ———————— U(z)
1 - az⁻¹
ARMA(1,1) model:
u ─────┬─────────────┬──┬─────────────┬────→ y
┌───────┐ +↑ +↑ ┌───────┐
│ delay │ │ │ │ delay │
└───────┘ ┌────┐ │ │ ┌────┐ └───────┘
└────→│ ×b │──┘ └──│ ×a │←────┘
└────┘ └────┘
MA AR
y[k] = a y[k-1] + u[k] + b u[k-1]
impulse response:
y[0] = u[0] = 1
y[1] = a y[0] + b = a + b
y[2] = a y[1] = a^2 + a^1 b
y[3] = a y[2] = a^3 + a^2 b
y[k] = aᵏ⁻¹ (a + b)
transfer function:
┌──────────┐
│ 1 + bz⁻¹ │
u ───→│ ———————— │───→ y
│ 1 - az⁻¹ │
└──────────┘
G(z) = 1 + sum { aᵏ⁻¹ (a + b) z⁻ᵏ }
k=1⋯∞
(a + b)z⁻¹
= 1 + ——————————
1 - az⁻¹
1 + bz⁻¹
= ————————
1 - az⁻¹
ARMA(p,q) model:
u ───────┬─────────────┬──┬─────────────┬──────→ y
┌───────┐ +↑ +↑ ┌───────┐
⎧ │ delay │ │ │ │ delay │ ⎫
⎪ └───────┘ ┌────┐ │ │ ┌────┐ └───────┘ ⎪
⎪ ├────→│ ×b │──┤ ├──│ ×a │←────┤ ⎪
⎪ ┌───────┐ └────┘ +↑ +↑ └────┘ ┌───────┐ ⎪
⎪ │ delay │ │ │ │ delay │ ⎪
⎪ └───────┘ ┌────┐ │ │ ┌────┐ └───────┘ ⎪
q ⎨ ├────→│ ×b │──┤ ├──│ ×a │←────┤ ⎬ p
⎪ : └────┘ : : └────┘ : ⎪
⎪ : : : : ⎪
⎪ : : : : ⎪
⎪ ┌───────┐ +↑ +↑ ┌───────┐ ⎪
⎪ │ delay │ │ │ │ delay │ ⎪
⎪ └───────┘ ┌────┐ │ │ ┌────┐ └───────┘ ⎪
⎪ └────→│ ×b │──┘ ├──│ ×a │←────┤ ⎪
⎩ └────┘ +↑ └────┘ ┌───────┐ ⎪
│ │ delay │ ⎪
│ ┌────┐ └───────┘ ⎪
└──│ ×a │←────┘ ⎪
└────┘ ⎭
MA AR
y[k] = a[1] y[k-1] + a[2] y[k-2] + ... + a[p] y[k-p]
+ u[k] + b[1] u[k-1] + b[2] u[k-2] + ... + b[p] u[k-q]
