斯坦福大学-傅里叶变换及其应用

预备知识

词汇学习:
punchline  (笑话最后的) 妙趣横生的语句,妙语; 画龙点睛之语;
miraculous  不可思议的,奇迹的
encumber  v. 妨碍; 阻碍; 拖累; 大(或重)得难以移动; 使负担沉重;
spike 尖状物; 尖头; 尖刺;
reap 取得(成果); 收获; 收割(庄稼);
spooky 怪异吓人的; 阴森可怖的;
brink (新的、危险的,或令人兴奋的处境的) 边缘,初始状态; (峭壁、河岸等的) 边沿,边缘;
daunting 使人畏惧的; 令人胆怯的; 让人气馁的;
queasy 恶心的; 欲吐的; 稍感紧张的; 略有不安的; 心神不定的;
airtight密封的; 不透气的;
repentance 后悔; 懊悔; 悔过; 忏悔;
fret over 为…着急
cornerstone 基石; 奠基石; 最重要部分; 基础; 柱石;
ubiquitous 似乎无所不在的; 十分普遍的;
touchstone 试金石; 检验标准;
impunity 免于惩罚; 不受惩处; 逃过惩罚;
in retrospect 回顾; 回想;
ubiquity 无所不在; 随处可见;
ad hoc临时安排的; 特别的; 专门的;
peril n. 危险;冒险 vt. 危及;置…于险境
formulate vt. 规划;用公式表示;明确地表达
jagged adj. 锯齿状的;参差不齐的
fineness 精细度; 细度; 纯度;
orthonormal 标准正交的
orthogonal 正交的
picky adj. 挑剔的;吹毛求疵的
kill offf high frequencies

傅里叶级数 versus 傅里叶变换

  • 傅里叶级数(fourier series),几乎等同于周期性现象的学习。
  • 傅里叶变换(fourier transform),可作为傅里叶级数的极限情况,是对非周期性现象的数学分析。

分析 versus 合成

  • 分析(analysis),分解一个信号(函数),把它拆分成一系列组成部分,并希望这些组成部分比复杂的原始信号(函数)简单。
  • 合成(synthesis),把基本的组成部分重组成信号本身。

分析与合成总是成对出现,我们把复杂的信号分离成简单信号,然后进行我们需要的处理,最后再组合成原始信号。

线性运算(linear operation):傅里叶分析与合成是由线性运算完成的,线性运算包含有积分和序列。傅里叶分析经常被认为是线性分析(线性系统)的一部分,其实这对傅里叶分析不公平。正弦波有一个非常重要的特点,正弦波输入到任何的线性系统中,出来的还是正弦波,改变的仅仅是幅值和相位,换句话说,不会产生新的频率成分,也就是说,我们只要研究正弦波的输入输出关系,就可以知道一个线性系统对任意输入信号的响应。这个特点非常有实用价值。

周期性:时间上的周期性和空间上的周期性;对称性与周期性的关系。
(1) 圆环上的热量分布,每一点的温度都是固定的,因此测完一圈再测第二圈,会出现周期性。目标(圆环)重复--->目标对称--->相关值的周期性;
(2) 1D lattice of positive ions. Assuming the spacing between two ions is a, the potential in the lattice 如上图所示。The mathematical representation of the potential is a periodic function with a period a. According to Bloch's theorem, the wavefunction solution of the Schrödinger equation when the potential is periodic, can be written as: \(\psi(x)=e^{i k x} u(x)\), where \(u(x)\) is a periodic function which satisfies \(u(x+a)=u(x)\);
(3) Transmission Grating;

这里引出一个论点:傅里叶分析通常与具有对称性问题相关。数学家倾向于从周期的角度考虑,工程师倾向于从频率的角度考虑。两个领域的反比关系:时域和频域,空间和频域。

正余弦函数的引入:以前用三角形边长比例来定义正余弦不是很全面,应该用单位圆的方法来定义,这样更能反映正余弦函数周期性的特点。

 

周期性,三角函数表示复杂函数

有的信号不是周期的,即使呈现周期性,对实际的信号来说也会在有限区域,而我们的三角函数是在无限区域内呈现周期性,那么如何解决这其中的差异?
我们采用了一种叫信号周期化的方法,如上,补齐无限范围内周期化后的信号,那么我们就可以在无限范围内使用正余弦函数了,我们只需要研究我们感兴趣的部分(单一周期内的信号)。

设定周期:我们设定周期为\(  1\),即\(f(t+1)=f(t)  \),对应的正余弦函数为\( \sin (2 \pi t) \)和\( \cos (2 \pi t) \)。

big idea:  一个周期包含多个频率成分,右图是\(  \sin (2 \pi t)+\sin (4 \pi t)+\sin (6 \pi t)\)。我们还可以改变每个正弦项的相位和振幅,即可以通过正弦函数的线性组合得到各种各样的信号\(\displaystyle\sum_{k=1}^{n} A_{k} \sin \left(2 \pi k t+\varphi_{k}\right)\),其中\(  k=1\)的项对应于基频(fundamental frequency),\(  k>1\)的项被称为泛音overtone。

公式推导
对\(\sin\)函数分解:$$\sin \left(2 \pi k t+\varphi_{k}\right)=\sin (2 \pi k t) \cos \varphi_{k}+\cos (2 \pi k t) \sin \varphi_{k}$$因此有$$\begin{aligned} & \sum_{k=1}^{n} A_{k} \sin \left(2 \pi k t+\varphi_{k}\right) \\ =& \sum_{k=1}^{n} A_{k} \sin (2 \pi k t) \cos \varphi_{k}+\cos (2 \pi k t) \sin \varphi_{k} \\ =& \sum_{k=1}^{n}\left(a_{k} \cos (2 \pi k t)+b_{k} \sin (2 \pi k t)\right) \end{aligned}$$相位\(  \varphi_{k}\)和振幅\(  A_{k}\)的信息被整合到\(a_{k}  \)和\( b_{k} \)中;等式最后的表达方式更常见,虽然它和初始的表达式是等价的。另外,我们还可以添加一个常量来表示其中不变的部分:$$\displaystyle\frac{a_{0}}{2}+\sum_{k=1}^{n}\left(a_{k} \cos (2 \pi k t)+b_{k} \sin (2 \pi k t)\right)$$其中的常量\(\displaystyle\frac{a_{0}}{2}  \)电气工程师称直流分量(DC component,电流中固定方向的恒定量),老师不喜欢这种叫法,因为不是所有的信号都和电有关。

\(f(t)=A_{0}+\displaystyle\sum_{n=1}^{\infty} A_{n} \sin \left(n \omega t+\varphi_{n}\right)=A_{0}+\displaystyle\sum_{n=1}^{\infty} a_{n} \cos n \omega t+b_{n} \sin n \omega t\)是另一种写法,李永乐讲的也是这种写法。注意,任何一个函数能这样写的前提是\(  f(t)\)是一个周期为\(  T\)的信号,即我们这里的\(  \omega\)是一个定值\(  \displaystyle\frac { 2\pi }{ T } =\omega\)。我们这里用的是\(  2 \pi k t\),而不是\( n \omega t \),说明我们默认的函数的周期\( T=1 \),也就是其他周期组分的波的周期只能是\(  1\)除以一个正整数。

复指数形式(目前最好的表达形式) $$\begin{aligned} e^{2 \pi i k t}=& \cos (2 \pi k t)+i \sin (2 \pi k t) \\ \cos (2 \pi k t) &=\frac{e^{2 \pi i k t}+e^{-2 \pi i k t}}{2} \\ \sin (2 \pi k t) &=\frac{e^{2 \pi i k t}-e^{-2 \pi i k t}}{2 i} \end{aligned}$$用此种方法带入到公式推导中的结果$$\begin{aligned} & a_{k} \cos (2 \pi k t)+b_{k} \sin (2 \pi k t) \\ =& \frac{a_{k} e^{2 \pi i k t}+a_{k} e^{-2 \pi i k t}}{2}+\frac{b_{k} e^{2 \pi i k t}-b_{k} e^{-2 \pi i k t}}{2 i} \\ =& \frac{a_{k} e^{2 \pi i k t}+a_{k} e^{-2 \pi i k t}}{2}+\frac{-b_{k} i e^{2 \pi i k t}+b_{k} i e^{-2 \pi i k t}}{2} \\ =& \frac{a_{k}-b_{k} i}{2} e^{2 \pi i k t}+\frac{a_{k}+b_{k} i}{2} e^{-2 \pi i k t} \end{aligned}$$注意这里的\( k \)是一个频率调整的系数,是正整数,对于结果的第二项,我们把复指数上的负号加到\(  k\)上,同时将其定义为负整数,于是上面的式子可以写成$$\begin{aligned} a_{k} \cos (2 \pi k t)+b_{k} \sin (2 \pi k t) &=\underbrace{\frac{a_{k}-b_{k} i}{2} e^{2 \pi i k t}+\frac{a_{k}+b_{k} i}{2} e^{-2 \pi i k t}}_{k>0} \\ &=\underbrace{\frac{a_{k}-b_{k} i}{2} e^{2 \pi i k t}}_{k>0}+\underbrace{\frac{a_{-k}+b_{-k} i}{2} e^{2 \pi i k t}}_{k<0} \end{aligned}$$两项合并,前面的系数为$$C_{k}=\left\{\begin{array}{l} \displaystyle\frac{a_{k}-b_{k} i}{2}, k>0 \\ \displaystyle\frac{a_{-k}+b_{-k} i}{2}, k<0 \end{array}\right.$$即\( C_{k} \)为复数,而且满足\(C_{-k}=\bar{C}_{k}\),于是最终的改写结果为$$ \sum_{k=1}^n\left(a_k \cos (2 \pi k t)+b_k \sin (2 \pi k t)\right)=\sum_{k=-n}^n C_k e^{2 \pi i k t} $$上述推导引出一个结论:对于一个真实的信号(值为实数),当它转换为上述复数形式时,它的系数对称存在,即有\( k \)必然会有\( -k \),且\(  C_{k} \)与\(C_{-k}  \)共轭。反过来,如果系数满足上述条件,那么此信号也是真实信号。这种对称性使得用复指数的特殊复线性组合(系数为复数)可以表示实数

通用性

我们是否能用上面的式子来表达一般的周期函数(当然还是限定周期为\(  1\))?  先假设是可以的,于是有$$f(t)=\sum_{k=-n}^{n} C_{k} e^{2 \pi i k t}$$对其中任意一项$$C_{m} e^{2 \pi i m t}=f(t)-\sum_{k \neq m}^{n} C_{k} e^{2 \pi i k t}$$等式两边同时乘以\( e^{-2 \pi i m t} \)得$$\begin{aligned} C_{m} &=e^{-2 \pi i m t} f(t)-\sum_{k \neq m}^{n} C_{k} e^{-2 \pi i m t} e^{2 \pi i k t} \\ &=e^{-2 \pi i m t} f(t)-\sum_{k \neq m}^{n} C_{k} e^{2 \pi i(k-m) t} \end{aligned}$$对等号两边同时在\( 0 \)到\( 1 \)上积分有,左边$$\int_{0}^{1} C_{m} d t=C_{m}$$右边$$\begin{aligned} &\begin{aligned} & \int_{0}^{1}\left(e^{-2 \pi i m t} f(t)-\sum_{k \neq m}^{n} C_{k} e^{2 \pi i(k-m) t}\right) d t \\ =& \int_{0}^{1} e^{-2 \pi i m t} f(t) d t-\sum_{k \neq m}^{n} C_{k} \int_{0}^{1} e^{2 \pi i(k-m) t} d t \\ =& \int_{0}^{1} e^{-2 \pi i m t} f(t) d t-\left.\sum_{k \neq m}^{n} C_{k} \frac{1}{2 \pi i(k-m)} e^{2 \pi i(k-m) t}\right|_{0} ^{1} \\ =& \int_{0}^{1} e^{-2 \pi i m t} f(t) d t-\sum_{k \neq m}^{n} C_{k} \frac{1}{2 \pi i(k-m)}\left(e^{2 \pi(k-m) t}-e^{0}\right) \\ =& \int_{0}^{1} e^{-2 \pi i m t} f(t) d t-\sum_{k \neq m}^{n} C_{k} \frac{1}{2 \pi i(k-m)}(\cos 2 \pi(k-m)+i \sin 2 \pi(k-m)-1) \end{aligned}\\ &\text {spread with Euler Formular}\\ &=\int_{0}^{1} e^{-2 \pi i m t} f(t) d t-\sum_{k \neq m}^{n} C_{k} \frac{1}{2 \pi i(k-m)}(1+0-1) \quad k \text { and } m \text { is interger }\\ &=\int_{0}^{1} e^{-2 \pi i m t} f(t) d t \end{aligned}$$即$$C_{m}=\int_{0}^{1} e^{-2 \pi i m t} f(t) d t$$注:对比\(  F(w)=\displaystyle\int_{-\infty}^{+\infty} f(t) e^{-i w t} d t\),其实上面的\(  m\)就是频率,当然这里是默认周期为无穷大的信号(频域连续,这已经是傅里叶变换了,而不是前面讨论的周期为\(  1\)的傅里叶级数的问题),所以我们取积分区间为正负无穷大。

 

复习(将一般周期函数表示成简单周期函数和)

一般周期函数(周期为\(  1\),从下面的表达式也可以看出,复指数正好转一圈回到原位置)的复指数形式$$f(t)=\sum_{k=-n}^{n} C_{k} e^{2 \pi i k t}$$我们又推导出了系数\(C_{k}  \)的求解公式为$$C_{m}=\int_{0}^{1} e^{-2 \pi i m t} f(t) d t$$我们给\(  C_{m}\)赋予一个新的名称傅里叶系数(fourier coefficient),用\( \hat{f}(k) \)表示。既有$$\begin{aligned} f(t) &=\sum_{k=-n}^{n} \hat{f}(k) e^{2 \pi i k t} \\ \hat{f}(k) &=\int_{0}^{1} e^{-2 \pi i k t} f(t) d t \end{aligned}$$

通用性问题验证

先前我们假定通用性是对的,即可以用正余弦函数的线性组合来表示一般的周期函数,然后推出了相关的系数表达式。现在我们回到通用性的问题上,即\( f(t)=\displaystyle\sum_{k=-n}^{n} \hat{f}(k) e^{2 \pi i k t} \)这个多项式能否表示一般周期函数?

举个例子:
傅里叶系数可以表示为$$\hat{f}(k)=\int_{0}^{\frac{1}{2}} e^{-2 \pi i k t} d t$$似乎我们可以得到每一个\(  k\)对应的复指数系数,可以算出\( f(t)=\displaystyle\sum_{k=-n}^{n} \hat{f}(k) e^{2 \pi i k t} \)的表达式,这看起来是正确的。其实是错误的!

原因:我们注意到信号函数是不可微的,而正余弦函数的线性组合\( f(t)=\displaystyle\sum_{k=1}^{n} A_{k} \sin \left(2 \pi k t+\varphi_{k}\right) \)必然是可微的(因为正余弦基本函数是可微的,那么线性叠加必然也是可微的),一个可微函数不可能等于一个不可微函数。当然,也可以不从可微的角度分析,从连续性性的角度也能得到一样的结论,即不能用无限的连续函数来表示不连续函数。当然不仅是这个OFF-ON的信号形状,对于重复三角波,同样等式两边不可能完全相等。

tips: 对一元函数,可微和可导是等价的;对多元函数,不等价。

无限求和(infinite sums)

从几何图形上看,对于\(  \sin\)函数所画的曲线,低频项构建出“被拟合”图形的大轮廓,而高频项用来对轮廓进行细微的调节,使得正弦线性求和表达式的图形更接近于目标图形。目标图形的corners处(特别是sharp corners),特别需要利用高频项修正,那么最终的加和函数看起来不那么平滑(可导、无限可微),但是实际上是平滑的,这就非常接近目标函数了。

当然实际的信号是平滑的,不会出现corner,但是有时要滤波(filtering)或者cutting off,这样就会出现corner。

那么我们就可以在数学上这样考虑这个问题:如果傅里叶系数有无限多个项,是否就能用来表示一般周期函数?即无限多项的求和,是否能保证任何程度上都是平滑的(即使是corner)。

注:目标函数任何一点稍微有平滑性的缺失/任何一点的导数不存在,都会导致无穷项的产生

收敛问题(issue of convergence)

上面提到了无限项求和的问题,但是在实际中,我们不可能真的去求无穷项,必须也不得不在某处(某个\(  n\))截断。在这时候,如果求和后是收敛的,那么我们会有足够的信心可以得到所要信号的近似值;但是如果不是收敛的话,还能得到想要信号的合理近似值吗?因此,我们需要去了解这个式子的收敛问题。

在本课程上,不会去证明收敛问题,而是直接给出了结论。

两类特殊信号的收敛性如下:
1. 如果信号是平滑连续的(连续可微),在所有的\(  t\)处都会收敛于\( f(t)\)。平滑性越好,收敛越快。
2. 果信号是有跳变的,在跳变点将收敛于跳变点前、后的平均值。如下例子

设\(t_{0}  \)为跳变点,\(\displaystyle\sum_{k=-\infty}^{\infty} \hat{f}(k) e^{2 \pi i k t_{0}}  \)收敛于\(  \displaystyle\frac{f\left(t_{0}^{+}\right)+f\left(t_{0}^{-}\right)}{2}\);其实这个收敛性,直到上世纪初才得到证实(我猜测是比较复杂的数学分析的方法)。对于corner的点(非跳变点,三角波),收敛性比较简单,直接收敛到目标函数该点的函数值。

一般信号(也包括上述两种情况)的收敛不是分析各个点的收敛情况,而是分析整体的收敛情况,或者说用均方收敛(convergence in mean),其实这就是函数版的“最小二乘法”来分析收敛(以前我们都是用最小二乘法来处理离散的点的数据)。

对一个周期为\( 1 \)的函数,均方收敛需要满足:$$\int_{0}^{1}|f(t)|^{2} d t<\infty$$ 上面的式子可以被理解为能量是有限的,这是一个合理的物理假设(物理信号不可能无穷大,或者时间/空间维度上无穷长)。

均方收敛的分析公式如下:$$\int_{0}^{1}\left|\sum_{k=-n}^{n} \hat{f}(t) e^{2 \pi i k t}-f(t)\right|^{2} d t$$当\(  n \rightarrow \infty\)的时候, 上述式子 \(\rightarrow 0  \)则证明\(  \displaystyle\sum_{k=-\infty}^{\infty} \hat{f}(k) e^{2 \pi i k t}\)是收敛于\(  f(t)\)的。