线性代数：内积空间

前言

中学前我们就学过$\mathbb{R}^n$中的向量点积$$ \mathbf{u\cdot v} = \mathbf{u}^T\mathbf{v} = \sum^{n}_{i=1}u_iv_i\text{,}(u_i, v_i\in \mathbb{R}) $$ 通过点积能够定义距离，长度，夹角等几何概念$$ cos\theta = \frac{\mathbf{u\cdot v}}{|\mathbf{u}||\mathbf{v}|}$$现在我们更进一步，在数域$K$上的向量空间里讨论广义上的点积——内积(Inner Product)

内积 Inner Product

实数域上的内积

内积运算首先是一个二元算子 $< , > ：V \times V \rightarrow \mathbb{R}$, 其满足以下几条性质($\mathbf{u},\mathbf{v}\in \mathbb{R^n}$):

可交换性：$ <\mathbf{u},\mathbf{v}> = <\mathbf{v},\mathbf{u}> $
对第一个参数保持线性：$$ <c\mathbf{u+w},\mathbf{v}> = c<\mathbf{u},\mathbf{v}> + <\mathbf{w},\mathbf{v}>$$
非负（正定）性：$ <\mathbf{u},\mathbf{u}> \geq 0$

在实数上由性质1，2可以得出：内积对第二个参数也保持线性，所以 $f(\mathbf{u},\mathbf{v}) = <\mathbf{u},\mathbf{v}>$是一个双线性型(bilinear form)，或者双线性函数。

点积 (dot product)与内积

一句话：点积是最常见的内积。
对 $\mathbf{u},\mathbf{v}\in \mathbb{R^n}$,有内积 $$ <\mathbf{u},\mathbf{v}> = c_1 u_1v_1 +c_2u_2v_2 +\cdots +c_nu_nv_n $$
$c_i>0$, 每个c都可以取任意值，当他们全取1时就是点积。由此可见，内积的形式是十分灵活的。

范数 norm

“长度”的一般推广: $$ ||\mathbf{v}|| = \sqrt{<\mathbf{v},\mathbf{v}>} $$
欧氏空间中可把内积换成点积
具有范数的线性空间（向量空间）可称作赋范线性空间(normed space)。
对无穷维赋范线性空间$n\rightarrow\infty$的讨论自然而然地把欧几里得空间(Euclidean space)推广到了具有完备性的希尔伯特空间(Hilbert space)，详见泛函分析。

夹角

$$ <\mathbf{u},\mathbf{v}>= | \mathbf{u} | |\mathbf{v}|cos\theta $$

Cauchy-Schwarz 不等式

$$|<\mathbf{u},\mathbf{v}>| \geq | \mathbf{u} | |\mathbf{v}|$$
左边的$|\cdot|$可以理解成”绝对值”

三角不等式

$$| \mathbf{u} +\mathbf{v}| \leq| \mathbf{u} | +|\mathbf{v}| $$

内积空间 Inner Product Space

一个向量空间 $V$ 装配(equip)上一个内积就叫内积空间。比如欧几里得空间，就是一个具有点积的向量空间$V=\mathbb{R^n}$。

复数域上的内积

当数域推广到复数上时，内积的各种性质发生了一些啸改变。

交换律

注意到内积现在是一个映射到复数域上的算子$< , > ：V \times V \rightarrow \mathbb{C}$, 其可交换性相应地发生改变：
$$ <\mathbf{u},\mathbf{v}> = \overline{<\mathbf{v},\mathbf{u}> }$$
所以对第二个参数我们只能保持一个不那么漂亮的“线性”——共轭线性(conjugate linear)。同理，复数上的内积相比实数上的双线性，这里只有“一个半”线性。拉丁语前缀“sesqui-” 表示1.5个，中文翻译作“半双线性型”(sesquilinear form)