多元微积分 Lecture 1：向量、点积与叉积

课程背景

多元微积分是在一元微积分的基础上，把函数、导数、积分推广到更高维空间。

一元微积分研究的是一条线上的变化，多元微积分研究的是平面或空间中的变化。它在机器学习、优化、物理建模和计算机图形学中都很重要。

向量

向量可以理解为“有大小和方向的量”。在数学上，我们通常把向量写成一组有序数字：

v = (x, y)

二维向量可以表示平面上的一个点，也可以表示从原点指向这个点的箭头。

三维向量：

v = (x, y, z)

可以表示三维空间中的方向和位置。

向量的模长

二维向量：

v = (x, y)

模长是：

|v| = sqrt(x^2 + y^2)

三维向量：

v = (x, y, z)

模长是：

|v| = sqrt(x^2 + y^2 + z^2)

更一般地，n 维向量的模长是所有分量平方和再开根号。

点积

两个向量的点积写作：

A · B

如果：

A = (a1, a2)
B = (b1, b2)

那么：

A · B = a1*b1 + a2*b2

点积还有一个几何解释：

A · B = |A| |B| cos(theta)

其中 theta 是两个向量之间的夹角。

点积的意义

点积可以用来判断两个向量方向是否接近：

• 点积大于 0：夹角小于 90 度，方向大致相同。
• 点积等于 0：两个向量垂直。
• 点积小于 0：夹角大于 90 度，方向大致相反。

机器学习里，点积也很常见。例如线性模型：

y = w · x + b

这里 w · x 就是权重向量和输入特征向量的点积。

叉积

叉积主要用于三维空间。两个向量的叉积结果仍然是一个向量：

A × B

它的方向垂直于 A 和 B 所在的平面。

叉积在几何、物理和计算机图形学中很常见，例如计算法向量。

Schwarz 不等式

点积满足一个重要不等式：

|A · B| <= |A| |B|

这个不等式说明：两个向量点积的绝对值，不会超过它们模长乘积。

从几何公式也能看出来：

A · B = |A| |B| cos(theta)

因为：

-1 <= cos(theta) <= 1

所以：

|A · B| <= |A| |B|

小结

本节最重要的概念：

• 向量表示空间中的方向和大小。
• 模长表示向量长度。
• 点积连接了代数计算和几何夹角。
• 叉积生成垂直于两个向量所在平面的向量。
• Schwarz 不等式是向量空间中的基础不等式。

这些内容后面会反复出现在梯度、优化、机器学习和深度学习里。