这个柯西-施瓦茨不等式(Cauchy-Schwarz inequality)的证明方法是如何想出来的?

这个柯西-施瓦茨不等式(Cauchy-Schwarz inequality)的证明方法是如何想出来的?

本文内容整理自台湾学者 林琦焜 的一篇论文,内容相当不错,感觉收获颇多,留作备忘, 仅供个人学习所用,如有侵权,联系删除。

学而不思则罔,思而不学则殆。 —— 论语

一次偶然的机会,看到一位学生很努力地读数学,花了九牛二虎之力尝试证明Cauchy-Schward不等式,看他苦思无助的样子,让自己也回想在求学的经验。随后看了看其草稿纸,我很坦白地告诉他‘你不是在学数学,而是在背书,背定理证明。’ 随后,自己就很“鸡婆”地从判别式与投影的角度解释这个不等式,事后,自己觉得意犹未尽,‘师者,所谓传道、授业、解惑者也。’ 如果自己的一些心得能够解某些人对于数学之困惑与误解,何乐而不为呢?这就是写本文之动机与缘由。

其实我们不能完全责怪学生素质不好、用功程度不够,或怪罪社会风气差,影响着校园。如果数学的教学仍停留在定义、定理、证明,就难怪学生是如此学习。如果这就是数学,老师就没有什么好教的,学生也没有什么好学的(教学等于把课本念一遍!)有谁会喜欢这种“无血无目屎”的怪胎呢?

在旧约圣经列王纪下记载着一段感人的师生故事,当先知以利亚要被耶和华接去之前问他的学生以利沙说: ‘我未曾被接去离开你,你要我为你做些什么直观求我。’ 以利沙说: ‘愿感动你的灵加倍的感动我。’ 教的人有如此胸襟与眼光不忌贤不藏私,学的人有如此之抱负与积极学习之渴望。否则一代不如一代,教育就失去其价值与意义。

Cauchy-Schwarz不等式顾名思义与Cauchy有关,我们从最常见的形式开始。

已知 为实数,则:

等式成立的充分必要条件是 。

这是最常见的Cauchy不等式,其实当n = 3可追溯到法国数学家J. L. Lagrange(1736-1813)。Cauchy不等式可推广至复数。如何推广呢? 不等式只有在实数时才有意义,对于复数或向量要谈大小关系,自然的选择就是其长度。对任意复数 ,其长度 ,因此对(1.1)而言我们只需将平方和的意义,更改为复数之模数(modulus)的平方即可。

已知 为复数,则:

等式成立的充分必要条件是 是一复数。

令 并且定义向量之长度:

则Cauchy不等式可表示为:

由线性代数之理论任意正定对称矩阵都可以定义内积,因此若 为一正定对称矩阵,则有下面的Cauchy不等式。

已知 为一正定对称矩阵 为任意实数(或复数),则:

如果你觉得(1.4)不容易理解,可利用向量来看

我们在此略微休息、深思,对于学数学的人而言,无限(infinite)是一个很自然的概念,并不需要借助于宗教或哲学上深奥的术语。Cauchy不等式对任意自然数n都成立,那么请问 是否也成立呢? 要回答这个问题实际上等于问无穷级数 是否收敛的问题。

已知 ,则

等式成立的充分必要条件是 。

如果 , 则 。

从Cauchy不等式的角度而言,无穷数列 之平方和收敛, , 是很自然而然出现的空间,在实变函数论或泛函分析我们称之为 空间。这是n维实数空间 最自然的推广,它是一个Hilbert空间,最重要的应用就是量子力学。

在数学中尤其是分析学的思考过程通常是:

已知f, g是区间[a, b]上的连续函数, , 则:

从实际函数论的角度而言,我们仅需要求 是平方可积函数( ), 则Cauchy-Schwarz不等式仍然成立。其空间关系可对照前一式(1.6):

(1.7)这个不等式通常称为Schwarz不等式、Cauchy-Schwarz不等式或Cauchy-Schwarz-Bunyakovsky不等式,是乌克兰数学家Viktor Yakovlerich Bunyakovsky(1804-1889)与德国数学家(原籍波兰)Karl Herman Amandus Schwarz(1843-1921), 各自于1981年与1985年发现的。实际上Bunyakovsky比Schwarz还要早25年发现此不等式!但它的名字却常常被忽略甚至被遗忘!有时候所谓的名誉、声望其实是势力分布的结果。在19世纪数学的势力基本上是在德国与法国,德国则以格庭根大学与柏林大学为中心。

Schwarz起初是在柏林大学就读化学,而后受Kummer与Weierstrass之影响而转读数学。受业于Weierstrass门下,据闻他于1861年在Weierstrass课堂上(Integral calculus)所做之讲义,至今仍留著。Schwarz是Weierstrass最出色的学生之一,他于1892年接替Weierstrass在柏林大学的位置一直到1917年止。19世纪的数学基本上是复变函数论,因此在Weierstrass的指导下,Schwarz主要是研究保角变换(conformal mapping)并涉及变分学(calculus of variations)特别是最小曲面的问题。他发现如何将上半平面映至多边形的公式,今天我们称之为Schwarz-Christoffel公式。他更用保角变换的技巧来解偏微分方程(Laplace方程)的Dirichlet问题,这方法有效地避免了Riemman利用Dirichlet原则(Dirichlet principle)之争议。Schwarz是第一个给出圆盘上调和函数之Dirichlet问题存在性的严格证明。这问题原先是由Poisson所解。

Schwarz最重要的工作则是于Weierstrass 70岁生日之贺礼,他解决了给定一最小曲面是否可得最小面积的问题。而在这文章中他发现了一个关于积分的不等式,就是现在熟悉的Schwarz不等式。

Cauchy不等式最出名的推广就是Holder不等式。

已知 为任意复数,且 , 则:

Holder不等式对 也成立。另外最著名的就是积分形式。

已知 , 则:

或者更一般的形式:

已知 , 则:

这不等式是德国数学家Otto Ludwig Holder(1859-1937)在1884年间研究Fourier级数之收敛性问题发现的。Holder就读于德国柏林大学,受业于一代宗师Weierstrass、Kronecker与Kummer等人之下。原先研究兴趣是解析函数(analytic function)与利用算术平均求和的问题。而后受Kronecker与Klein的影响,也投入群论(group theory)之研究,其中最著名的是Jordan-Holder定理。

Holder不等式也称为Holder-Riesz不等式(1880-1956)有系统地整理应用,而成为研究近代分析(特别是泛函分析)的主要工具。F. Riesz可以说是泛函分析之创始者,他利用Frechet的想法讲Lebesgue之实变函数论与Hilbert-Schmidt的积分方程理论建立起连接之环节。在1907年-1909年间他利用Stieltjes积分得平方可积函数之线性泛函的表现定理。我们会习惯称为Riesz表现理论(Riesz representation theorem), 他进而更研究p次可积分函数(L^p),这可说是研究normed space(赋范空间)之开始,其中他引进弱收敛(weak convergence)的概念。他也证明L^p空间的完备性,今日称为Riesz-Fisher定理,这定理成为证明量子力学中矩阵力学(matrix mechanics: Heisenberg)与波动力学(wave mechanics: Schrodinger)两个理论是全等的数学基础。

谈Cauchy-Schwarz不等式,做好从余弦定律开始。我们考虑三角形 三边分量分别是 , 并且假设 , 则由余弦定律 或者换成向量表示为:

可得:

由余弦的性质 , 可得:

这就是Cauchy-Schwarz不等式,它告诉我们两个向量的内积永远小与这两个向量长度的乘积。

这是对于Cauchy-Schwarz不等式最直接明了的阐述,但是这里面却又件事值得商榷 — 角度。如果我们的兴趣只停留在二维或三维空间,则Cauchy-Schwarz不等式讨论至此即足矣!数学的探索有时是出于奇想。对于四维或任意N维空间是否也有Cauchy-Schwarz不等式呢? 此时‘角度’的意义马上变得异常暧昧,对于思维以上的空间角度是什么意思呢? 这个问题我们回到(2.2)式将其改写为:

左边是角度有维数(dimension)限制,而右边是内积则不受此限制。所以要将角度的观念推广至高维甚至无穷维空间势必从右式着手,我们暂且将 视为两个不同的事物。前面证明的逻辑:

如果要推广,我们必须先放弃余弦定律而直接证明Cauchy-Schwarz不等式:

然后再回到(2.4)来定义角度,当然我们会问为何是 而非 呢? 由于绝对值小于等于1,因此两者都有可能,但任何的推广必须建立在既有的事实上面,所以唯一的选择便是 。

注解: (1) 角度是数学中一很有趣的主题,例如在球面上如何定义呢? 对于更一般的曲面读者有兴趣可参阅集合学方面的专著。对复数内积空间,角度有两种定义方式:

表示内积 之实部。对于(2.5)而言显然 但余弦定律却不成立,但2.6则成立,如果我们允许复数角的话则可以定义:

( 可以是复数), 是一复数可以表示为:

其中

称为Hermitan角(Hermitian angle), 而 则称为伪角(pseudo-angle)。

关于这个不等式最常见的证明方法是利用判别式,因为向量 之夹角 , 即 非平行的两向量,因此由向量 所形成之平面上任意向量可表示为:

我们考虑向量 的长度

(3.2)可视为 的二次方程式,由于 , 而且 , 所以(3.2)所代表的是开口向上而且在 轴上方的抛物线,由于与 轴不相交,所以没有实根,因此判别式小于或等于0。

整个证明过程完全避开角度,而只用到内积,因此对于任意N维或无穷维空间都可适用,这是该证明方法最大的优点。然而我们对此仍不满足,例如\lambda的意义是什么? 难道它只是一过渡性的工具而已吗? 我们再看另一种证明方法,仍然仿前面的方法,只是此时我们取:

带回(3.2)

整理得:

正好是Cauchy-Schwarz不等式(开根号):

但是这个证明方法反而令人沮丧!突然天外飞来一笔,什么都没有交代。写书或教书的人不负责任,就如此含糊带过去,当学生的读书不求甚解,不想也不问最后就硬背起来,学数学变成背书,这是在不是教育的目的,其实稍用点心思,从证明过程是可以领悟一些奥秘的。

为何\lambda要如此取呢? 我们看向量 之间关系:

因此

换句话说,(3.3)中的\lambda的取法是有几何意义,并非无中生有靠灵感而来的。此时 正是向量 在 之投影,而 则是 至 的最短距离。 还有一个很出名的解释就是Lagrange乘子(Lagrange multiplier): 为求 到 的最短距离我们必须调整 使得 , 如果是函数则该条件换为微分或梯度(gradient)等于零。

如果我们并不是急着要完成证明,而略微享受证明的过程,活血我们会有一些收获。数学与人生一样,过程比答案要来的重要。回到(3.4)

右边 就是Cauchy-Schwarz不等式的误差项,显然 , 所以Cauchy-Schwarz不等式要成为等式当且仅当

也就 是说是两平行的向量。

研究学问就像钓鱼必须耐心等待一段漫长枯燥的时间,才会有有趣的事发生。我们并不急着要告诉有关Cauchy-Schwarz不等式的应用…等等,学数学要懂得如何去欣赏其结构美。 由(3.6)不难想象起左式本质就是行列式,因此我们引进Gram行列式(Gram determinant)

因此由点 到直线 的最短距离 可表示为:

又由于 (因为 )所以马上可以得到结论Gram行列式 。当然利用Gram行列式也可以得到Cauchy-Schwarz不等式的另一种形式。

Cauchy-Schwarz不等式: 行列式

由Gram行列式也可以判定向量是否线性独立。

定理 向量 线性无关当且仅当

注解:

(1) 3.1定理告诉我们由矩阵的正定性可以导出Cauchy-Schwarz不等式。由矩阵理论来看是明显的,由于:

所以可推出Cauchy-Schwarz不等式 甚至还有更广的不等式:

(2) 在函数空间例如 ,则Gram行列式取底下之形式:

则由3.1, 3.2定理可知 为线性相关,当且仅当 。

(3) 平面上任意点 至直线 的距离可借由内积来认识: 首先连接 两点且假设此线段与直线 垂直,因为 为直线 的法向量故可假设

上式右方取单位向量好处是此时 是向量 之长度,因为 在直线 上,故:

我们将直线 表示为内积:

则 正是原点 到直线 之距离。同理三维空间上任意点 至平面 的距离公式:

我们将平面 表示为内积之形式

则 是原点 到平面 之距离。N维空间仍有相同公式

是原点 至平面 之距离。这种分解方法称为平面波(plane wave)是研究偏微分方程的重要方法。

(3.6)告诉我们的还不仅于此,它同时也告诉我们由向量 所形成之平行四边形的面积 , 当然由向量 所夹成的三角形面积等于

从余弦定律来看也是很有意思的

因此

定理 向量 所夹的角为 , 则

这个公式告诉我们Gram行列式的几何意义: 等于向量 所夹之平行四边形面积的平方。同理三维空间由向量 所夹之平行六面体(parallepiped)体积:

由行列式之性质可得:

换句话说, 等于向量 所夹之平行六面体体积之平方。

由最短距离可知 , 所以由(3.8)可推得著名的Hadamard不等式。

Hadamard不等式

Gram行列式 满足不等式:

而且等号成立的充分必要条件是向量 互相垂直

Hadamard不等式的几何意义如下:

由向量 所形成之平行四边形的面积小于以向量 为两边所围之长方形的面积,而且唯有平行四边形是长方形即 时等式才成立。

注解:

(1) 维空间的Hadamard不等式是:

而且等号要成立的充分必要条件是 两两要互相垂直,其几何意义是平行多面体的体积不超过其边长的乘积。

其实(3.6)就是Lagrange恒等式(Lagrange identity):

3.5 定理(Lagrange)

已知向量 则:

或表示为行列式:

证明该恒等式可以利用归纳法加上行列式的性质,这是一个很好的题目(如果你有足够的耐性!)这恒等式的几何意义是很有意思的。

先看

因为行列式 是向量 所形成之平行四边形的面积,

因此 等于 所围成之平行四边形面积的平方。

同理对任意n维我们可结论: 等于向量 所围成之平行四边形面积的平方且等于在所有二维坐标之投影的平行四边形面积的平方和。对于更一般的Gram行列式 亦有相类似的公式(请参考高等数学分析: 华罗庚著)。

注解:

(1) 向量除内积之外还有另一个重要的量 — 外积(exterior product; vector product)。

给定向量 定义其外积

假设向量 所夹的角为 , 则

所以(3.6)或Lagrange恒等式(3.24)告诉我们内积与外积之关系,而其本质就是华氏定理:

谈Cauchy-Schwarz不等式不得不提算术-几何平均不等式,因为这是当初Cauchy的目的之一。

利用这个不等式也可以证明Cauchy-Schwarz不等式, 令

带回(4.1)

或:

取有限和

因此得:

因为不等式(4.1)对任意a, b皆成立,如此允许我们有极大的弹性做一些变换:

(4.1)不等式有时也称为Cauchy不等式,其几何意义如下:

分别表示直线 与 轴与 轴所夹三角形面积。而 则是长方形之面积,从图形上来看显然长方形面积小于两个三角形面积之和,误差项则是阴影的部分。由于是面积,因此(4.1)可以表示为积分

而且从图形容易看出来等式成立的充分必要条件是 (因为 都是单位函数)。

从图形上分析,我们总是有如此的诱惑,不等式(4.2)是否能推广至一般情形呢? 在数学上做任何的推广之前提是对原先之结果有本质的体会。对(4.2)而言 正好是 之反函数。因此, 分别是两个三角形之面积。整个问题的核心就在于f之反函数g是否存在? 由函数之理论我们仅需要求f是递增函数(increasing function)即可。

4.1 定理(Young’s 不等式)

若 是一个递增连续函数,满足 ,而且 是 的反函数(因此 也是递增连续函数), 则

Young’s不等式(4.3)的几何意义与前面相同。只是此时直线 由曲线 所取代,而积分 分别是曲线 (或 )与 轴 轴所夹之面积阴影部分仍然是误差项,而且显然等号成立的条件是 。

最常见的Young’s不等式是当 ,因为f必须是递增函数,因此要求 ,所以 , (4.3)成为:

其中p, q满足关系式:

而且等号成立的条件是 或 。利用不等式(4.4)我们马上可得Cauchy-Schwarz不等式的推广。

给定任意实数 且任意 , 则:

证明: 仿(4.1)底下之证明,取

因为Young不等式对于任意a, b皆成立,因此(4.4)可以改写成底下之形式

我们再从另一个角度来看Cauchy不等式(4.1) 因此不等式对任意实数a, b皆成立,因此(4.7)式子相当于:

我们考虑函数:

因此 之极小值(最小值)产生在 , 且( ), 故:

而令 可得Cauchy不等式(4.1)而且等号发生在 之极小值 , 即 。

同理如果 , 我们考虑函数:

故:

再令 , 则:

而且等号发生在

由图形之分析可知直线 与 相交点是 。直线 相隔之后最宽的距离是 , 正好是 两点之距离,因此 。

从几何的角度而言,上面两个图形告诉我们曲线 永远在直线 之上,且 相切于 ,换言之直线 是 之支撑线(supporting line)。如果将切线 平移为通过原点(0, 0)之直线 , 则 就是直线y = x与曲线 相隔之后垂直距离是宽者。如果不限定x = 1, 而在任意点x = r变动,则支撑线为:

此时y截距为:

(4.11)告诉我们由点 可唯一决定曲线 上的点 , 换句话说,这两点之间可定义某种变换关系,这就是著名的Legendre变换(Legendre transformation)

由(4.12)马上可得Young’s不等式:

我们回到前面两个例子。若 , 则

而Young’s不等式为:

同理若

则Young’s不等式(4.14)取底下之形式

整理上面论证所依赖的就是支撑线(supporting line)的概念,因此并没有局限在 。何时支撑线会存在呢? 我们回到(4.11)

之间能建立起 的对应关系,所以自然的要求就是 是一增函数,如此 仿可以与实数轴R建立起1 - 1关系,换句话说, ,也就是 是一凸函数(convex function)则Young’s不等式成立。这体型我们Holder不等式可以从凸函数的角度来思考,其本质就是Jensen不等式。

我们可以可以表示如下(利用凸函数之性质)

同理:

这两个不等式的集合意义可以由指数函数 之图形来理解,为了方便起见我们假设 由于 是一凸函数,所以连接 或 两点的弦一定落在连接这两点的弧(函数 图形之一部分)之上方。因为我们希望不等式

成立,因此 必须满足 。由分点公式 可以表示为 的凸组合(convex combination), 因此 还要满足 又由梯形(包含弦之部分),利用对应边成比例,所以再由分点公式可知ab正上方弦那点的值为 , 因此可以结论:

最后我们从量纲分析(dimensional analysis)的角度来说明为何 必须满足 。首先将 变换为 , 并定义函数 , 则:

我们刻意假设 , 则

同理:

因为:

因此Holder不等式(1.10)要成立的话其左右两式的量纲(dimension)必须相同。

换句话说 的量纲可视为 , 的量纲可视为 ,积分 要有意义,也就是说积分是一个实数,而实数是一维故 。同理(1.11)左右两式之量纲必须相同, 故:

Holder不等式另一个推广之形式为:

4.3 定理

已知 , 且 , 则:

或

这个证明是很好的习题,我们留给读者做练习。由量纲分析可得:

所以不等式左边的量纲(dimension)等于 ,而右边是 , 所以p,q,r必须满足关系式 。

最后我们要强调的是Holder不等式之本质就是凸函数。

4.4 定理

定义函数 , 则F是一凸函数。

证明: 由Holder不等式取 , 则

注解:

从Holder不等式出发可得到许多重要有趣的不等式,其中最出名的就是空间与算子的插值问题(interpolation problem)。例如Riesz convex定理,Riesz-Torin定理或Riesz-Torin-Stein定理…等。

原文地址:

「更多问题可点我头像进入主页,向我发起付费咨询」