最近在看吴恩达的《DeepLearning课程》, 涉及梯度下降算法优化的时候，介绍过指数加权平均。课程中是以伦敦的温度为例子，为了方便使用数据，我就直接使用温度的例子了。
假如我们现在有365天的温度，要求最近N天的平均温度值，其中 。
当N=365，加权平均数为：
指数加权平均是一种近似求平均的方法。
例如： ，t=100， 90到100这十天的平均温度。
举例迭代的过程如下：
设置不同的 会是什么样子呢?
,代表的是最近10天的平均温度值,对应下图中的红线.
,代表的是最近50天的平均温度值,对应下图中的绿线.
,代表的是最近2天的平均温度值,对应下图中的黄线,可以看到这时候和每天的温度值基本就是吻合的.
我们把公式展开一下,看看这个算法是怎么作用于 的,以 为例。
到这里我们就很清楚 实际上是对每天温度的加权平均，时间越近，权重越大，而且是指数式的，所以叫做指数加权平均。 假如我们以1/e为一个分界点，认为权重小于1/e对整个结果影响很小，权重指数衰减到这个值之后的项就可以忽略不计了，那当 取值的时候，多久才可以衰减到1/e呢?
考虑以下函数:
这个时候需要10天可以衰减到1/e
这个时候需要50天可以衰减到1/e
所以最开始说：
：代表的是第 天的温度值；
公众号：胡慢慢滚雪球。更新软件工程、个人思考、投资相关的东西。
