cs231n 10 不完全笔记

灵感：输入层红色，绿色隐藏层，蓝色固定数量输出

“固定数量”改成不固定数量，而且不必只连接到最后一层

rnn公式

rnn（只有短期）

lstm（只有长期短期） 

和 联想（所有时期） 和 知觉全在（所有时期）

神经网络的弱点之一就是没有规则，没有清晰性，而有模糊性

这里把念的simplist听成simpler，就是因为这种模糊性，它不知道规则，如果能听到s和t，那就能根据规则从s和t条件推理出是simplist而不是根据模糊激活值simpler>simplist而选择simpler

所以网络需要那种像人一样学一两三个样本就学会某种规则的“是”编码。

“什么什么怎么怎么样”“是”“什么东西”，“那样就”“不是”“这个东西”，“而”“是”“另一种那个东西”

比如把in principle 听成 and principle，就是因为网络分不清楚什么读音“是”/in/，什么“是”/aen/

把所有人念的/in/（感受神经元）归类为“是”/in/（符号神经元），所有人念的/aen/归类为/aen/才对。