这个小AI后来学会了一些奇技淫巧，我们看到以后就第二次地崩溃了 | 吴翼 一席第

机器学习

不需要复杂的描述，而需要进行数据标注，让机器自行拟合函数

新的问题：现实的问题并不简单，如何量化标注？

强化学习：解决智能决策问题，让ai不断和环境进行交互，从经验中总结方案，在各种游戏中，ai都成功战胜了人类，也就是说，只要有足够的计算能力和清晰的规则，ai就能战胜人类

如何用游戏模拟现实

训练一个ai在任何物理环境中都能完成模仿任务，让ai学会通过环境的动态反馈来调整策略

ai在虚拟世界中可以创新，例子：捉迷藏

小蓝人是躲藏方，小红人是抓人方，小红人每看到小蓝人一秒，红方加一分，反之则蓝方加一分。

在虚拟世界中，小蓝人首先发现了使用障碍物阻挡小红人的视线，经过尝试，小红人也发现可以用Bug骑着箱子前进，从而找到了隐藏的小蓝人。之所以小红人能够“骑”箱子，是因为物理引擎判定在抓取状态下，箱子会跟随小红人移动，因此只要小红人站在箱子上并“拿着”箱子，就能“骑”着箱子泡

意味着ai发现了物理

ai能够发现人类无法发现的策略，甚至是bug，这其实就是创新

我们可以信任ai吗，如何实现人工智能安全性

高分策略的局限性

人的价值观是复杂的，难以量化，ai在现实行动时，可能作出符合高分策略但不符合人的价值观的行为

人本主义ai（human-compatible artificial intelligence）