背景

- 随着计算机硬件的发展,机器学习得以突显,从2013年开始的机器学习,2017年的TensorFlow,到2023年的chatgpt的火热,本质上是算力的提升导致,可以支持大模型的海量参数

- 在机器学习中,底层的运算是矩阵,通过对矩阵的拆分,使用多层模型可以实现

- 在算法层面,通过梯度,降维进行矩阵化拟合和向量化,使用高维数据可以变成矩阵

- 在gptchat流行以后,人们基于chatgpt进行了想象和实践化的应用,总的来说主要有: nlp(自然语言理解) , 逻辑 , 生成等,但是最基础的是nlp

机器学习的必要条件

- 优质数据

- 优化拟合算法

- 计算单元

说明

1.cpu是更适合的场景功能是逻辑性强的,即if-else,gpu的使用场景是计算的

2.不同llm(大语言模型)的数据格式,影响了模型的性能如int ,double

3.数据格式由两部分组成 表达范围 + 精度

以代码生成功能-实际说明

- 从公开的数据来看,chatgpt使用的数据是基于github的

- 进行代码生成的主要流程是 (nlp)自然语言处理--> 词法token --> 中间语法树 --> 中间表示 --> 程序依赖图 --> 向量化 --> 启发式搜索 --> 重复n次 --> 输出

未来的发展

- ai的核心是数据和算力,越大的模型入门的门槛就越高,chatgpt3.5的成本是1500w美元,未来的中小企业只能租用

- ai的输出和可预期的,人的行为具有随机性的,这是一个重要的节点

- 怎么定义有效的优质数据,依然是需要人来做的,目前东南亚的已经有大量的数据标注岗位,而数据标注直接影响到ai的质量

AI的评价

- ai将使得人们从重复劳动中解放

- 未来的核心竞争力是创造力

- 个人的影响力将进一步提升,可以参考现在的头部个人自媒体

思考题

- 什么是价值?

- 其他的人相比,你有什么不同?

结论

- 通过简短的梳理,从宏观角度回顾了一下AI的发展,并做出了一些展望和建议