一个“臭打游戏的”怎么就成了卖AI领域入场券的人？【差评君】

英伟达在AI领域取得了垄断地位，主要得益于其高性能GPU的数量优势。GPU在深度学习领域的优越性得到了吴恩达等人的认可，英伟达通过对KDA开发和社区的持续投入，使得KDA和各类AI框架深度绑定。其他公司想要挑战英伟达的地位，但都来得太晚，连AMD和英特尔都难以撼动英伟达在AI领域的地位。英伟达还在努力迭代其产品，提升在AI领域的绝对优势。在进行神经网络训练时，裁剪掉不重要的参数可以极大地提升训练效率。

英伟达通过针对稀疏矩阵的优化、特定的减脂算法、存储精度的动态调整、nv link和nv switch等技术，提高了单个芯片的算力，加速了神经网络训练速度。他们的产品已经能够影响到整个AI产业的战局和发展速度。虽然谷歌的TPU训练效率比英伟达的产品高，但谷歌的芯片不对外出售，且两者并非处于完全相同的赛道。如果想要加入AI领域的竞争，要么财大气粗，有自己的生态，可以完全为自己的生态打造专属芯片，要么就只能从英伟达那里买大量的高端显卡。整个计算芯片的设计制造，以及AI生态的建设，依旧是AI领域需要突破的关键。

- 英伟达在AI领域取得了垄断地位，市场占有率超过80%

- GPU在深度学习领域的优越性得到认可，成为深度学习领域的标配

- 英伟达通过对KDA开发和社区的持续投入，使得KDA和各类AI框架深度绑定

- 其他公司想要挑战英伟达的地位，但来的太晚，几乎不可能撼动英伟达在AI领域的地位

- 人工智能对精度的要求不高，进行芯片优化时，干的最多的事情就是偷工减料

- 英伟达推出了针对稀疏矩阵的优化，通过配合特定的减脂算法，训练用的矩阵会变为横向上，每四个连续数据最多只有两个非零数据的情况，此时的显卡就可以直接把矩阵横向压缩成原来的一半进行计算，效率自然就提升了一倍。

- 神经网络中很多时候并不需要高精度，早期大家开始采用半精度来储存部分参数，进一步开发出了八倍存储格式，不同参数对于精度的需求是不同的，一般来说，存储精度得以系统中的最高需求为准。

- 英伟达最新的hopper架构中，包含的transformer引擎，能做到动态调整参数的精度，对数据进行存储和计算，精度每下降一半，自然就意味着一倍的效率提升。

- 英伟达研发了nv link和nv switch，来加速其pu之间的通信，许多公司才会购买大量显卡来叠加算力，以求大幅减少训练新模型所需的时间。

- 英伟达的产品是当前可出售的产品中最好用的，其他公司不必担心自己的数据被英伟达偷了去。

- 英伟达从一个游戏产业公司，奔向ai基建公司的历程，也是一个美国芯片产业一贯以来的缩影，靠民用需求，帆布核心技术发展，需求是技术真母市场是技术支付。

- 新的工业革命已经到来，爷爷技术的发展不仅加速了人类生产力的发展，也加速了那些落后产能的淘汰，现在各行各业都在变革的前夕，强者愈强，弱者无用，如果不奋力追上，可能真的已经不需要弱者了。

📈00:23 英伟达在AI基建领域产生了绝对的优势，甚至几乎垄断了行业

🌎00:56 英伟达在AI加速芯片领域中的市场占有率已经超过了80%，全球超级计算机500强榜单中90%的新系统都搭载了英伟达的产品

💻02:19 英伟达在1996年就发布了初代GPU G Force，老黄就一直在关注有没有人在研究GPU在其他领域的意义

🚀03:09 吴恩达探索出了用GPU来进行深度学习训练的方法，并发表了论文，这让许多人认识到了GPU在深度学习领域的优越性

🌍04:37 科大扩大开放给大众使用，打造酷大的生态圈

💰05:02 华尔街不懂人工智能，英伟达股价暴跌90%

🚀06:01 使用支持ka的高性能显卡，让深度学习跑得更快

🤔07:02 卖芯片的公司有机会吗？

🧠08:00 人工智能对精度的要求不高，偷工减料提升训练效率

🤖09:01 电脑认死理，即使参数调成零也会老老实实算一遍

👉09:12 a100 显卡针对稀疏矩阵的优化

🔍10:05 存储精度以系统中的最高需求为准

🚗11:14 英伟达强势进入自动驾驶领域

💰11:45 英伟达的硬件和工具集已经能够影响整个 AI 产业的战局和发展速度

🏆12:21 英伟达的产品未必是现在最适合 AI 训练的

💻13:01 英伟达只卖铲子，不参与大模型的具体竞争

🧩13:25 芯片是一切的基础

💻13:29 自己的ai大模型很重要，但计算芯片的设计制造和ai生态的建设更为重要

🚀14:11 新的工业革命已经到来，落后产能将被淘汰

💪14:26 在ai领域，如果不奋力追上，可能真的已经不需要弱者了