夏曹俊LLama实战CPU推理C++大语言模型
2023-08-03 20:10 作者:bili_34189062872 | 我要投稿
1. CPU架构
“抛开架构看核心、频率都是耍流氓”
总的来说就是架构越新越好，新的一代比老的一代更加厉害，效率也更加高，CPU整体性能也越强。架构对CPU的性能等起着十分重要的作用~
2. CPU核心数
计算核心数，核心数越多可以打开的程序就越多；CPU进行多任务计算的能力就更高；为了提升CPU的能力通常会增加多物理核心数
3. 线程数
常规一个核心一个线程；但是考虑到CPU无法饱和，推出了超线程技术（Hyper Threading）：将一个物理核心虚拟成两个逻辑核心，例如4核心8线程；从而来提供效率；
