欢迎光临散文网 会员登陆 & 注册

生产力&游戏性我全都要——2023年4月的一次主机DIY配置记录(一)

2023-05-14 00:05 作者:火焰大喷菇  | 我要投稿

摘要 

作为一名计算机专业的学子,想要追上AI浪潮,生产力工具得跟上。本文将重点介绍up主用于深度学习兼游戏的电脑配置以及各配件选择原因,配置确定时间为2023.4.26性价比高,仅供参考

关键词:  DIY;装机;配置单;深度学习;2.4万预算 

Abstract

As a student majoring in computer science and technology, I have to upgrade my productivity tools to ride the tide of Artificial Intelligence. This paper aims at introducing my new computer specs for deep learning as well as entertainment and the reason why I choose these components. The specs list has a deadline of April 26, 2023, which is not very economical and only for your information.

Keywords:  DIY · computer building · computer specifications/specs list · deep learning (DL) · a budget of ¥24,000

一、前言 Introduction

近年来,以深度学习为代表的神经网络进入了井喷式发展阶段,ChatGPT等AI大模型遍地开花,AI翻唱、AI绘画也走进了大众的视野。作为一名计算机专业的研0学子,想要研究深度学习,必然需要一台强大的计算机(尤其需要强力显卡)作为支撑,我已经受够了1batch1batch地跑训练数据、一跑跑一下午的感觉了,这次下血本争取换未来3年的高质量生活

在准备好了拟录取所需的材料并忙完了手头的任务之后,我花了大约两周的时间收集资料、研究配置和各种参数,终于在五一节前下完了单。你问我为啥不等618?一是早买早享受,省下的钱相当于换一个月的体验(说实话能省多少我也没个底,因为我这几年很少网购,到时候瞅一眼),二是错峰或许能减少意外发生率五一错峰了个寂寞

配置单作业主要参考了某乎befreedoma[1]和Leo Leung[2]的经验贴,再结合自身需求与产品现状改进而来,非常感谢大佬们的分享!

接下来,我将依次对自己进行需求分析介绍配件参数以及我选择时的心路历程,文末将附上配置单和参考资料

注意:本文无意做任何产品推荐!不做推荐!不做推荐!只是记录下这段经历和查找的资料。还有请不要问up为什么选A不选B,问就是爷乐意,再问就是爱的供养

如果这些选择中日后有令我后悔的选项,那么会在系列文章的最后一篇末作打脸回顾

全文预计分四篇增量交付,这里先开个坑

二、需求分析 Requirement Analysis

¥0

预算:¥24,000

总指导原则:木桶原理(追求各硬件满足需求且性能相对均衡)

2.1 生产力需求 ☆☆☆☆☆

各硬件对于深度学习(DL)性能的影响程度大致如下[2]:

GPU板&CPU内存硬盘>电源(带的动别炸就行)>机箱(装得下就行)

2.1.1 GPU要求

对于NLP的深度学习来说,显卡的显存大小至关重要,尤其是跑大语言模型。24G显存就能跑复旦开源的MOSS大模型[3]或者在港科大开源的LMFlow[4]上训练LLaMA-7b模型了,而12G效果可能就不太好(或者就直接爆显存了)。

Tried to allocate 6.66 GiB(...)

此外,根据千夜明的观点,显卡的带宽、CUDA核心数、核心频率也会影响深度学习的模型训练速度[5]。CV方向好像更吃CUDA核我这块没仔细研究,欢迎大佬指正

至于是否需要搭建工作站(两张3090之类),个人计划组建这台机子用于日常学习,各种模型跑着玩玩,不是跑实验用,而且对于游戏来说,多显卡的性价比不高[6],故采用单显卡方案

2.1.2 CPU要求

根据炼丹术师程序Faith的实验结论,深度学习单显卡16线程的CPU就基本够用[7]

CPU频率增加,深度学习效率也会对应提升

2.1.3 内存(RAM)要求

一般而言,内存大小应匹配显存大小[8],但如果是处理大型数据集的场景,可能会因为存放大量中间结果需要更多的内存。

故参考深度学习用内存的一般经验法则[9]:

内存大小 ≈ 125%显存大小

按24G显存来算,32G就足以应对一般场景了~

内存频率是噱头,性能提升寥寥无几[8],不作考虑。

2.1.4 硬盘要求

大的机械硬盘(HDD)来装大数据集(建议≥3T),固态硬盘(SSD)来装软件、程序、小数据集[8]

2.2 游戏需求 ☆☆☆

2.2.1 GPU要求

如果对游戏性能有高要求,则选择消费级显卡。因为消费级显卡针对DirectX进行了优化,渲染显现速度快[1]。

2.2.2 CPU要求

游戏性搭配4090,13600KF以上没有性能瓶颈[10]

2.2.3 内存要求

游戏性DDR5频率越高越好,选性价比高的即可[1]

32G内存足以应对主流游戏

2.2.4 硬盘要求

SSD装操作系统、软件和游戏,HDD装系统备份和其他文件

2.3 其他需求 ☆

2.3.1 外观需求

我喜欢“保守”的风格,不需要RGB灯,对最近流行的“海景房”机箱也不感兴趣。

2.3.2 静音需求

尽可能在不影响散热情况下,减轻运行时的噪音,因为可能要带到宿舍(可能)

2.3.3 剪辑需求

能流畅使用Adobe全家桶就行(之前剪UnderMine视频时经常性卡顿)

2.3.4 直播需求

在流畅玩游戏的基础上,同时处理影像串流,需要系统额外分配一部分的CPU和GPU资源

网络方面需要稳定的网络环境,以及更高的上传速率(之前直播游戏卡得播不了QAQ)

外设方面需要额外购置耳机、摄像头,可能还要麦克风、独立声卡(这部分暂时搁置,等我装完机先)

三、显卡选择

3.1 厂商选择

深度学习领域,基本是N卡一家独大(因为有优秀的硬件架构,完善的软件生态,更重要的是有CUDA硬件加速[11]),而其他两家还在努力追赶,所以目前显卡厂商的选择是一道单选题

3.2 型号选择

从算力角度来看,4090真香![12]

从显存角度来看,除去4090外,在24G显存的消费级显卡中,3090可能是不错的选择,此外22G显存的魔改版2080ti也能作为入门的选择[1]

知名测评博主Tim Dettmers做了一张GPU选购流程图[13],在消费级显卡中也是首选RTX4090

do something else亮了

所以,在预算充足的情况下,我毅然决然地选择了RTX 4090,比起3090避免了矿卡的风险,比起4070Ti多了显存容量和显存位宽。

3.3 参数解读

上面提到了显卡的部分参数,这里简单解释一下

出处:https://news.mydrivers.com/1/883/883673.htm

3.3.1 CUDA核心/流处理器

CUDA(Compute Unified Device Architecture 统一计算设备架构),是由NVIDIA推出的通用并行计算架构,是一种让N卡GPU能完成通用计算任务的集成技术。CUDA支持多种编程语言,基于CUDA的编程可以为数据吞吐量大的计算工作提供很好的加速功能。

流处理器(SP,streaming processor),在编程角度称为CUDA核心,是N卡GPU中最基本的处理单元。它有两个重要参数,核心数量和核心频率

如果把显卡比作小白兔奶糖的包装车间(处理前的数据可以是糖块,处理后的数据可以是包装好的奶糖),那么CUDA核心数/流处理器数就是车间的员工数量CUDA核心频率就是车间员工的干活效率


3.3.2 显存容量/显卡内存容量

显存用来存储显卡芯片处理前后的渲染数据,显存容量决定着显存能临时存储多少数据。

继续沿用奶糖车间的比喻,这就是车间仓库的大小

单位:字节 Byte


3.3.3 显存带宽与显存位宽

显存位宽:显存在一个时钟周期内所能传送数据的位数,位数越大则瞬间所能传输的数据量越大。我们假设车间只有一辆斗车,这就是车车容量,即单次能送往仓库的奶糖数或拉回车间的糖块数。

单位:比特 bit

显存频率:这就是车车每秒能运输的次数,反映了车车的车速

单位:赫兹 Hz

显存带宽:显示芯片与显存之间的数据传输速率,这就是车车每秒的运输量,反映了仓库和车间的运输效率

单位:字节每秒 Byte/s

换算公式:显存带宽 = 显存频率 × 显存位宽 / 8

CPU、GPU都能参与计算,那它俩是什么关系呢?

合作关系。CPU负责处理逻辑复杂的串行程序,GPU重点处理数据密集型的并行计算程序,从而发挥CPU+GPU异构计算平台的最大功效。GPU只能替CPU分担工作,而非取代CPU[14]

不难看出,在其他参数不变时,以上单项参数都是越高越好

3.4 品牌选择

考虑品牌无非从五大方面入手:散热、性能、售后、外观、价格[15]

  • 散热上:综合各大平台对4090的评价,你会发现“散热过剩”一词频繁出现,只要机箱散热通道正常,GPU温度很难到达温度墙

  • 性能上:差距很小,据说大约3%~5%

  • 售后上:保修方式大多是个人送保,也有经销商代保,保修年限2~4年

  • 外观上:萝卜白菜各有所爱,有灯无灯,黑的白的

  • 价格上:满足以上需求的同时,价格越低越好

对我个人而言,外观上基本没有需求。所以,我考虑的因素只剩性能、售后和价格。

性能和价格综合起来就是性价比。一般而言,各品牌同级别的显卡性能处于同一梯队(参考视频[16]的综合排名)。虽然不少文章都推荐无脑丐版,但我偏不想选丐版(哎就是玩)。在权衡各级别4090价位后,计划购买主流级/次旗舰显卡(再往上旗舰级普遍比次旗舰贵1~2k,个人认为不值得)

售后方面,参考了各品牌显卡级别定位图[17],又在贴吧、论坛逛了一圈,大致消息如下。华硕售后的风评最好,但是价格也很高(所谓售后也是价格的一部分);七彩虹、索泰售后听说也不错;某嘉售后是唯一一个注册后四年质保,但是经销商代保且运费自付。

综合考虑后,我选择了某嘉魔鹰Gaming OC。

附录一、参考资料 Reference

1. (2023-02-11)【知乎】深度学习/AI绘画炼丹生产力兼游戏性主机DIY配置详解

https://zhuanlan.zhihu.com/p/618026401

2. (2023-02-19)【知乎】2023深度学习电脑主机选购指南及配置清单! 实验室装机案例(2月更新)

https://zhuanlan.zhihu.com/p/375807395

3. (2023-04-23)【小黑盒】复旦ChatGPT:开源MOSS大模型,3090显卡即可运行

https://www.xiaoheihe.cn/community/7214/list/102982764

4. (2023-04-02)【知乎】3090单卡5小时,每个人都能训练专属ChatGPT,港科大开源LMFlow

https://zhuanlan.zhihu.com/p/618919940

5. (2023-02-23) 4070Ti、4090显卡的深度学习性能测试和结论

6. (2020-12-13) 【知乎】作为一般的游戏玩家,有必要安装两张显卡吗?

https://zhuanlan.zhihu.com/p/336668286

7. (2023-01-09) 深度学习主机需要顶级cpu吗

8. (2018-12-16) 【国外大神】完全硬件指南:教你 DIY 一套自己的深度学习机器

http://timdettmers.com/2018/12/16/deep-learning-hardware-guide/

9. (2023-02-27) 【百家号】了解深度学习和机器学习的内存要求

https://baijiahao.baidu.com/s?id=1758953982235676828&wfr=spider&for=pc

10. (2023-02-13) 史上最强!游戏党必看的CPU显卡搭配指南!内含17款CPU+9款显卡+6种游戏测试数据!

11. (2022-11-18)【知乎】为什么说CUDA是NVIDIA的护城河?

https://www.zhihu.com/question/564812763/answer/2765282105

12. (2021-12-26)【知乎】深度学习用什么显卡?

https://zhuanlan.zhihu.com/p/450004076?utm_id=0

13. (2023-01-16)【国外大神】深度学习领域的GPU深度测评

https://timdettmers.com/2023/01/16/which-gpu-for-deep-learning/#more-6

(2023-02-01)【翻译】为深度学习购买哪种GPU: 我在深度学习中使用GPU的经验和建议

https://blog.csdn.net/community_717/article/details/128832907

14. (2020-03-10) 【CSDN】CUDA是什么-CUDA简介

https://blog.csdn.net/xiaoxiaolibai/article/details/104770046

15. (2023-03-21) 4090半年体验分享!电老虎?吕布骑狗?核心阉割还能买吗?

16. (2023-02-27) 4090购买指南,35张显卡超级大横评(转载)

17. (2022-12-07) 【贴吧】谁可以说一下4090各品牌从高到低的排名呢

https://tieba.baidu.com/photo/p?kw=%E6%98%BE%E5%8D%A1&ie=utf-8&flux=1&tid=8175615328&pic_id=3085b7003af33a8762009dd9835c10385143b5c5

——————没有用到但是感觉挺好的文章——————

18. (2018-12-03) 【简书】深度学习工作站配置推荐

https://www.jianshu.com/p/1f67a9f55ae7










生产力&游戏性我全都要——2023年4月的一次主机DIY配置记录(一)的评论 (共 条)

分享到微博请遵守国家法律