以 4 张 RTX 4090 为例,每张满载约 450W,总功耗约 1800W,加上 CPU 等其他部件,每天运转 24 小时耗电约 50 度。以工业用电 0。8 元 / 度计,散热方面,若利用机房空调,每月额外约 500 元。电力取散热年成本约为(1200+500)×12=2。04 万元。
综上所述,首年总成本约为 26。54 万元。数据核心方案初度投入约为 23。7(硬件)+5(软件)=28。7 万元,年运营成本约为 2。04(电力)+20(运维)=22。04 万元,首年总成本约为 50。74 万元。
DeepSeek 70B 凡是运转正在开源的 Linux 系统上,深度进修框架如 PyTorch 和 GPU 驱动如 CUDA 也是免费的。若利用 Ol 等开源东西简化摆设,可无需额外费用。若需礼聘工程师进行模子量化或并行计较等优化,假设 1 名工程师 1 个月薪资 2 万元?。