第一百九十九章 五百卡?起步 路大头
机算力的单位,中文是“每秒一万亿次浮点运算”。因为gpu的强项就是进行浮点数学运算,如果把每个gpu都比作一辆跑车的话,tflops就是它仪表盘上的最高时速。
用n卡体系来举例的话,游戏玩家的梦中情卡rtx5090在ai实际用的精度下大概能做到200tflops,而专业用于ai训练的英伟达b200型号显卡,能达到单卡2250tflops的恐怖算力。
韩路一点了点头,这和他设想的没有出入。
“而且,韩总,我不知道咱们团队里有没有人有过显卡集群管理的实操经验。但是,非cuda生态显卡集群的管理难度和cuda生态是完全不一样的,五百张国产卡,全国能把训练栈跑通的不超过三家。”
说完,江松然露出略微骄傲的神色:“有我在,我有信心源智科技是其中一家。”
韩路一对此倒是不怀疑,毕竟他招江松然进来,就是要他干这个的。
他接着问道:“那从哪家采购最好,你有什么建议吗?”
江松然微微沉吟了一下,没有马上回答。
这个问题其实有点儿敏感。江松然当过管理者,当然知道对于任何一家公司来说,采购都是敏感话题,更何况ai用显卡的单卡价格都在十万以上,五百张就是五千万的采购,金额可不小。
如果是为了安全,他最好是给出一家国产头部大厂的推荐,大厂内控严厉,给他回扣的风险小,韩路一也更不会怀疑他。
但是江松然在做过调查之后,确实发现了一个更好的选择,只是说出来未必对他本人是一件好事。
他没有犹豫太久,还是咬了咬牙,说出了更冒险的版本:“有一家,叫硅明半导体(sili-),总部在鹏城,也是个创业公司,去年刚开始量产第一款产品,叫l100,算力600tflops,片间互联带宽600gb/s,对标的是英伟达的h100。硬件的料很足,而且还有一个对我们来说是优点的缺点——他们的软件做的很差,完全没有训练的落地配套,买家全是在做推理。”
“所以硅明对咱们来说格外合适,五千多万的单子,对他们来说是救命稻草,而且他们的销路不好,有现货。”江松然把自己的思考都说了出来,“再加上他们的软件弱,硬件强,按硬件单价算性价比就特别高。而我们根本不用他们的配套软件,相当于采购的钱全花在硬件上了。”
这话说完,江松然也心里打鼓。
他明确表示了这是他提前调查过的厂家,韩路一会不会怀疑他吃了回扣?
他心里默默想了一句话:他以国士待我,我当以国士报之。
韩路一面上不动声色,只是眼睛发亮。
他没什么犹豫,直接说道:“江博士你费心了,确实很适合源智现在的需求。这样,你不方便出差,一会我让我的助理过来找你,你和他交代清楚,让他跑一趟鹏城。”
江松然心里松了一口气。
不让他经手他感到挺庆幸的,至少可以避嫌。
正事聊完,韩路一最后又说了一句:“你既然说有信心,我很期待咱们把自己的集群搭起来的那天。”
实际上江松然说的还保守了,他不只是有信心。这
章节内容不完整,请退出阅读模式查看完整内容!