返回第二百六十八章 得一可安天下  路大头首页

关灯 护眼     字体:

上一章 目录 下一页

“不可能。”薛兆恒脱口而出。

l100是他设计的,各项数据他了如指掌。

汤圆闭源模型,他没见过,也没用过。

但是能做到榜单第一,至少不会比开源的那些模型小。

传言说openai的最新模型gpt-v有万亿级的参数,汤圆能至少也是千亿的量级。

而l100,隔壁的实验室里就有一个l100的小集群在跑着,里面最多只流畅运行过7b(七十亿参数)大小的开源模型,连21b(两百一十亿参数)放上去都卡得不行。

这离能运行汤圆这个级别的闭源模型还差着两个量级的参数量。

现在你说汤圆跑在l100的集群上?

那通信效率怎么解决的?l100的算子库,他手底下的软件团队攻坚了一年多,才覆盖了不到百分之五的使用场景,剩下的怎么补齐?

一瞬间,薛兆恒想了很多,然后他沉下脸来,缓缓开口道:

“韩总,我不知道你说这话是什么意思。”

办公室里只有韩路一和薛兆恒两个人,他抬头看了下门口,接着说:“如果你是想用这套口径出去骗人,说硅明已经突破了英伟达的生态封锁,再借着你源智的名头,把硅明包装出来,那恕我不能配合你。”

韩路一知道薛兆恒对他有戒备,但是对他做出这个猜测还是始料未及。

难道就没有一种可能,算子适配的工程量是挺大,但是你硅明的团队写不出来的,我带着源码的团队已经写完了?

这个可能性显然从头到尾没出现在薛兆恒的脑子里。

谁信,他都不会信。

无论是陆正平,还是周涵,他们都是外行人。听说国产适配之后,只是认为韩路一做了一个技术突破,中国这些年各种各样的技术突破可不在少数。

但是薛兆恒太清楚写这些算子适配和通讯协议所需要的工程量了。

你说花了四五年的时间打磨,终于出了成果,那还可信一点。

可是l100从量产到现在也就一年,那五百张卡交付给源智才两个多月。

两个多月的时间,写个毛线啊?

韩路一本来打算把“源智已经完成了l100的推理适配,汤圆就运行在l100集群上”这件事当做收服薛兆恒和硅明技术团队的筹码。

但是他却没想到,薛兆恒完全不相信。

没办法,韩路一掏出手机,当着薛兆恒打开了云垠数据中心汤圆推理集群的后台面板,直接给他看后台。

他把手机放在桌子中间,转了一下,让它正对着薛兆恒。

“薛总,这是实时数据,你看一下。”

薛兆恒身体前倾,在后台面板上扫了一眼,然后伸出手滑动了一下。

上面是集群负载的各种数据,实时调用量、平均延迟、显存利用率、吞吐、错误率和任务分布等等。

薛兆恒的眼睛盯着其中的几个关键指标,一边看一边和他脑子里的数据进行对比。

很快,他就得出了结论。

假的。

l100的效率没有这么高。

“既然是这样,韩总,那我们没有谈的必要了。”

章节内容不完整,请退出阅读模式查看完整内容!
『加入书签,方便阅读』

上一章 目录 下一页