快问快答 | 你体贴的AIGC计划相关问题，，，，，，都在这里！

本文将围绕AIGC计划做出响应问题的解答

#光模�？？？？？？�

宣布时间：2024-11-07
点击量：
点赞：

分享至

我想谈论

随着AI模子一直演进，，，，，，模子参数一连攀升，，，，，，智算中心的能力提升迫在眉睫。。。。。就在两周前，，，，，，我们约请了stake官网网络数据中心网络事业群解决计划专家冀国平息争决计划SE赖利根两位先生，，，，，，和各人在线上对AIGC计划做了进一步交流和相同。。。。。

由于问答环节时间有限，，，，，，在这里，，，，，，我们特殊整理了各人普遍体贴的一些问题息争答，，，，，，希望能够对你有所资助。。。。。错过直播或对我们AIGC计划感兴趣的朋侪们，，，，，，快来查收吧！

AIGC直播FAQ

1.AI 对数通行业有哪些影响？？？？？？？

AI 对数通行业已经爆发了多方面的影响

在手艺迭代方面：由于AI算力需求的激增，，，，，，推动了交流芯片厂商从25.6T，，，，，，51.2T和112.4T的快速迭代；；；；；；；BroadCOM，，，，，，Marvell、NVIDIA、Cisco、盛科等芯片厂商都在急速芯片的迭代立异；；；；；；；

在行业立异方面：同时随着AI的一直生长，，，，，，也会增进工业立异生态形成，，，，，，好比算力中心高能耗，，，，，，推动了液冷手艺和LPO手艺的生长；；；；；；；再好比UEC、GSE等新手艺标准的立异等。。。。。

在运维管理方面：好比故障展望与诊断，，，，，，AI 能够实时剖析网络中的大宗数据，，，，，，对潜在的故障举行精准展望，，，，，，我司运维平台中的光模�？？？？？？楣收险锒虾驼雇步幽葾I模子举行训练的。。。。。

在服务支持方面：借助 AI 手艺，，，，，，可以为用户提供越发个性化的服务体验，，，，，，好比我司的智能客服系统能够准确明确用户的需求，，，，，，提供针对性的解答和建议，，，，，，提高用户知足度。。。。。

2.交流机buffer对RoCE有哪些影响？？？？？？？

buffer是包管RoCE网络不丢包的要害，，，，，，一旦网络爆发拥塞，，，，，，就需要先通过buffer把来缺乏转发出去的报文先缓存起来，，，，，，通过PFC或者ECN通知源端降速之后，，，，，，再把缓存的报文逐步转发出去。。。。。以是buffer越大，，，，，，能应对越极端情形，，，，，，好比要跨数据中心的百公里级RoCE传输的时间，，，，，，就需要更大的buffer，，，，，，来应对更长时间的降速响应时间内，，，，，，缓存住更多已经从源端发出但来缺乏转发的报文。。。。。buffer跟工厂的客栈类似，，，，，，好比工厂按牢靠速率生产产品，，，，，，先存放到客栈，，，，，，有人下单客栈再往外发货，，，，，，当下单的速率比生产的速率慢的时间，，，，，，客栈管理员发明库存到一定水平了，，，，，，就要通知工厂生产慢一点，，，，，，若是通知的链条太长，，，，，，通知得慢了，，，，，，客栈就有可能被挤爆。。。。。

3.同样是RoCE，，，，，，你们和其他交流机厂商有啥区别？？？？？？？

我们和互联网头部客户合作很细密，，，，，，从25G的时间就给他们安排RoCE，，，，，，对RoCE的明确有手艺积淀。。。。。现在智算场景也是互联网头部先做大的集群安排，，，，，，前面计划先容内里有提到我们200G/400G交流机我们是出货量第一的，，，，，，可以说我们跟这些互联网头部客户合作最细密的。。。。。

我们在服务这些互联网头部客户的同时把他们的思绪要领延伸到其它企业用户场景中，，，，，，打造了服务产品来给用户做手艺兜底，，，，，，全程加入资助客户从0到1建设智算集群。。。。。

4.你们的计划能支持哪些 GPU 品牌？？？？？？？

理论上所有的 GPU 类型都适用，，，，，，交流机直接对接的是网卡，，，，，，只需要在速率和协议上适配就能跑起来，，，，，，包括RoCE协媾和接口封装的协议等。。。。。同时我们跟大部分品牌的GPU都有对接测试过，，，，，，包括英伟达(A100\A800\H100\H800)，，，，，，异腾的(910B)，，，，，，燧原，，，，，，沐曦，，，，，，寒武纪，，，，，，海光，，，，，，瀚博等。。。。。

5.运维平台能否申请测试账号使用？？？？？？？我较量看主要算力评估、仿真剖析、网络监控、硬件监控、光模�？？？？？？榧嗫毓πА！！�。。

可以，，，，，，请您点击下方按钮申请，，，，，，我们会尽快联系您获取测试体验账号，，，，，，谢谢您的关注~

申请测试账号

现在我司的网络运维平台已经宣布，，，，，，并且有客户已下单使用。。。。。而包括算力仿真模�？？？？？？榈陌姹疽布唇肌！！�。。若是您只想体验算力量化剖析功效，，，，，，我们也有搭建好的算力仿真线上平台，，，，，，可在会后可以联系stake官网举行线上体验试用。。。。。

6.我们是需要对外举行租用，，，，，，模子经常要替换，，，，，，若是模子替换以后，，，，，，RoCE 网络需不需要重新调优?若是需要，，，，，，详细涉及什么办法，，，，，，需要什么配合?

RoCE 网络影响性能的参数主要是 PFC 和 ECN 相关，，，，，，其中 PFC 设置主要跟毗连的线缆长度和服务器响应时间相关，，，，，，情形牢靠后即可确定下来，，，，，，ECN 的参数则跟流量模子有一定关系，，，，，，智算场景的流量模子相对简单，，，，，，我们也有形成一些专家履历参数库，，，，，，在我们众多的现实安排案例中，，，，，，首次安排完成后的参数基本可以适用后续的所有营业场景，，，，，，现在还没有遇到安排验收完了以后需要再调解参数的情形。。。。。虽然，，，，，，若是有新场景确实需要再次调参的情形，，，，，，我们也准备了自顺应 ECN 功效资助客户自动去做调参。。。。。

7.液冷手艺是较量热门的话题，，，，，，液冷交流机有现实落地案例吗？？？？？？？

着实在2019年，，，，，，我们就与阿里合作开发了浸没式液冷交流机的产品，，，，，，并在阿里的张北数据中心、仁和数据中心举行了规�；；；；；；；才拧！！�。。好比在张北数据中心是全球首个浸没式液冷集群的安排所在，，，，，，通过将服务器和交流机浸泡在特殊的冷却液中，，，，，，大幅降低了散热能耗，，，，，，PUE低于1.2，，，，，，最低可以抵达1.09，，，，，，已经抵达天下先进水平。。。。。近期我们还团结阿里开发了用于智算网络的TH5 Liquid Tigatron的冷板式交流机，，，，，，若是各人感兴趣，，，，，，可以进入stake官网公众号去审查详细信息。。。。。

→ 点击阅读：《深度揭秘：下一代液冷AI交流机该是什么样？？？？？？？》

8.运维平台能否对AILB和RALB的流量平衡举行调优？？？？？？？对光端口模�？？？？？？槭褂米刺傩屑嗫丶肮收细婢�？？？？？？

现在不需要运维平台对AILB和RALB的流量平衡调优，，，，，，这两种负载平衡手艺是交流机自动对流量举行平衡调理；；；；；；；stake官网运维平台可以对光模�？？？？？？榈脑诵凶刺傩屑嗫兀�，，，，并在指标劣化凌驾阈值时举行告警。。。。。

9.能监控RoCE网络中发送CNP报文吗？？？？？？？

stake官网网管软件平台可以监控到服务器的CNP报文数目，，，，，，同时也能对经由交流机的CNP报文举行统计计数。。。。。

10.推理网络有没有什么要求？？？？？？？

算力租户各自租赁差别的GPU服务器举行推理盘算。。。。。由于数据清静等要求，，，，，，需要让差别租户之间只能会见本租户的服务器，，，，，，不可会见非本租户的服务器。。。。。因此需要交流机具备多租户清静隔离的功效。。。。。

11.LPO模�？？？？？？榧矍嵯宰派仙穑�，，，，对交流机有要求吗？？？？？？？

与古板高速光模�？？？？？？橄啾龋�，，，，LPO光模�？？？？？？槿サ袅薉SP芯片，，，，，，产品的本钱会更优；；；；；；；同时镌汰了高耗能DSP芯片，，，，，，光模�？？？？？？榈氖虑槲露染突峤档停�，，，，MTBF获得提升，，，，，，从而降低了光模�？？？？？？榈墓收细怕剩�，，，，这一点是运维团队很是关注的；；；；；；；stake官网LPO光模�？？？？？？橛�400G-Q112-DR4-LD，，，，，，800G-OSFP-DR8-LD和800G-OSFP-2DR4-LD三种型号，，，，，，您可以联系我司销售代表咨询详细价钱。。。。。

LPO光模�？？？？？？樾枰钤卦贐roadCom TH5芯片的交流机，，，，，，stake官网的交流机型号为RG-S6990-128QC2XS。。。。。