篆芯半导体、云豹智能与燧原科技联合开发大规模高效能AI算网融合平台
篆芯半导体创始人兼CEO王冰表示:
云豹智能联合创始人兼COO张学利表示:
燧原科技创始人兼COO张亚林表示:
新一代云数据中心应用比如AI正进入飞速发展的时代,而诞生于半世纪前的传统网络协议早已无法满足当今日新月异的网络流量。为了能够最更高效地支撑新一代应用,新数据中心传输协议(NDP - New Datacenter Protocol)应运而生。NDP设计主要目标是极大降低新一代应用交互时延,进而极大提升应用的性能。为了达到整体设计的目的,首先NDP会去除传统协议里连接建立及拆除的程序(如TCP SYN/SYN-ACK/ACK,FIN/ACK)及其所带来的时延;然后NDP会将传统协议里的“慢启动”改成“快启动”,从而节省了慢启动所带来的不必要时延;最后当网络拥塞产生掉包时,NDP也会及时向应用终端提出告警,以便应用终端能采取补救来尽快完成交互,如下图所示:
1、当蓝色封包进入转发目的端口时,由于蓝色封包所对应的出口队列(优先级2)已经拥塞了,篆芯智能交换机芯片会将此蓝色封包截断并修改成红色告警封包,然后将红色告警封包放进最高优先级的出口队列(优先级0)。
2、当篆芯智能交换机芯片将最高优先级的红色告警封包优先送出到应用接收端云豹DPU网卡时,云豹DPU就能根据红色告警封包的内容做相应的拥塞动作其中包括通知应用发送端的云豹DPU调整发送速率并重传原先被修改的蓝色封包。
在云数据中心里,NDP提供了DPU与DPU之间应用交互极低时延的连接。为了更进一步提供AI与AI计算之间应用交互极低时延的连接,云豹智能与燧原科技合作,基于云豹DPU和燧原科技云燧T20率先推出了DataDirectPath解决方案。在创新的DataDirectPath解决方案中,云燧T20通过云豹DPU直接获得数据,从而绕过系统内存和CPU,让数据访问速度更快,访问延迟更短。依托篆芯半导体、云豹智能和燧原科技三方技术优势,通过NDP+DataDirectPath的创新技术组合,将实现一个更大规模、高效能及极低时延的AI算网融合平台,为云端AI计算提供更高效的端到端整体解决方案,如下图所示。
关于篆芯半导体
篆芯半导体作为一家由数通行业资深人士创立的集成电路设计企业,将目光聚焦于数通网络产品的核心竞争力,致力于研发具有完全自主知识产权的一线高性能可编程数通网络芯片,打造真正符合国内客户需求的底层硬件。其创新性架构、切合实际的落地解决方案,可广泛应用于云服务商、设备商、运营商、大型企业等场景。
关于燧原科技
燧原科技专注人工智能领域云端算力平台,致力为人工智能产业发展提供普惠的基础设施解决方案,提供自主知识产权的高算力、高能效比、可编程的通用人工智能训练和推理产品。其创新性架构、互联方案和分布式计算及编程平台,可广泛应用于云数据中心、超算中心、互联网、金融及智慧城市等多个人工智能场景。
关于云豹智能
云豹智能是一家专注于云计算和数据中心数据处理器芯片(DPU)和解决方案的领先半导体公司。由原RMI公司(后被Netlogic/Broadcom收购)co-founder Sunny Siu萧启阳博士联合业界精英创立。核心团队来自Broadcom、Intel、Arm、华为海思、阿里巴巴等,拥有中国最有经验的DPU芯片和软件研发团队。旨在成为引领数据中心和云计算最前沿技术,并建立“软件定义芯片”行业标准的高科技公司。
往期推荐
| |||
|
欢迎关注燧原科技公众号