Gyrfalcon Technology本周宣布了一款基于Arm的AI推理边缘服务器

边缘计算专家SolidRun和ASIC解决方案公司Gyrfalcon Technology本周宣布了一款基于Arm的AI推理边缘服务器,两家公司表示,它们在降低成本和功耗方面优于GPU性能。

该服务器称为Janux GS31,可以配置多达128个Gyrfalcon Lightspeeur SPR2803S神经加速器芯片,每瓦最大可提供24 TOPS,比“基于SoC和GPU的系统”好几个数量级,而使用功率却要低得多。两家公司在联合声明中说:“具有等效计算能力的系统所需的能量。”该硬件支持低延迟解码和多达128个1080p / 60Hz视频通道的视频分析,这些边缘通道用于边缘AI用例,例如监视智能城市和基础设施,智能企业/工业视频监视应用程序以及标记照片和视频以进行基于文本的搜索。

Tirias Research的创始人兼首席分析师Jim McGregor表示:“ AI正在迅速向网络边缘转移,以满足许多应用程序的性能和安全需求。结果,新的网络将推动对处理性能和效率。SolidRun平台将利用GTI AI加速技术,提供强大而有效的方式来构建新的智能网络,从而弥合设备与云之间的鸿沟。”

总部位于加利福尼亚州米尔皮塔斯的Gyrfalcon宣称自己是使用低功耗小型芯片的高性能AI加速器的开发商。SolidRun是一家以色列Arm和x86计算和网络技术公司,致力于AI边缘部署和5G。

SolidRun首席执行官Atai Ziv博士说:“功能强大的新AI模型每分钟都会推向市场,并且对用于部署这些AI模型的AI推理解决方案的需求正在迅速增长。”“尽管基于GPU的推理服务器已在基于云的应用程序中获得广泛关注,但对边缘优化的解决方案的需求不断增长,这些解决方案提供了比基于云的解决方案更少延迟的强大AI推理。与Gyrfalcon合作并利用其业已验证的ASIC使我们能够创建一种功能强大且经济高效的解决方案,以便在Edge上部署AI,从而提供无缝的可扩展性。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。