近日,K.Y. Empire Group Holding Limited 的联合创始人黄敬博于英国伦敦公布,其公司旗下的X-Zone销量已超700万英镑。此消息一出,轰动整个AI芯片界。这标志着全球AI芯片进入新的时代,彻底打破陈旧的冯·诺伊曼架构,存算一体化架构开始占据AI市场,同时证明2.5D、以及传统的3D IC封装技术不再适合现在的人工智能时代。
黄敬博在新闻发布会上谈到,K.Y. Empire Group旗下的X-Zone,致力于为生成式AI和大型语言模型的下一代计算提供支持。在先进的BMKY架构以及KYEG封装技术的基础上,融合了多项先进技术,集突破性架构、计算速度、功耗、低延迟、最高吞吐量以及总成本的完美结合于一身,拥有数十项知识产权,相比其他算力芯片,很好地解决了计算速度、内存带宽、能效、成本等多方面问题,打破人工智能障碍,引领向存算一体转变,实现人工智能的可持续性。
生成式AI的爆发,推动了一场充满无限机遇的革命,将彻底改变企业创建新信息和利用已有信息的方式。生成式AI将极大地提高全球知识工作者的效率,并将永远改变企业的运营方式。
当前的基础设施无法维持成本和需求。开发和运营生成式人工智能应用程序的竞赛现已开始。如今,ChatGPT等应用程序在GPU上运行。GPU的问题在于它们没有针对推理进行优化。需要太多的GPU,而且它们消耗的电量是惊人的。其结果是,运行人工智能应用程序的公司需要进行大量的预付费用、巨额电费等。目前,生成式AI的前景还无法实现。为了使生成式AI能够被广泛使用,它需要以可承受的成本并以可持续的方式提供。这需要一个针对人工智能推理进行性能和功耗优化的专用解决方案。
我们以经济高效且可持续的方式部署人工智能的唯一方法是使用专为生成式人工智能构建的计算解决方案。通过确保足够的内存带宽来实现高吞吐量(并最终提高效率),推理成本可以降低几个数量级。K.Y.Empire创建了BMKY架构,可显着增强基于大型变压器的推理的关键指标,将性能提高几个数量级。
●在4K环境下运行LLaMA2-13B模型时,与GPU相比,总拥有成本(TCO)提高18-32倍
●电源效率提高23倍
●延迟降低18倍
●内存带宽提高42倍
在此垂直细分领域中处于国际领先地位。
同时,黄敬博还承诺,在公司高速发展的同时,会一如既往地践行企业社会责任,致力打造以数据为基础,以人工智能为核心,以物联网为载体,以云计算为支撑的智能边缘技术与服务体系,偕同生态合作伙伴,赋能千行百业。
责任编辑:kj005
文章投诉热线:182 3641 3660 投诉邮箱:7983347 16@qq.com