云天励飞发布深网AI模盒,将大模型装进小盒子,将应用成本降低至千元级别

admin 2024-04-01 32人围观 ,发现0个评论 模型云天算法应用芯片

从ChatGPT到Sora,从文胜文、文胜图像到文胜视频,大模型的发展日新月异,不断给行业带来惊喜。 国外科技巨头也在大型机型上相互竞争。 大模型的能力不断进化,引发新一轮的人工智能变革。

近日,云天励飞发布了“深眼”AI模组盒,致力于解决大模型场景落地最后一公里问题,帮助更多中小企业客户轻松使用大模型。 会上,云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数码等单位成立了“深牧2.0”生态联盟,共同探索大模型的更多应用路径。

云天励飞董事长兼首席执行官陈宁博士在发布会上表示,未来三年,全球80%的企业将使用大型机型。 然而,训练专用的大模型不仅需要强大的计算能力和大数据,还需要大量的顶尖人才。 训练一个大模型的成本在几千万,主流的训练推合一体机价格一般在百万元。 大多数公司无法承受如此高的成本。 为了让大模型“普及”,让大模型成为人人可用的产品,云天励飞推出了“深眸”AI模盒。

盒子应用合集__盒子应用是什么东西

该产品售价为千元级别。 搭载云天励飞自主研发的大模型边缘训练芯片DeepEdge10Max和自主研发的多模态大模型“云天天舒”。 具备算法边缘在线学习能力,可以实现算法场景覆盖率超过90%,算法准确率超过90%,使用成本降低90%,让大家都可以利用大模型能力来训练算法可以根据自己的场景需求运用到实战中。

陈宁表示,实现三个90%,离不开云天励飞的核心能力——算法芯片处理。 “深眼”AI模组的算力基础来自于云天励飞去年推出的14nm Chiplet大型模型训练芯片DeepEdge10 Max。 该芯片采用自主可控的国产技术,包含国产RISC-V内核,支持大型模型训练和推理部署。 X5000推理卡基于自研芯片DeepEdge10 Max创新的D2D Chiplet架构构建,经过适配,可承载10亿级SAM、100亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

云天理飞以云天天书为基础,与生态合作伙伴完成预训练场景算法,然后将预训练算法提供给广大中小企业用户。 中小企业客户可以根据自身场景需求对边缘算法进行微调。 由于大模型具有泛化和学习的能力,客户部署算法后,大模型可以根据实际应用场景继续在线学习和优化算法,不断提高算法的准确性。

此前发布的2023年业绩报告显示,云天励飞2023年营收5.35亿元,较上年同期5.46亿元下降2.14%,净亏损3.9亿元,较上年同期减少年。 报告期内,公司研发投入维持在较高水平,因此营业毛利不包含研发及其他投入。

请发表您的评论
请关注微信公众号
微信二维码
不容错过
Powered By Z-BlogPHP