云天励飞发布深目AI模盒,把大模型应用成本降到千元级别

商讯
关注3月28日,云天励飞举办AI大模型产品发布会,正式发布“深目”AI模盒。该产品能够做到“3个90%”——覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地最后一公里的问题,帮助更多中小企业客户轻松使用大模型。

会上,云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。
值得一提的是,云天励飞还宣布“云天天书-2.0-68B”版本免费向合作伙伴开放;即日起预订“深目”AI模盒,即有机会获得邀约测试的机会。
千元级成本,即可拥有专属大模型
云天励飞董事长兼CEO陈宁博士在发布会上提到:未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。

为了能够让大模型“平民化”,成为人人都可用的产品,云天励飞推出了“深目”AI模盒。
这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让人人都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法,让大模型唾手可得。
把大模型变“小”,云天励飞是怎么做到的?
“能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。”陈宁博士说。
“深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品,更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。把复杂的技术通过简单的产品提供给用户,让用户可以零成本,快速训练出自己需要的算法。
场景算法,秒速训练
“深目”AI模盒背后蕴藏了复杂的技术,但对于用户而言,他们只需要关心产品到底怎么用、好不好用。发布现场,云天励飞副总裁罗忆用实际场景演示了“深目”AI模盒是如何在数据少、无数据等极端情况下,快速完成算法训练。
场景演示一是只需少量样本,算法精度即可提升到90%以上;以店外经营为例,这是城市治理中最常见的问题之一。当用户需要训练识别算法时,可以直接使用平台现成的算法对目标进行识别。用户只需要对识别结果标记“正确”和“误报”,算法精度就能通过自学快速提升。通过这样的过程,算法精度通过1次训练就能得到显著提升,经过1周迭代后算法精度可超过90%。罗忆介绍,云天励飞为客户提供的算法训练平台上,有大量与生态合作伙伴共同打造的算法商城,能够提供覆盖14个大类、100+个小类、千余种算法,用户可以直接调用预训练算法,并上传自身场景图片完成算法的微调和升级,快速训练出高精度算法。
场景演示二是零数据样本,用AIGC数据训练AI;天灾人祸等极端场景识别训练的数据几乎空白,面对这样“无数据”的情况,用户该如何训练算法?以加油站场景的吸烟识别为例,这类行为的数据极难获取,因为这类危险行为往往伴随着成不可挽回的后果。而平台能够利用大模型能力,以加油站为背景,生成在该环境抽烟行为的人物,并将数据用于算法训练中,填补训练数据的空白。使用AI合成数据来训练算法,不仅能够填补数据空白,还能够规避隐私安全等问题,已经逐渐成为大模型时代下训练新算法和提升算法精度的一条重要路径。
场景演示三是识别对象标准不统一,大模型泛化能力解决问题;现场以“购物中心提袋识别”为例,演示了如何利用大模型泛化能力,解决识别对象标准不统一带来的算法训练难题。大型购物中心一般没有统一的结算中心,购物中心难以掌握逛街顾客是否消费,也难以评估营销活动对实际消费转化的效果。而顾客是否提购物袋,是大型商场判断顾客是否消费的重要标准之一。但是,各品牌购物袋的大小、颜色均不统一;而且难以与顾客的背包区分,算法难以精准识别。但在云天励飞的算法训练平台上,借助场景自适应能力,能够实现“千店千袋”的识别。首先,用户需要调用“拎手提袋识别”算法,识别所有的手提袋,再基于识别结果进行特定手提袋的识别训练,从而衍生出特定手提袋的识别算法,最后即可实现专用门店手提袋的精准识别。
做物理世界的解码者
从2014年成立至今,云天励飞一直坚持将AI技术与物理世界相结合,这也是云天励飞从成立之初自研芯片的重要原因。芯片是AI与物理世界的连接器,AI通过芯片为实体赋能,物理世界的数据又通过芯片反哺AI,推动AI进步发展。
在AI方案化方面,云天励飞在警务、城市治理、智慧交通、人居生活等领域打造诸多标杆项目,并且在低空经济、智慧教育等创新领域持续展开探索。基于在大量行业的落地经验,云天励飞已形成数据运营、新能源运营平台,走向AI运营化。如今,云天励飞还逐步走向AI产品化。去年,云天励飞与华为昇腾联合推出天舟大模型训推一体机;如今又推出面向边缘训推场景的“深目”AI模盒。此外,云天励飞还通过资本纽带,进军智能穿戴和机器人等硬件领域,形成日益完善的大模型产品体系。
从AI方案化、AI运营化再到AI产品化,云天励飞一直在致力于做物理世界的“解码者”,通过算法芯片化的能力,为“无形”的技术和“有形”的世界构建通道,让AI不仅仅是一个在虚拟世界的工具,而是转化为物理世界的生产力。
一个小彩蛋:云天天书限时免费开放
在发布会最后,云天励飞还发出了2个实实在在的福利。一是“云天天书-2.0-68B”版本免费向合作伙伴开放。合作伙伴可免费获取“云天天书-2.0-68B”部署包及6个月推理服务授权,免费使用天书平台自带的管理、支撑、应用及API等服务,快速构建场景应用。二是从即日起预订“深目”AI模盒,即有机会获得邀约测试的机会。
关于“深目”背后的故事
2014年,云天励飞推出了基于CV小模型的人工智能产品——“深目”1.0,成功引领了AI产业化应用的浪潮,为“AI+公共安全”市场开启了新纪元。如今,人工智能已迈入大模型时代。在大模型技术的强力驱动下,AI能力得以更广泛地拓展与应用。每一个场景都蕴藏着巨大的潜力,等待着我们用大模型去重塑、去挖掘其更深层次的价值。在这个奇点时刻,推出了一款基于自研芯片和大模型技术的“深目”AI模盒。这款产品能够低成本地快速生成并运行算法,为碎片化场景下复杂多变的AI应用提供了强有力的支持。“深目2.0”将焕发出新的活力与光彩,为AI产业的发展贡献更多力量,共同开创更加美好的未来!
审核:李昌怀
编辑:李芬

