新闻来源:
张江发布
在张江这片创业热土上,驻扎着大批集成电路龙头企业。除了在张江扎根多年的“老企业”,许多芯片界的新生力量也在这里蓬勃发展。在张江科学城成立不到五年,肇观电子已经在计算机视觉的赛道上杀出重围,“拳头产品”N1系列计算机视觉芯片刷新了端侧AI芯片性能纪录,并达到了几乎“无损”的精度。
AI芯片界的“黑马”刷新芯片性能纪录
对于AI应用和系统厂商而言,AI芯片是其核心元器件,每个应用和系统厂商都在寻找在性能、功耗、成本等方面综合因素下合用的AI芯片。评估AI芯片是否适合使用往往从每元钱能获得的性能、每度电能获得的性能、部署实施的成本、元器件是否稳定可靠等几个方面来衡量。其中,芯片厂商宣称的每TOPs(Tera operations per second)的算力对应的实际每秒计算多少帧数据(例如图片或者视频),以及算法从训练到部署的转换中对精度的保持成为关键。
2016年成立的肇观电子在芯片、数学、算法等方面深耕多年,潜心研发核心技术,已获60余件国内外专利授权。基于多年研发的CVKit™ NN IP的N1系列SoC芯片刷新了端侧AI芯片性能纪录。领先的每TOPs处理帧数,实时数据流处理能力,支持高精度FP16神经网络模型直接无损部署,高性能的INT8网络支持能力,多级精细功耗控制,将端侧AI芯片的能力提升到了一个新的高度。
AI芯片性能“又快又准”是主要指标
AI应用和系统的客户对于AI芯片实际的深度神经网络处理能力有着明确需求。对于系统性能而言,“又快又准“是其主要指标。“快”主要取决于芯片的每秒计算能力。如何能够在单位成本和单位功耗下最优地支持神经网络模型的各种神经层的不同数据类型并使得客户的模型部署的精度损失最小,体现出不同公司之间的技术水平的差异。
根据不同算法网络的测试结果,N161芯片每TOPS算力下每秒可推理图片的数量展示出了业界领先的水平。同时,N161还支持FP16高精度网络,同样展示出强悍的性能。
在FP16的精度下,N161跑各项网络可以达到的每秒帧数“准”主要取决于芯片对于算法中的神经网络模型的各种神经层的不同数据类型的支持。客户在算法运行中产生的精度损失往往十分昂贵。肇观电子负责人跟我们介绍,以无人零售设备的应用为例,如果物体识别算法在实际运行中有1%的精度下降,会直接导致货损率的上升以及运营成本的增加。根据各种不同网络的测试结果,N161 INT8量化网络几乎无精度损失(1%以内)。此外,肇观电子创新的CVKIT™ NN IP在诸多方面遥遥领先,并已部署至N1系列芯片,以及D163(3D视觉)、V163(车载)芯片。
5分钟快速部署解决“算法落地难”问题
人工智能落地的挑战,一方面在于整个产业链稀缺在性能、成本、功耗等方面合用的上游核心芯片;另一方面在于产业依赖高度专业的知识技能而导致人才投入等综合成本高昂。人工智能落地难度大已是业界不争的事实。
为了解决“算法落地难”的问题,肇观电子发布了“5分钟部署”的AI应用开发平台Infer Studio™,助力算法快速商用。Infer Studio™ 能够将算法“翻译”成芯片能读懂的表述文件,并快速部署,这种“一键式”开发体验显著地提高了开发者的效率。据肇观电子介绍,Infer Studio™支持TensorFlow/TensorFlow Lite/ONNX/Caffe这些主流框架,开发者可以自由选择训练框架。从功能上来说,在软件层Infer Studio™具有Model Visualization可视化模型、Compiler编译器、Evaluator效果评估器、Debugger调试器四种功能。
据悉,“肇观”取自“开启视觉”之意。在张江成立以来,肇观电子从计算机视觉出发,在芯片核心技术上不断突破,致力于为工业检测、智慧安防、轻量AIoT等领域的用户赋能。肇观电子表示,计算机视觉的市场还处于发展期,这意味着肇观这类计算机视觉芯片企业并无太多经验可以借鉴,只能摸索前行。期待通过肇观等先行者的探索,AI视觉应用能够在更大范围、更加深入帮助行业提质增效。