正文内容 评论(0)
近日,昆仑芯科技应邀出席百度技术沙龙第99期“智能芯片”专场:昆仑芯一周年——构筑国产数智基石,AI算力赋能千行百业。四位专家首次同台,揭秘十年磨一剑的中国芯的神秘技术面纱,并系统介绍昆仑芯两代产品赋能千行百业的最新成果及应用实践。
本篇以下内容整理于沙龙第四位演讲嘉宾——昆仑芯科技研发总监罗航题为 “AI芯片产业发展和昆仑芯应用实践”直播分享。
昆仑芯科技研发总监罗航
我是昆仑芯科技研发总监罗航,今天分享AI芯片产业发展和昆仑芯应用实践,主要围绕以下四个问题:
1. AI芯片为什么是产业发展的必然趋势?
2. 聚焦到国内的AI芯片产业,宏观变量怎样影响AI芯片产业的供给端和需求端?
3. 国内的AI芯片公司要实现产业化需要跨越哪些门槛?
4. 昆仑芯在产业化道路上做了哪些探索和实践?
AI芯片是产业发展的必然趋势
整个计算产业的周期基本上可以粗略划分为四个阶段:
1. 互联网上古时期。它是一个定制化的UNIX操作系统,主要群体是科学家,它的互联网形态,是一个很小规模的局域网形态。
2. PC互联网。这个时候才真正进入了普罗大众,我们才能感受到计算产业的魅力。它和上古形态有很大区别,它形成了一个x86 Windows强生态组合,有很多应用百花齐放。
3. 移动互联网时代。这个产业形态的组织形式是基于3G、4G乃至5G的移动互联网,相比上一个阶段,它的网络规模和通讯速度有一个质的飞跃,并且产业形态有一个很重要的变化,可以看到这张图中间出了一条线,这条线代表分化。它分化成了左边移动端的架构和右边中心端或叫云端的架构。为什么会有这样分化?因为在移动互联网时代,原先x86和Windows的组合没法满足移动端低功耗的场景,所以分化催生出了ARM加Android和IOS的生态,形成了移动端和云端并存的形态。
4. AI时代。可以看到它的分化更复杂了。为什么会出现这样的分化?因为AI的蓬勃发展,导致数据量爆炸以及计算需求的爆发式增长,传统CPU通用计算提供的算力,已经远远不能满足AI时代的计算需求,所以催生出了多种计算架构,不同的计算架构处理各自擅长的数据需求,AI芯片应运而生。多种计算架构的有机整合就叫异构计算。未来很有可能还会沿着这种分化趋势继续演变。
从这里可以看到,计算产业体系结构的演化很像生物的演化,都是从简单到复杂,比如生物演化是从单细胞到分化出各种器官,从而组成复杂精密的人体。我们借用“十九大”对社会主要矛盾的表述:人民群众对计算的需求,与计算系统的算力发展不平衡之间的矛盾,驱动着整个产业的迭代和发展。
每一次的迭代、分化,都会涌现出巨大的产业机会。
这张图表达的是一个客观事实:AI模型的规模呈指数型爆发式增长。模型在某种意义上等同于数据,模型越来越大代表数据量越来越大。模型简单来讲就是经验,相对于人是经验,相对于机器就是模型。图中有前段时间非常火的GPT3,这个模型的参数量达到了1750亿个,后来Google又发布了一个1.6万亿的超大模型。国内有很多机构也推出了大模型,百度前段时间就发布了文心大模型。
大模型是现在正在发生的事实,是很大的趋势。模型越来越大,对算力的要求就越来越高。上面这张图也从侧面佐证了计算产业的发展和分化的趋势。
可以看到,AI芯片跟CPU一样,处于整个生态的基座位置,它提供了算力,跟CPU等各种架构的芯片一起组成异构计算。在这样的AI生态基础之上,我们才能实现各种垂直行业的智能化场景。
国内AI芯片产业机遇与挑战并存
在宏观层面,目前有两大变量。一个是疫情,一个是国际形势。疫情极大加速了数字化和智能化的产业趋势,把原本十年才能完成的产业转变压缩到五年。
我重点讲一讲国际形势可能会造成的影响。国内很早就开始造芯片,包括CPU芯片,但为什么好像没形成气候?实际上国内缺的不是人才、资金、技术,缺的其实是市场生态——比造不出来芯片更麻烦的是卖不出去。原先国际形势没有那么激烈冲突时,国外的芯片是敞开卖的,这导致国内的芯片需求是锁死的状态。现在国际形势为国产芯片打开了一扇窗,相当于需求侧解锁了,由此带来国内供给侧的蓬勃发展。AI芯片相对于CPU又是一个新的需求赛道。现在国内也有很多企业都聚焦到AI芯片赛道做产业的升级迭代。
宏观趋势的影响为国内AI芯片产业带来了机遇,同时也带来了挑战。
? 从机遇方面来说,这是一个新的市场、新的赛道:
需求侧:相对于传统CPU来讲,AI芯片是比较年轻的产业。目前国家提倡新基建、智能化等各种政策扶持整个国内市场,同时全球的生态格局还没固化,这就为国内AI芯片创业者提供了需求侧的机遇。
供给侧:现在摩尔定律最新的工艺开始研究2nm,如果工艺越来越先进,尺度越来越小,会面临一个量子隧穿的效应。这不仅是工艺的问题,还可能涉及到物理学、材料学等方面,需要依赖基础科学的突破。也就是说,摩尔定律很有可能已经逼近极限。这意味着领先者快撞到墙了,国内的追赶者缩小代差就只是一个时间问题。现在无论是芯片的设计还是制造研发,都已经有全链路和28nm的工艺储备,所以中国具有资本、技术和人才的后发优势。
? 与此同时,我们也面临很大的挑战:
需求侧:国内AI芯片或者AI产业还处于发展的早期阶段,非常不成熟,特别是商业化很不成熟,需求也还没爆发。大家都在寻求AI芯片与自身产业的结合,即如何用AI升级自己的产业,这是产业早期的一个特征。
供给侧:我们跟国际代际差距非常大。不仅表现在硬件上的差距,也表现在软件和生态上的差距。特别是从设计、制造到封测等这一条产业链上,比如EDA工具、光刻机等,我们与国外都存在巨大的代际差距。
综上可以看到,国内的AI芯片产业,机遇和挑战并存。
国内AI芯片产业要跨过三道窄门
1. 首先是量产。做芯片要有米下锅,AI芯片就是我们的米。如果要让AI芯片产业持续发展,形成商业的正循环,量产是前提。大家都知道,量产可以极大摊薄先期流片的巨大投入,通过量产摊薄成本是实现盈利的唯一方式,量产也是衡量芯片成熟度的指标之一。
2. 软件生态。其实这是整个行业正在面临的问题,或者说是我们需要跨过的窄门。如果我们只有芯片而没有软件生态,客户不太好把它用起来,也就没法完成价值的传递。为了让客户更好地把它用起来,我们构建一个合理、合适的软件生态,是非常有必要的。国际上的友商构建了一个非常强大的软件生态,通过这个软件生态,很多开发者和厂商能够很好地用起来,这个软件平台也构筑了很强大的壁垒。作为国内的产业玩家来说,软件生态的构建也是非常重要的。
3. 落地,做产品化。如果只有软件生态还远远不够,还需要跟具体的垂直行业做产品化。芯片是无法独立存在的,必须要和垂直行业结合起来才能实现价值传递。这也是现在产业面临的问题,因为没有产品化,所以我们不得不做项目。不知道大家是否理解这个表述,做项目和做产品的区别是什么?做项目是case by case,做产品相对通用化,边际成本递减,这是芯片商业模式成功的关键因素。成熟的产品有量产规模,用强大的生态构建产品化,做成商业闭环,才能形成商业飞轮。
AI芯片的产业化机会
可能有人会问:产业化机会到底在哪?怎样去做产业化,在哪里可以找到产业化的场景?
首先,AI芯片一定要跟各种产业结合。接下来我会站在更广义的AI的概念讨论,而不仅是AI芯片。因为有AI的地方,就需要AI芯片提供算力支持。
在这里给大家提供一个分析框架和思路。我们现在所说的人工智能,假如对照本来就有智慧的人来说,AI应该具有哪些特征和要素?借用佛家的说法,人具有六根,眼、耳、鼻、舌、身、意,这是生而为人的基础。那么,AI产业化的六根是什么呢?
? 眼,计算机视觉,赋予AI“看”的能力。这是目前AI应用最广泛的领域。比如安防监控、园区监控。如果我们把全球的AI看作一个整体,所有采集光信号的设备,无论是路边摄像头、手机摄像头,还是光传感器,都可以看作是全球AI的“眼”。
? 耳,语音处理,赋予AI“听”“说”的能力。比如语音识别、语音合成等场景,所有采集和处理音频信号的设备,都可以看作是AI的“耳”。
? 意,NLP的自然语言处理,赋予AI读写和理解的能力。这一应用领域非常广泛,包括文章理解、知识图谱、知识提取、知识检索等。
除了这三个领域外,我们完全想象不到“鼻、舌、身”是什么样的场景。目前AI完全无法具备嗅觉,也无法具备味觉、触觉,也就是说现在还没有能够采集这些信号的传感器、设备,或者说这些场景还没被挖掘出来。所以,相比于人,AI还差得很远。就仅仅拿计算机视觉这个AI最成熟的领域来说,相比人眼的识别效率来说也相距甚远。
反过来看,有差距的地方或者空白的地方,不正是产业化的机会所在吗?我们把“六根”整合起来看,一个完整的AI体系,既要实现所有现实信号——眼、耳、鼻、舌、身、意,即全时空信号的捕捉体系,也就是数据生产;又要有信号处理体系,比如数据消费,所以AI与IoT的结合一定是未来产业化的大方向。
AIoT,就是万物数据——万物在现实中捕捉到的万物的数据,再加上超强的算力支撑的数据处理能力,一起组成的一个整体。IoT和AI这两者都处于快速变化的发展阶段,所以这两者的结合机会是非常多的。物联网负责海量的数据生产和消费,AI芯片负责数据的处理和再造,两者是相辅相成,或者说螺旋迭代、缺一不可。
昆仑芯的探索与实践
接下来讲一讲昆仑芯的实践和应用案例。
昆仑芯有非常成熟和完善的全栈国产化的技术生态。从底层往上看,所有你知道的国产CPU和国产操作系统,我们都做了适配,而且适配得非常完善。再往上还有国产的深度学习框架,代表就是PaddlePaddle(百度飞桨),我们也做了适配。同时,我们还提供了昆仑芯的推理框架,以及之上的国产算法。我们可以基于这样的生态去做很多国产化的行业落地。
在智慧政务、智算中心、智慧金融、智慧电力这些方面,我们都有很多探索和落地:
1. 智慧质检。我们已经跟国内某质检厂商深度合作,打造解决方案并落地,也上了《新闻联播》的报道。
2. 智算中心。这是非常典型的应用场景,现在国内智算中心的建设也如火如荼。昆仑芯可以为当地提供稳定的算力支撑和算法服务,助力当地的产业升级。
3. 大规模知识检索。简单理解就是搜索,其实百度搜索引擎后面算力的支撑,很大一部分都归功于昆仑芯。我们在百度的搜索集群大规模上线过万片,稳定运行了很长时间。
这三个典型案例,是我们助力新基建案例探索很小的一部分。
接下来结合“六根”这个分析框架展开讲讲。比如这个案例就是“眼”与昆仑芯的一个结合,在高速的流水线上自动化作业。这个生产节拍是很快的,一个节拍可能一秒,甚至不到一秒,如果人眼去判断产品是否有缺陷不仅非常费眼,也非常费人力。经过昆仑芯算力的赋能,再加上AI的“眼”,即工业相机/光源阵列去拍摄产品图片,通过计算机视觉来识别产品是否有缺陷,极大提高了工业高速公路流水线的自动化和作业效率。
这也是“眼”加昆仑芯的一个案例,是我们落地到某个智慧城市云边一体的案例。摄像头作为“眼”,看到了很多视频流进来之后,在边缘侧有搭载昆仑芯2代产品R200的分布式边缘设备。在这个设备上可以完成解码并同时进行AI检测,完成整个全链路。比如说可以做边缘侧的一些粗略识别,提取视觉的一些特征,也可以把大图切成小图,然后跟中心侧的集群配合起来,中心侧的集群是以昆仑芯算力构成的极大规模的集群基座。边缘侧把经过的信息进行初步处理之后,跟中心侧配合起来,就可以实现云边一体的AI落地案例。中心侧集群还可以比较方便的关联人脸的数据库和布控数据,这就形成了一个比较典型的安防系统架构。
这是“意”加昆仑芯的一个落地场景,是在某省高检的一个落地项目。它实现了检察院业务的全流程和全数字化。检察院有很多文档,不管是PDF、Word,有很多文档,如果由检察官人工分析文档的话,会很费时、费力,而且很难形成可复用可传播的知识体系。如果通过计算机把文档读取进来,给它做OCR文字识别,再做文档特征和知识提取,塞入到知识图谱中构建知识网络,再部署一套私有化的检索系统,就能很好地实现文档的数字化和智能化。这其中所有的业务流程全都是基于一个AI智能开发管理平台搭建的。管理平台里面也搭载了昆仑芯的算力集群,集群里还内置了一些面向开发者的技术栈、深度学习框架、深度学习模型库等,可以让第三方开发者或客户自行在平台上做特定模型的重新训练,以及生产环境的自动化部署。
再讲一个“意”加昆仑芯的案例。这是大规模知识检索的在线服务,类似于百度的在线检索系统。可以看到,用户在搜索框中输入关键字或很多关键字的组合,发起请求之后,有一个在线的推理集群去分析用户的搜索意图,再结合用户画像去分析用户想问什么,然后做一些embedding,从离线训练的集群中找出了很多物料,从这里面找出一个跟用户意图最匹配的物料排序,最后在精排之后返回给用户最佳的检索结果。可以看到,在线集群和离线集群都有昆仑芯的应用案例。
上面介绍到了很多真实的落地案例,接下来我介绍的是一种商业模式,这是目前昆仑芯已经在运作的一种商业模式,我们叫做技术赋能模式。
昆仑芯可以为赋能伙伴提供以下支持。比如说如果你买了昆仑芯的产品后,就可以得到贴心的技术支持,或者如果你想要做自己的板卡产品,我们也可以卖芯片给你,你可以封装成自己的板卡。如果你对在昆仑芯上开发不是很熟,我们还可以手把手教你编程,教你在昆仑芯上怎么去开发算子和模型。我们也会提供培训课程,还会提供很丰富的demo给你参考。如果你基于昆仑芯的产品要做项目交付,昆仑芯也可以支持你做定制化模型和定制化服务器的适配。总之,通过技术赋能,赋能伙伴可以基于昆仑芯去开发自己的硬件和软件方案,去触达更多的场景和客户,做更多的AI芯片产业化、智能化升级改造的项目。
我们希望有更多的产业伙伴能跟昆仑芯一起,为国家的智能化产业升级做更多的贡献,一起共创智能化产业的新时代。