发布时间: 2023-12-31 01:23:31 来源:电竞比分-存储调理
人工智能时代,随着AI应用的普及,AI领域迫切地需要性能更强、功耗更低、成本更低的芯片。
这其中,以深度学习为代表的AI算法更需要频繁地进行数据存取,低功耗和高性能之间的矛盾一直是端侧AI芯片落地的难题。
存算一体技术被视为AI创新的核心。存内计算突破了传统冯诺依曼瓶颈,实现了存储单元与逻辑单元的融合,是实现智能计算的主要技术路线之一。
它将存储和计算有机结合,直接利用存储单元进行计算,极大地消除了数据搬移带来的开销,解决了传统芯片在运行AI算法上的“存储墙”与“功耗墙”问题,可以数十倍甚至百倍地提高人工智能运算效率,降低成本。
当前的存内计算技术主要面临着硬件资源复用、存内计算单元设计和模拟运算实现等关键挑战亟待解决。
目前,全球存内计算有不少玩家。除了学术界,产业界也慢慢变得多的玩家布局该技术。
IBM基于其独特的相变存内计算已经有了数年的技术积累,台积电正大力推进基于ReRAM的存内计算方案;英特尔、博世、美光、Lam Research、应用材料、微软、亚马逊、软银则投资了基于NOR Flash的存内计算芯片。
5月Myhtic C轮融资了7000万美元,迄今为止已共计筹集了1.65亿美元;6月10日,知存科技宣布完成亿元A3轮融资,产品线扩充及新的产品量产,加上此前的两轮融资,截至目前,知存科技已完成累计近3亿元的A轮系列融资。
6月25日九天睿芯获亿元级A轮融资,用于新产品研发和人员扩充的工作;7月2日,杭州智芯科完成近亿元的天使轮融资,用于继续搭建团队,启动ACIM下一阶段研发技术与市场拓展。
8月24日,后摩智能宣布完成3亿块钱Pre-A轮融资,将用于加速芯片产品研发技术、团队拓展,早期市场布局及商业落地;8月24日,苹芯科技完成近千万美元Pre-A轮融资,据悉,本轮融资将大多数都用在芯片研发相关工作。
这些存算一体芯片公司有的处于团队搭建阶段,有的是正在芯片研发阶段,还有的已经到了产品线扩充和量产阶段。
前几年这一个市场国内也就仅有3-4家崭露头角的企业,但现在存算一体这个赛道显然慢慢的开始变得热闹起来了。
目前能做存内计算的存储器并不多,除了FLASH,还有忆阻器、相变存储器、铁电存储器、自旋存储器、SRAM等,但各有各的优缺点。
比如,IBM在相变存储(PCRAM)里实现神经网络计算的功能,利用新型存储器件的模拟计算功能来实现神经网络的计算。
加州大学圣芭芭拉分校谢源教授在新型存储器件ReRAM(阻变存储)里面做计算的功能,让存储器件做神经网络的计算,称之为PRIME架构。
有些工厂把目光投向了NOR FLASH,综合看来,NOR FLASH是目前最适合产业化的方向,众多巨头投资的美国初创公司Mythic采用的也正是NOR FLASH。NOR FLASH的优势不仅体现在功耗和成熟度等方面,高精度也非常大的优势。
由于在很多AI推理运算中,90%以上的运算资源都消耗在数据搬运的过程。芯片内部到外部的带宽以及片上缓存空间限制了运算的效率。
存内计算虽能突破传统冯诺依曼架构的瓶颈,但是仍受到几个核心问题的制约。
①硬件资源的复用问题。传统冯诺依曼架构分立了存储单元和逻辑单元,并根据距离逻辑单元的远近,将存储单元划分为硬盘、内存、缓存等多级存储模式。这使得有限的逻辑单元可以调用大量的存储信息,实现了逻辑单元的复用,以此来降低了片上资源的开销。
②存算一体化单元的设计问题。存内运算对存算一体化单元的性能要求十分苛刻。在开销上,存算一体化单元的硬件开销应该控制在一些范围内,至少要明显低于分立的存储单元和逻辑单元的开销总和。
③模拟量运算的实现问题。AI算法的运算涉及批量的准模拟量运算。例如,算法对权重的变化范围和精度要求较为苛刻,尤其是涉及网络的训练过程,权重精度的要求将超过6bits。然而,在硬件实现过程中,数字量的精准运算开销较大。
人工智能的硬件化加速方法朝着多元化的方向发展,很多类型的加速方法的研究同步推进,各具特色且难以相互替代。
目前国内外在存算一体方面都处于起步阶段,存算一体正处于学术界向工业界迁移的关键时期,所以这可能是我们发展国产芯片的另一大重要方向。
部分内容来源于:中国信息通信研究院CAICT:存内计算技术发展的新趋势分析 ;沉寂近30年后火了!存内计算如何打破AI算力瓶颈?;半导体行业观察:存内计算能否成为下一代AI芯片的关键;EEWORLD:存内计算:让AI进入高速路;半导体观察:存内计算,要爆发了?;有思想的talk君:王绍迪:存算一体为什么是AI时代主流计算架构?
本公众号所刊发稿件及图片来自互联网,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
南京25分大胜山西:布莱克尼50+11+10三分 林葳25+9+8失误
财政部部长蓝佛安:明年中国经济面临的机遇大于挑战 有利条件强于不利条件
最后半节0-15!独行侠遭骑士20分逆转:东契奇39+7+6 阿伦24+23
星舰造型还有智驾 十一代索纳塔将于29日下线V健康大空间极狐阿尔法T5
妈妈拍下宝宝睡觉的一幕宝宝睡觉盖被子跳了一下盖上去了好可爱 怎么会有如此乖的宝宝呀!
哥哥在写作业妹妹来要哥哥的电话手表两人争执引来爷爷于是...这手心手背都是肉,一碗水端平怎么那么难