半导体行业正面临一个巨大的转折点,以语言大模型为代表的人工智能技术的质变,让整个世界处于计算范式转折的前夜,并行计算即将成为主流,半导体行业被裹挟其中。哲库的饮恨离场,不过是芯片产业风云巨变的开场。
上个月底,阿里云宣布了“史上最大规模降价”,其中核心产品价格全线下调15%-50%,存储产品最高降价50%。对于云服务厂商来说,支撑起高效和高性价比服务的,是硬件和云计算能力的双重优势。云计算也是大模型军备竞赛的技术支撑,ChatGPT就是鲜活案例。
ChatGPT能真正实现大规模应用,背后少不了微软的支持。微软云OpenAI是ChatGPT的独家云供应商,ChatGPT大模型训练所需要的海量数据,也来自微软云多年的积累。正如李彦宏所言,“之前企业选择云厂商更多看算力、存储等基础云服务。未来,更多会看框架好不好、模型好不好,以及模型、框架、芯片、应用这四层之间的协同。”
(相关资料图)
阿里云宣布要上市,为什么是现在?因为人工智能时代,以GPU、TPU为代表的异构计算芯片,将成为智能化基础设施。阿里云如果不能主动折旧(降价),融资(上市即加杠杆)拥抱新的基础设施架构,可能会错过下一波而被边缘化。
纵观全球计算主芯片,异构已经不是一个未来潮流,而是现实落地的主流和顶流。
苹果新一代SOC芯片产品,M2 Pro 和 M2 Max,大幅集成GPU功能。M2 Pro芯片提升M2 芯片原有架构,带来多达12核的中央处理器和多达19核的图形处理器,M2 Max芯片在 M2 Pro的强大性能基础上更进一步,带来多达38核的图形处理器。两款芯片还有增强的定制技术加持,包括速度更快的16核神经网络引擎,每秒可进行最多达 15.8 万亿次运算,较前代芯片快达40%。
Intel一直在为其异构架构理念不停地做重磅收购,2015年收购FPGA供应商Altera,2016年收购AI芯片供应商Nervana,2017年收购了ADAS芯片供应商Mobileye和AI芯片供应商Movidius,2018年收购eASIC,2019年收购云端AI芯片供应商Habana Labs。
AMD收购Xilinx后,Zynq异构系列的战略不用多说,传言AMD与微软合作,合作开发一款代号为雅典娜(Athena)的自主研发的人工智能芯片。
谷歌张量处理器(tensor processing unit,TPU)是该公司为机器学习定制的专用芯片(ASIC),第一代发布于2016年,成为了AlphaGo背后的算力。与GPU相比,TPU采用低精度计算,在几乎不影响深度学习处理效果的前提下大幅降低了功耗、加快运算速度。同时,TPU使用了脉动阵列等设计来优化矩阵乘法与卷积运算。
如今TPU已经发展到了第四代,虽然每个TPU的处理速度都比不上最好的英伟达AI芯片,但谷歌用于连接芯片和在芯片之间传递数据的光电路交换技术弥补了性能差异。
其他互联网公司也有自研芯片的,但基本上都是基于ARM架构,比如亚马逊的推理芯片Inferentia和训练芯片Trainium,还有META昨天刚刚发布的AI加速器芯片MTIA(Meta训练和推理加速器)。
AI风潮之下,没有什么领域不会被波及,AI深入到边缘和终端装置,已经是一个长期必然的大方向,我相信MCU也不会例外。
随着物联网设备的普及和应用场景的扩大,对于更智能化和自主决策能力的需求也在增加,作为物联网设备中必不可少的大脑——MCU,正朝着更智能化、更强大的方向发展。
传统认知中,人工智能(AI)相关的深度学习应用,只有算力充沛的MPU或者是PC才能玩得转,MCU作为边缘物联网的主控芯片,其在AI中担任的主要功能是推理和决策。
将AI能力集成到MCU上,使得AI算法可以实时地在设备本地进行处理和响应,而无需依赖于云端或其他远程服务器。这提高了系统的实时性和即时响应能力,使得设备能够更快速地做出决策和反应,且可以在低功耗的情况下实现高效的AI计算。
现在为边缘设备创建机器学习模型正成为一种大的趋势,这些模型称为微型机器学习或TinyML,它主要适用于内存和处理能力有限的设备,以及互联网连接不存在或有限的设备。TinyML使在MCU上运行深度学习模型成为可能。TinyML在MCU上的应用越来越普遍。
各大MCU巨头其实很早就已开始布局。
恩智浦:2018年推出了机器学习软件eIQ软件,该软件能够在恩智浦EdgeVerse微控制器和微处理器(包括i.MX RT跨界MCU和i.MX系列应用处理器)上使用。并推出了AI工具链NANO.AI。最近恩智浦推出了MCX N系列,MCX N94x和MCX N54x MCU系列中集成了恩智浦设计的用于实时推理的专用片上神经处理单元 (NPU)。据悉,与单独使用CPU内核相比,片上NPU的ML吞吐量最高可提高30倍。
ST:2021年6月3日,意法半导体宣布收购边缘AI软件专业开发公司Cartesiam。Cartesiam成立于2016年,总部位于法国土伦,专门从事人工智能开发工具研发,让基于Arm的MCU具有机器学习和推理能力。ST即将推出第一个带有神经网络硬件处理单元(Neural-Art Accelerator)的通用微控制器——STM32N6,这款MCU与其STM32MP1微处理器(运行频率为 800MHz 的双 Cortex-A7)相比,STM32N6 的推断速度提高了25倍。
瑞萨:去年瑞萨收购了Reality AI,主要为汽车、工业和商业产品中的高级非视觉传感提供范围广泛的嵌入式人工智能和微型机器学习 (TinyML) 解决方案。
英飞凌:2023年5月16日,英飞凌宣布,已收购总部位于瑞典斯德哥尔摩的初创公司Imagimob AB。Imagimob是快速增长的微型机器学习和自动机器学习(TinyML 和 AutoML)市场的领先者。以提升其微控制器和传感器上的TinyML边缘 AI 功能。
国内MCU厂商大部分仍处于模仿兼容传统STM32的同质化水平,忙于内卷比拼价格,生存还是个问题,基本上还顾不上未来的布局。
我司作为MCU的新进厂商,由于客户需求与STM32兼容,但是在其中赠送了FPGA的异构逻辑,FPGA本身就可以用于并行加速用,其核心架构与TPU的脉动阵列矩阵运算有异曲同工的相似之处。我们下一代产品中扩大逻辑容量后将可直接与TinyML的边缘推理整合。
我们正在迈入AIoT时代,AI深入到边缘和终端装置,已经是一个长期必然的大方向。做好技术准备,国产厂商方能迎接未来转折窗口的挑战。
标签:
半导体行业正面临一个巨大的转折点,以语言大模型为代表的人工智能...
1、液基薄层细胞制片术是一种较先进的细胞学检查(病理学检查);是...
寓言故事成语100个,寓言故事成语这个很多人还不知道,现在让我们一...
荒野大镖客2pc版画面怎么设置?该作自发布以来,堪称新一代配置杀手...
5月19日北向资金增持13 28万股江特电机。近5个交易日中,获北向资...
沙湾市气象台2023年5月20日1时17分发布大风蓝色预警信号:预计今天...
1、一是治庸提能力,解决在思想素质和工作能力方面存在的问题和不足...
当地时间5月19日,俄罗斯联邦工业和贸易部发布消息表示,美国商务部...
北京展第一天,台荣正式发布全新踏板:荣150。整车工艺质感都不错...
当这家数据库巨头在下个月的甲骨文全球大会上预览最大的新闻时,它...
为切实做好生态环境保护工作,有效防范大气污染,提高秸秆禁烧禁抛...
盘点本赛季CBA各队头号本土得分手,谁是中国男篮未来的进攻担当,cba...
直播吧5月19日讯《世界体育报》报道,拉莫斯不想离开巴黎圣日耳曼,...
诚然,他确实在克制AD输出上有一定的限制作用,稳定的一手大招克制...
原标题:中国-中亚峰会|西安城墙:“文化国门”尽显古都魅力备受...
旋涡猫的找法:村上朝日堂日记,关于旋涡猫的找法:村上朝日堂日记...
“过一种叫云南的生活”是很多朋友的梦想。在云南,这片39 4万平方...
目前,在江苏沿江的多个船舶海工产业基地,都在加快进行“智能化改...
同时,驻马店市文化广电和旅游局将为进入决赛的10名选手颁发“驻马...
19日,位于江苏省连云港市的田湾核电7号机组穹顶球带成功吊装,标志...
陕西黑猫近期披露投资者活动记录表显示,公司目前采取根据市场行情...
大风蓝色预警信号:预计19日13时到20日8时,法库县偏南风5到6级,阵...
第三节约基奇单节送出了4个助攻其中有两个是三分助攻,湖人的包夹战...
天气转暖正是与大自然亲密接触的好时节不少小伙伴约上三五好友支个...
来到咸安参观交流退役军人事务工作
训练数据量是前代的近5倍、参数量是前代的三分之二左右。
近期,位于山东省聊城市冠县兰沃乡的万亩梨园内繁花似雪、游人如织...
总投资221亿元!8GW异质结电池片、20GW组件等5个新能源项目签约内蒙...
大家好,这里是罗易斯,橘小柚的开发者。因为最近资金比较紧张,只...
对被征收住宅房屋价值的补偿,按照房屋征收决定公告之日被征收房屋...