苹果放弃寻觅了十年之久的电动汽车项目、周详转向AI，无疑是比来几天科技圈的头版头条。今天正在苹果公司实行的年度股东大会上CEO蒂姆·库克示意，该公司正在人为智能方面“进入了大批资金”，并将于本年晚些时期公布一项巨大布告。另表他还叙及，“全体由苹果芯片驱动的Mac都黑白常健旺的人为智能机械。到底上，目前市道上用于人为智能的电脑，没有比Mac更好的。”

　　“天生式人为智能拥有令人难以置信的打破潜力，将为用户正在分娩力、处理题目等方面带来厘革性的机遇”，这般后相与库克从来的谋定然后动的旧例俨然也造成了光显的比拟。原来也不怪他一失常态，终究目前苹果力推的“空间打算”观点也遭遇了“既生瑜何生亮”的困难，OpenAI所引颈的AI怒潮简直将全体戒备力给吸走了。以是现正在的境况，是正在AI界限苹果俨然已处于落伍状况。

　　且不提行为领军者的OpenAI，谷歌有Bard、Gemini，Meta有开源大模子LLaMA 2，微软有Copilot，亚马逊有Amazon Q，而苹果则只要一个正在风闻中的天生式AI模子“AppleGPT”。其号称具有2000亿参数，正在说话分析和天生方面拥有高度杂乱性和健旺的解析力，但AppleGPT终究还没有落地。于是今朝的实际，是从2022年的Stable Diffusion引爆天生式AI这一观点今后，逼近两年时分苹果正在这个赛道简直是毫无筑树。

　　一手好牌打的稀烂，这如同是今朝苹果正在AI界限最稳妥的描绘。苹果的同一内存架构则是该公司正在AI赛道最强的一张牌ob体育，库克说目前市道上用于人为智能的电脑没有比Mac更好的，原来并非夸口，AI PC这个观点的旗头正本应是苹果才对。有目共见，算力即是AI期间的“石油”，英伟达正在这两年一飞冲天、抵达市值逼近2万亿美元史书极点，无疑即是由于他们控造了算力提供。

　　然而正在算力以表，一个极少被提及的观点“内存墙”，却是另一个影响大模子功能的紧要身分。而参数目则是大模子功能的基本，参数越大、功能才干越高，以致于大模子干系厂商正在参数领域上能够说是竞相大放卫星。可跟着AI大模子参数目标连接增进，内存不足的题目也仍然逐步凸显，“CUDA out of memory”如许的报错提示仍然成为了今朝AI从业者最禁绝许看到的代码。

　　“CUDA out of memory”是指点用CUDA实行打算时，GPU内存亏欠所导致的差错，这个题目往往涌现正在需求治理大批数据的时期训练，这也是为什么正在进货用于AI的GPU时，显存同样也是最为重点的目标之一。比方伯克利AI实行室的学者Amir Gholami就曾示意，他日内存墙将是比算力更大的瓶颈。

　　Amir Gholami的钻研团队发明，Transformer架构的大模子尺寸以每两年410倍的速率放肆增进，而GPU行为AI算力的基座，其内存容量增进速率却只要每两年2倍。以是也使得GPU内存容量紧要限造了可教练的模子领域和算力晋升速率，并成为了禁止AI技巧生长与落地的紧张瓶颈。今朝GPU显存只要8GB的程度，那么无论开采者若何实行优化，思要容纳一个千亿参数的大模子分明也是巧妇难为无米之炊。

　　为此，英伟达给出的处理计划是修建GPU集群来供应聚会的更大内存。好比说目前AI大模子的“硬通货”DGX H100体例，其重点是8个H100 GPU，一共能够供应640GB的GPU内存训练。然而这个计划的题目正在于本钱高亢，售价更是高达30万美元以上，且无法超越GPU间的“通讯墙”，也即是数据相易时、因为访谒带宽和延迟的限定导致功能消浸。

　　行为英伟达正在GPU界限的老敌手，AMD的计谋则是弱算力+大内存。AMD此前正在“Advancing AI”营谋上推出于大模子教练和推理的MI300X GPU时，苏姿丰博士就特地夸大到，“MI300X的工作是缓解大模子分散式训推所面对的内存限造和互连限造”。

　　与英伟达的H100比拟，MI300X的高带宽内存密度最高可达H100的2.4倍，高带宽内存带宽最高可达H100的1.6倍。也即是说，MI300X能运转比H100更大的AI模子。

　　如许看来ob体育，苹果的同一内存架构与AI大模子岂不是天作之合，Apple Silicon芯片乃至都不消从新打算，直接就能行为推理卡操纵。当其他厂商还正在苦苦寻找若何将端侧大模子安置正在PC上，以期让AI PC名副其及时，苹果却对仍然打好地基的端侧AIGC生态“不屑一顾”。君不见过去两年汹涌澎拜的AI PC观点，苹果此前素来就没有将Ma与其合联到一道。

　　好正在，苹果方面到底如故认识到了搭载自研芯片的Mac正在AI运算才略方面的上风，只能是这一天到来如同有点晚。从某种旨趣上来说ob体育，苹果更像是正在亡羊补牢。至于说为什么明明仍然具有了实际基本，干系观点也取得了业界的追捧，苹果早前却不断无动于衷。当然是由于即日的苹果与当初推出Apple II、iPhone 4的苹果，不是一个企业了。

　　诚然，苹果是以破损式立异发迹、以至走向光辉，当初iPhone 4给市集带来了与以往霄壤之此表价钱见解，更是砸掉了成效机的饭碗、开启了智妙手机期间。然而跟着苹果吃到了智妙手机期间最大的一块蛋糕、将市值推向2.8万亿美元，大企业病也就随之而来训练。

　　苹果造车凋零、iPhone被诟病只要“参数升级”、却缺乏“技巧立异”，以至正在AI上的落伍，可能皆因统一个原由，即某位苹果高层察觉了新兴赛道的机缘，也难以下定决定正在前程未卜的境况下将个体正在公司内的他日推上赌桌。纵然财大气粗的苹果公司能够秉承凋零带来的攻击，但员工也许经不起如许的凋零。ob体育明珠不再蒙尘苹果终究认识到Mac才是最好的AI PC训练