全球首搭字节豆包AI大模型 全新smart精灵#5发布

摘要：smart精灵#5在澳大利亚布里斯班举行了全球首发仪式。据悉，这款车型基于SEA浩瀚架构打造，采用800V平台，拥有CLTC最高740km的续航里程。作为smart品牌迄今为止尺寸和空间最大的车型，smart精灵#5定位为大五座SUV，标志着品牌在设计和技术上的新里程碑。 smart精灵#5的智能科技配置尤为引人注目，它是全球首款搭载字节跳动自研“豆包AI大模型”的量产车，配备AMD V2000桌面级高算力芯片。这些尖端技术的结合，确保了车辆拥有直观生动的视觉效果和流畅的用户体验。车内配备了25.6英寸AR增强型抬头显示、10.3英寸全彩超高清液晶仪表、13英寸OLED超清2.5K双联屏，并支持主副驾分区娱乐，为驾乘者带来沉浸式的智能出行体验。在设计上，smart精灵#5得到了梅赛德斯-奔驰全球设计团队的精心打造，外观保留了精灵#5概念车的多处设计元素，如前大灯组样式和间断样式的LED灯组。新车的前包围采用空洞样式的散热开口设计，车身侧面的腰线贯穿至尾部，营造出动感的视觉效果。车尾部分，贯穿式尾灯组设计与车头相呼应。车身尺寸为4705/1920/1705mm，轴距2900mm，定位中型SUV。配置方面，smart精灵#5首次引入坐垫安全气囊和副驾零重力座椅模式，提供行业内首次搭载的森海塞尔典范音响系统，包含20个扬声器，支持7.1.4杜比认证。储物空间方面，新车拥有72L的前备箱空间和630-1530L的可拓展后备箱容积，满足多样化的储物需求。动力系统上，smart精灵#5提供多种选择，包括250千瓦后置单电机版本和不同功率的前后双电机四驱版本，以及165/310千瓦的双电机四驱BRABUS性能版。车辆搭载前双叉臂后五连杆悬架，电池容量最高100度，支持全栈800V平台最高4C快充，确保了出色的续航能力和快速充电便利性。 原文：https://m.cnbeta.com.tw/view/1443810.htm

受害者使用 Apple AirTag 确定邮件窃贼嫌疑人的位置

摘要：这已经不是第一次有公众通过使用苹果 AirTags 来挫败窃贼的计划了。这次，一名加利福尼亚居民在给自己寄了一个装有追踪器的包裹后，两名涉嫌盗窃邮件的嫌疑人落网。 圣巴巴拉县的一名妇女对邮局信箱里的邮件被盗感到难以忍受，于是她决定自己动手。警方称，这名妇女将藏在包裹里的 AirTag 寄到了同一个邮政信箱，虽然邮件确实寄到了邮局，但照旧不翼而飞。这名妇女跟踪了 AirTag 的行踪，并向圣巴巴拉县治安官办公室报告了发生的事情。警长追踪到该设备位于圣玛丽亚市东日出大道 600 号街区。进入现场后，警员发现了装有 AirTag 的包裹。据信还有其他十几名受害者的物品被盗。据警长办公室称，犯罪嫌疑人被确认为来自圣玛丽亚的 27 岁的 Virginia Franchessca Lara 和来自河滨的 37 岁的 Donald Ashton Terry。Lara前以 5 万美元保释，他被指控的重罪包括持有支票意图诈骗、伪造支票、身份盗窃、信用卡盗窃和共谋。Terry的重罪清单中增加了入室盗窃罪。他还因河滨县数项与盗窃有关的通缉令而被收监。他目前以 46 万美元保释。警长办公室对这名妇女的行为表示赞赏，但强调她的做法是正确的，她在发现嫌疑人的踪迹后与当局取得了联系，而不是亲自与犯罪嫌疑人对峙。我们已经看到多起利用 AirTags 和其他追踪器挫败罪犯的故事。今年 6 月，一位木匠利用它们不仅找到了自己被盗的工具，还找到了价值数百万美元的约 15000 件其他工具。这些设备还帮助挽救了一位骑车人价值 8000 美元的自行车，最近它们还被用来发现是谁偷了一位政治家的竞选标志。 原文：https://m.cnbeta.com.tw/view/1443809.htm

NASA组织最新一轮行星防御测试 面对72%的小行星撞击概率

摘要：美国国家航空航天局每两年举行一次假想小行星撞击演习，模拟可能发生的撞击地球事件，以准备全球防御对策。这些演习纳入了现实的小行星跟踪数据，并强调了应急规划和小行星偏转战略方面的国际合作，最近成功进行的 DART 等测试突出表明了这一点。 在可预见的未来，一颗大的小行星撞击地球的可能性很小。但由于这种事件可能造成巨大损失，美国国家航空航天局每两年与联邦和国际机构的专家和决策者举行一次假想小行星撞击"桌面"演习，以解决撞击情景中的许多不确定因素。最近一次演习于今年 4 月举行，并于 6 月 20 日发布了初步报告。让这样的场景成为现实，并对所有相关人员都有用，这可不是一项小任务。美国国家航空航天局（NASA）位于南加州的喷气推进实验室（JPL）的近地天体研究中心（CNEOS）专门从事小行星和彗星的跟踪和轨道测定，以及查明是否有任何小行星和彗星会对地球造成危害。"这些假设情景非常复杂，需要花费大量精力来设计，因此我们的目的是让它们对演习参与者和决策者有用并具有挑战性，以磨练他们的流程和程序，从而快速制定出行动计划，同时弥补行星防御界的知识差距，"JPLCNEOS 主任保罗-乔达斯（PaulChodas）说。这幅艺术家的概念图描绘了一颗在太空中漂流的小行星。许多这样的天体经常经过地球。为了帮助人们为发现一颗有可能撞击我们星球的小行星做好准备，美国国家航空航天局（NASA）定期举行演习，研究国际社会如何应对这种威胁。图片来源：NASA/JPL-Caltech今年的情景一颗可能有几百码宽的假想小行星被发现，估计在 14 年内撞击地球的几率为 72%。可能的撞击地点包括北美、南欧和北非的人口稠密地区，但小行星仍有 28% 的几率会错过地球。经过几个月的跟踪后，小行星过于接近太阳，导致在另外七个月内无法进行进一步的观测。决策者必须想出办法。领导此次演习的是美国国家航空航天局行星防御协调办公室（PDCO）、联邦紧急事务管理局响应局和美国国务院太空事务办公室。在四月的两天时间里，参与者聚集在马里兰州劳雷尔的约翰霍普金斯应用物理实验室（该实验室是此次活动的主办方），考虑国家和全球可能采取的应对措施。"这次桌面演习非常成功，有近 100 名来自美国政府机构的人员参加，国际行星防御专家也首次参加，"来自 APL 的 Terik Daly 说，他是这次演习的协调人。"小行星撞击将产生严重的国家和国际影响，因此，如果这种情况真的发生，我们需要国际合作。"来自美国国家航空航天局、联邦紧急事务管理局和行星防御界的代表参加了第五次行星防御机构间桌面演习，以了解和评估我们作为一个国家有效应对潜在危险小行星或彗星威胁的能力。图片来源：NASA/JHU-APL/Ed Whitman在现实生活中，CNEOS 计算每个已知近地天体的轨道，对未来潜在的撞击危险进行评估，以支持 NASA 的行星防御计划。为了使这一情景逼真，CNEOS 团队模拟了演习前几个月的所有观测，并使用轨道测定计算来模拟撞击概率。JPL和CNEOS的导航工程师达维德-法诺奇亚（Davide Farnocchia）说："在这个时间点上，撞击很可能发生，但还不确定，天体的大小和撞击位置都存在很大的不确定性，观察这如何影响决策者的选择，以及国际社会如何应对14年后现实世界中的威胁，是一件很有意思的事情。"他领导了小行星轨道的设计工作。准备、规划和决策是过去 11 年中进行的所有五次演习的关键重点。例如，能否向小行星发送一个侦察航天器，以收集有关其轨道的更多数据，并更好地确定其大小和质量？尝试偏转小行星使其错过地球是否可行？美国国家航空航天局的双小行星改向试验（DART）最近证明了这种方法的可行性，该试验于 2022 年 9 月 26 日撞击了小行星小月体 Dimorphos，稍微改变了它的轨道。演习中还考虑了其他偏转方法。但是，任何偏转或侦察任务都需要多年的准备，需要使用能够尽早发现危险小行星的先进观测站。美国国家航空航天局的近地天体探测器（Near-Earth ObjectSurveyor）就是这样一个天文台。该红外太空望远镜由 JPL 管理，计划于 2027 年底发射，它将探测浅色和深色小行星，包括在太阳附近运行的小行星。这样，NEO Surveyor 将支持 PDCO 的目标，即尽早发现任何危险的小行星，以便有更多的时间对潜在威胁发射偏转任务。要了解此次活动的结果，请阅读美国国家航空航天局的初步总结。编译自/ScitechDaily 原文：https://m.cnbeta.com.tw/view/1443808.htm

采用 M4 Pro 和 M4 Max 芯片的 MacBook Pro 将于本月量产

摘要：据台湾行业刊物DigiTimes 报道，苹果供应链将于 8 月份开始量产采用 M4 Pro 和 M4 Max 芯片的下一代 14 英寸和 16 英寸 MacBook Pro 机型。这个月只剩下几天时间了，这意味着笔记本电脑的组装很可能已经开始。这一信息与显示器行业分析师 Ross Young 声称下一代 14 英寸和 16 英寸 MacBook Pro 显示器出货正在进行的说法不谋而合。 彭博社的马克-古尔曼（Mark Gurman）在五月份的《Power On》时事通讯中说："今年晚些时候，M4 Pro 和 M4 Max 芯片将成为高端 MacBook Pro 的一部分。他还预计苹果公司将在今年晚些时候发布三款配备标准 M4 芯片的新 Mac，包括低端 14 英寸 MacBook Pro、iMac 和 Mac mini。"十月是苹果公司发布新款 Mac 的常见月份，包括去年十月发布的配备 M3、M3 Pro 和 M3 Max 芯片的 14 英寸和 16 英寸 MacBook Pro 机型。如果这种模式重演，那么下一款采用 M4、M4 Pro 和 M4 Max 芯片的 14 英寸和 16 英寸 MacBook Pro 机型很可能还有两个月左右的时间才能推出。标准的 M4 芯片已于今年早些时候在 iPad Pro 上亮相，Geekbench 的结果显示，与 M3 芯片相比，它的多核 CPU 性能最多可提高 25%。同样，M4 Pro 和 M4 Max 芯片的性能和能效也有望实现一定的表现提升。预计下一代 MacBook Pro 在设计上不会有大的变化，特别是 OLED 显示屏可能还需要几年的时间。古尔曼说，苹果还计划在"未来几年"的某个时间点把 MacBook Pro 做得更薄。苹果上一次以 Mac 为主题的发布会是在 2023 年 10 月 30 日举行的，而今年的 10 月发布会肯定有可能再次举行。 原文：https://m.cnbeta.com.tw/view/1443807.htm

又一位英伟达“杀手”亮相：性能是H100数倍，成本仅1/10，支持万亿参数模型

摘要：8月27日消息，在近日召开的Hot Chips 2024大会上，美国AI芯片初创公司SambaNova首次详细介绍了其新推出的全球首款面向万亿参数规模的人工智能（AI）模型的AI芯片系统——基于可重构数据流单元 (RDU) 的 AI 芯片 SN40L。 据介绍，基于SambaNova 的 SN40L 的8芯片系统，可以为 5 万亿参数模型提供支持，单个系统节点上的序列长度可达 256k+。对比英伟的H100芯片，SN40L不仅推理性能达到了H100的3.1倍，在训练性能也达到了H100的2倍，总拥有成本更是仅有其1/10。SambaNova SN40L基于台积电5nm制程工艺，拥有1020亿个晶体管（英伟达H100为800亿个晶体管），1040个自研的“Cerulean”架构的RDU计算核心，整体的算力达638TFLOPS（BF16），虽然这个算力不算太高，但是关键在于SN40L还拥有三层数据流存储器，包括：520MB的片上SRAM内存（远高于此前Groq推出的号称推理速度是英伟达GPU的10倍、功耗仅1/10的LPU所集成的230MB SRAM），集成的64GB的HBM内存，1.5TB的外部大容量内存。这也使得其能够支持万亿参数规模的大模型的训练和推理。SambaNova在推出基于8个SN40L芯片系统的同时，还推出了16个芯片的系统，将可获得8GB片内SRAM、1TB HBM和24TB外部DDR内存，使得片上SRAM和集成的HBM内存之间的带宽高达25.5TB/s，HBM和外部DDR内存之间的带宽可达1600GB/s。高带宽将会带来明显的低延时的优势，比如运行Llama 3.1 8B模型，延时低于0.01s。下图是SambaNova SN40L的内部结构，包括：计算单元（PCU）、存储单元（PMU）、网状开关（S）、片外存储器和IO（AGCU）。SN40L 内部的计算单元（PCU）的内部架构，它具有一系列静态阶段，而不是传统的获取/解码等执行单元。PCU可以作为流媒体单元（从左到右的数据）运行，蓝色是交叉车道减少树。在矩阵计算操作中，它可以用作收缩阵列。支持BF16、FP32、INT32、INT8等数据类型。下图是SN40L 的高级存储单元框架图。这些是可编程管理的暂存区，而不是传统的缓存。SN40L 的网状网络拥有三种物理网络，包括矢量网络、标量网络和控制网络。AGCU单元用于访问片外存储器(HBM和DDR )，而PCU用于访问片内SRAM暂存区。下图是SN40L 的顶层互联结构：SN40L 的关键核心在于其可重构数据流架构，可重构数据流架构使其能够通过编译器映射优化各个神经网络层和内核的资源分配。下面是一个例子，说明Softmax是如何被编译器捕获，然后映射到硬件的。可以看到，将它映射到大语言模型（LLM）和生成式AI的Transformer模型，下面是映射。在解码器内部，有许多不同的操作。下图是解码器放大图。每个方框内都是一个操作符。同时，通常可以运行多个操作符，并把数据保存在芯片上以便重用。以下是SambaNova对运算符如何在GPU上融合的猜测，不过他们也指出这可能不准确。在RDU中，整个解码器是一个内核调用。编译器负责这种映射。解码器作为RDU上的单个内核。回到Transformer的结构，下图展示了解码器的不同功能。可以看到，每个函数调用都有启动开销。不是32个调用，而是写成一个调用。换句话说，这意味着调用开销减少了，因为只有一个调用，而不是多个调用。结果，增加了芯片对数据做有用工作的时间。SambaNova 首席执行官兼创始人 Rodrigo Liang 表示：“借助数据流，你可以不断改进这些模型的映射，因为它是完全可重构的。因此，随着软件的改进，你获得的收益不是增量的，而是相当可观的，无论是在效率方面还是在性能方面。”下面是SambaNova的16个SN40L芯片系统在Llama3.1 405B/70B/7B上的表现，在Llama 3.1 7B模型下，以完全的16bit精度运行，其每秒的Token生成数竟然高达1100个。这比此前Groq推出的基于LPU（号称推理速度是英伟达GPU的10倍，功耗仅1/10）的服务器系统在Llama 3 8B上的最快基准测试结果每秒生成800个Token还要快。即使是在Llama3.1 405B模型上，以完全的16bit精度运行，16个SN40L芯片的系统每秒Token生成数也能够高达114个。而在Llama 3.1 7B模型下，其每秒的Token生成数更是高达1100个。由于内存容量限制，与其最接近的竞争对手需要数百块芯片来运行每个模型的单个实例，因为 GPU 提供的总吞吐量和内存容量相对较低。SN40L在Llama 3.1 70B模型上进行批量推理和吞吐量缩放表现，随着批量大小的变化，吞吐量接近理想规模。据SambaNova 介绍，基于8个SN40L芯片的标准AI服务器系统在运行80亿参数的AI大模型时，速度达到了基于8张英伟达H100加速卡的DGX H100系统的3.7倍（每生成20个Token所耗费的时间），而整个系统所占用的空间也只有DGX H100的1/19，模型切换时间也仅有DGX H100系统的1/15。在芯片推理性能方面，SN40L达到了英伟达H100的3.1倍；在训练性能方面，SN40L也达到了英伟达H100的2倍。总结来说，SambaNova 可以在8个SN40L芯片的系统上运行数百个大模型（在16个SN40L芯片的系统上可以同时运行多达 1000 个 Llama 3 7B大模型），同时还能够保持很快的响应速度，拥有完全精度。更为关键的是，其总拥有成本比竞争对手低 10 倍（虽然未明确是哪款竞品芯片，但从前面的对比来看，应该说的是H100）。“SN40L的速度展现了Dataflow的魅力，它加速了 SN40L 芯片上的数据移动，最大限度地减少了延迟，并最大限度地提高了处理吞吐量。它比 GPU 更胜一筹——结果就是即时 AI，”SambaNova Systems 联合创始人、斯坦福大学知名计算机科学家 Kunle Olukotun 表示。值得一提的是，在基于SN40L芯片的系统之上，SambaNova 还构建了自己的软件堆栈，其中包括今年2月28日首次发布的拥有1万亿参数的Samba-1 模型，也称为 Samba-CoE（专家组合），其使得企业能够组合使用多个模型，也可以单独使用，并根据公司数据对模型进行微调和训练。在芯智讯看来，SN40L相比目前的一些AI芯片来说，拥有着显著的优势，比如其可重构的数据流架构，可以调整硬件来满足各类工作负载要求，使得其可以很好的处理图像、视频及文本等不同的数据类型，适合多模态AI应用。但是，相对于英伟达的GPU可以灵活的处理各种模型来说，SN40L在灵活性上还是要略逊一筹，因为相关模型必须要经过专门的调整才能在其上面运行。而且，英伟达强大的CDUA生态对于其来说也是一大挑战。不过，在AI模型参数越来越大，所需的芯片数量和资金成本越来越高的背景之下，SN40L在性能和成本上的优势，以及可以轻松实现对于万亿参数大模型的支持，因此也有着与英伟达直接竞争的机会。或许正因为如此，SambaNova也获得了资本的青睐，目前已经累计获得了超过10亿美元的融资。 原文：https://m.cnbeta.com.tw/view/1443806.htm

初创公司Cerebras推出新款AI巨型芯片，挑战英伟达

摘要：Cerebras Systems是一家希望在人工智能（AI）计算领域挑战英伟达的初创公司，该公司推出了一款新芯片，称其将在运行AI模型和生成式响应方面击败竞争对手。Cerebras还为AI开发人员推出了一款工具，允许他们访问超大芯片来运行应用程序。 访问英伟达GPU来训练和部署大型AI模型难度很大，而且运行成本高昂，开发人员将这一过程称为推理。Cerebras将该芯片作为AI计算系统的一部分提供，数据中心运营商可以自行购买和运行。Cerebras已提交了一份机密计划，将在首次公开募股（IPO）中出售股票，试图在蓬勃发展的市场中分一杯羹。科技界巨头正在向AI计算投入数百亿美元。到目前为止，最大的受益者是英伟达，其图形处理单元（GPU）是这一新基础设施的重要组成部分。但Cerebras创始人兼CEO Andrew Feldman表示，公司的计算机将通过提高AI系统的响应速度来颠覆整个行业——他将这一转变比作向高速互联网的转变。Cerebras的方法依赖于由单个硅片制成的巨型芯片，其每个芯片大小与餐盘相当，被称为晶圆级芯片，从而避免了AI数据处理的一个问题：为AI应用提供支持的大型模型处理的数据通常无法放在单个芯片上，可能需要数百或数千个芯片串联在一起。Cerebras表示，这种新技术使芯片比传统芯片更强大。但该公司必须提供专门设计用于容纳超大芯片的计算机，因为传统硬件无法容纳它们。据Andrew Feldman称，一个关键优势来自于其产品使用内存的方式。这种能力内置在Cerebras芯片中，不像GPU和其他处理器，它们需要通过接口连接到内存才能访问信息。可以肯定的是，英伟达在AI基础设施方面拥有巨大的领先优势，而包括英特尔在内的其他对手一直在努力竞争。Cerebras必须向计算行业证明它能够可靠地生产和部署其技术。Cerebras正在建立自己的数据中心，以提供AI计算服务。它还试图将其芯片出售给云提供商，其中包括微软和亚马逊。这家初创公司已经与这些科技巨头接洽，但尚未拥有这些客户。当被问及Cerebras能从英伟达手中夺走多少市场份额时，Andrew Feldman表示：“足以让他们感到愤怒。” 原文：https://m.cnbeta.com.tw/view/1443805.htm