吴恩达：美国加州AI安全法案将扼杀开源大模型

摘要：今年2月7日，美国加州议会拟定了《SB-1047前沿AI大模型安全创新法案》。经过4个月6次修订、审议，该法案已经通过了一些关键条款，距离正式发布已经很近了。表面上，这是一个增强大模型安全、透明性、促进公平、吸引投资的法案。实际上，你仔细阅读其中一些关键条款，会发现这对于一些科技企业、开发者将带来非常大的负面影响。 例如，根据该法案的定义，Meta的Llama-3被定义为超过1亿美元训练成本的“前沿模型”。如果有人将该模型用于非法用途，Meta也会受到严重处罚。咱们2000多年前大秦的连坐制度，咋还出口了呢~加州的地理位置非常特殊，这里既有斯坦福、加州理工、南加州大学等名校，也是Google、苹果、OpenAI、Meta等科技巨头总部的所在地，所以，该法案也受到了吴恩达、Yann LeCun等AI界泰斗的抵制。例如，该法案中的22603(a)(3)(4)条要求"有限职责豁免"向政府部门提交证明,并在有错误时停止模型的运行；第22603(b)条要求开发者需要报告任何模型的潜在的AI安全事故。如果开发者无法完全掌控基于其模型的各种衍生版本,若发生安全事故,责任将归属于第一开发者。也就是说，开发者需要对模型的能力做出保证,一旦大模型开源后被他人修改,能力发生变化,会面临合规风险的处罚。所以，企业、个人开发者在开源大模型权重时会非常谨慎，这相当于是一个连带责任。此外，该法案中的22604（a）（b）规定，当用户使用其“前沿模型”和算力资源时，开发者需要提交客户的所有资料，包括客户的身份、信用卡号、账号、客户标识符、交易标识符、电子邮件、电话号码。同时，每年都要提交一次资料，并对用户的行为、意图进行评估。用户的所有资料会被备份7年，也会在海关、边境总署备案。而开发者也需要具备紧急停止大模型的能力，例如，用户使用其模型用于别的业务场景，可以不用通过用户本地直接关闭模型。像这种严格的监管条例还有不少，无形之中会加重企业、开发者对大模型的合规成本和开放权重的态度。尤其是那种“秦朝连坐制度”，用户使用了你的模型开发了其他潜在危险的应用，特别是这个判定还很模糊，那么第一开发者弱没有“豁免权”将会一起被处罚，真的是挺离谱的。对于SB-1047法案的拟定，吴恩达发表了一篇深度长文进行回应。他表示，该法案中有很多问题，首先就是危险范畴定义不合理，如果有人使用他们的模型做超出规定的事情，原作者一起被处罚。此外对造成的伤害定义也不太好，例如，造成5亿美元的损失，这在AI领域还是很难实现的。如果最终议会通过了这个方案，那么将会对AI大模型领域造成很大影响，将彻底扼杀开源大模型的技术创新。吴恩达进一步指出，应该监管的是AI应用程序而不是大模型本身。例如，电机是一种技术。当我们把它放在搅拌机、电动汽车、透析机或导弹中时，它就成为了一种应用。如果我们通过法律规定，如果任何人以有害的方式使用电机，制造商将承担相应的责任。那么，电机制造商要么关闭生产，要么将电机的性能制造的非常小，难以大范围应用。SB-1047法案似乎没有考虑过大模型有益处的应用，而是全部针对他的有害来处理的，这是不公平的。如果这样的监管法案最终通过了，可能会阻止人们使用电机制造导弹，但我们也会失去使用搅拌机、电动汽车和透析机的机会。吴恩达在最近演讲中谈SB-1047更大的忧虑是，加州的SB-1047法案一旦通过，其他州可能会效仿，整个负面影响会不断扩大。图灵奖获得者、Meta首席科学家- Yann LeCun直言，SB-1047法案意味着，加州的科技产业将直接面临终结。知名架构师Daniel Jeffries也赞成Yann的观点，并发表长文强烈呼吁加州议会对SB-1047法案提反对票。并且认为，SB-1047根本就不是一个法案，就是一个“特洛伊木马”。原因很简单，这是由一群小范围利益群体制定的规则，他们坚信AI大模型会带来“世界毁灭”，完全不顾他的好处。此外，他提出中国已经具备与OpenAI等科技巨头竞争的大模型，在电动汽车、自动驾驶、城市AI大脑皆处于领先地位。这个方案要是通过了，将直接压制美国AI领域的发展进程。普通用户对SB-1047法案也是相当抵制的，这个法案的最终目的，就是让第一开发者为自己的大模型永久负责，并保证不会出现任何危险。这简直是难以执行的监管，会严重影响开源领域的发展。同时嘲讽道，让一群平均年龄63岁的人，来监管AI大模型有点不靠谱啊~~也有人建议，不行就把开源大模型这事交给中国来做吧，Quen 2、零一万物等开源大模型的性能已经和GPT-4、GPT-4o等旗鼓相当。 原文：吴恩达：美国加州AI安全法案将扼杀开源大模型

净资产高达1.47万亿 揭秘马斯克的巨额财富都来自何处

摘要：特斯拉CEO埃隆·马斯克（Elon Musk）的净资产已达到惊人的2030亿美元（约合1.47万亿元人民币）。马斯克的财富主要来源于他在特斯拉的持股和期权。作为特斯拉的联合创始人和CEO，马斯克持有公司13%的股份，加上期权，这部分资产的总价值约为1200亿美元。 特斯拉作为电动汽车行业的领军企业，其股价的稳步上升为马斯克的财富增长提供了强劲动力。除了特斯拉，马斯克在SpaceX的持股也占据了其财富的很大一部分。作为SpaceX的创始人和CEO，马斯克持有该公司42%的股份，价值约712亿美元。SpaceX作为一家私营航天公司，与NASA合作执行多次太空发射任务，并计划执行载人月球南极任务。此外，马斯克在2022年以440亿美元的价格收购了社交媒体巨头Twitter，并更名为X。尽管X目前面临广告客户信心下滑的挑战，但马斯克持有的79%股份价值约71亿美元。马斯克还持有The Boring Company的股份，价值33亿美元。该公司致力于通过建设地下隧道网络解决交通拥堵问题，已在拉斯维加斯会议中心下方建成约2.7公里长的环线隧道。马斯克的薪酬方案也为其财富增长做出了贡献，特斯拉股东们最近重新批准了马斯克高达560亿美元的薪酬方案，这被认为是美国上市公司历史上最高的薪酬计划。 原文：净资产高达1.47万亿 揭秘马斯克的巨额财富都来自何处

极氪员工称匿名吐槽智驾团队被开除 建议安聪慧问责

摘要：6月15日，近日，有前极氪员工表示，自己因在公司内网中匿名吐槽智驾团队被开除。据截图显示，该网友在极氪内网发文《老001智驾团队趁早解散吧！》吐槽极氪001智驾团队：一再负优化，称其一个多月憋出一个小的不能再小的版本更新，做个样子完成KPI糊弄领导。 并建议称，建议极氪汽车CEO安聪慧问责老001智驾团队，不要按照版本数量给KPI。随后，该名网友在群聊中表示，发言在内部已经被和谐了，因被人发到某汽车社群造成影响。被极氪辞退了，刚谈完话直接把所有账号封了，一分钱补偿不给。据了解，5月10日晚，极氪智能科技控股有限公司正式在美国纽交所挂牌上市，股票代码为“ZK”。成为继蔚小理之后，第四家赴美上市的中国造车新势力，同时也成为吉利系第九个 IPO。吉利汽车董事长李书福在极氪IPO后将拥有近75%的股份，极氪首席执行官安聪慧持有近3%的股份。 原文：极氪员工称匿名吐槽智驾团队被开除 建议安聪慧问责

微软日本总裁：正加速AI应用 看好日本数字化发展潜力

摘要：微软日本公司总裁Miki Tsusaka（津坂美纪）表示，日本是使用新型人工智能（AI）工具最快的国家之一，并且AI可能会进一步加速其经济和科技行业的发展。她认为，日本的数字化进程在疫情期间得到了增强，因为企业必须适应居家办公安排。 津坂美纪表示，“日本（在AI领域）已迎头赶上，并且我认为现在还会继续加速，因为技术可以实现我们无法做到的事情。日本没有足够的人口，正在老龄化，而生成式AI却有能力加速行业增长。”这位高管称，她特别有兴趣帮助当地劳动力中的更多女性提高技能，这也是微软日本公司的四个重点之一。微软表示，未来两年将在日本投资29亿美元，以扩大其在日本的AI数据中心规模。津坂美纪认为，网络安全是另一个关键优先事项，因为“没有安全就无法使用AI”。微软与日本国家和地方政府以及企业密切合作，确保以负责任和安全的方式部署技术。尽管如此，她仍认为AI是科技领域不可避免的革命性部分，并表示：“当互联网出现时，我们都惊叹不已，现在，手机已经成为我们身体的一部分。但我认为，生成式人工智能是一场超越所有这些的技术革命。” 原文：微软日本总裁：正加速AI应用 看好日本数字化发展潜力

IBM和日本研究所开发下一代量子计算机 拥有10000个量子比特

摘要：日本政府支持的技术研究所将与IBM合作开发下一代量子计算机。日本国家先进工业科学技术研究所（AIST）和IBM的目标是开发一台拥有10000个量子比特的量子计算机，这将是当前量子计算机的75倍。在量子计算中，量子比特是信息的基本单位——就像传统计算机中的二进制位一样——并且可以大致了解性能。目前最先进的量子计算机有133个量子比特。 量子计算机以解决传统计算机无法解决的复杂问题而闻名。它们有望帮助发现新药，通过更高效的分销路线改善物流，以及许多其他应用。该研究所和IBM预计将在未来几天签署谅解备忘录并宣布这笔交易。据该研究所称，这将是IBM首次与外国研究机构在如此大规模的量子计算领域展开合作。正在开发的量子计算机预计将于2029年投入使用。该计算机拥有超过10000个量子比特，有望无误地计算高级组合。合作伙伴还将开发下一代量子计算机所需的半导体和超导集成电路。量子计算机在接近绝对零度的极低温度下运行，因此需要能够承受极端温度的半导体和电路。该研究所隶属于日本经济产业省，以其在人工智能（AI）相关技术方面的实力而闻名，并拥有与IBM合作项目所需的专利。它还希望引入日本零部件制造商，实现量产。IBM预计将在2025年开始销售拥有1000量子比特的量子计算机。该研究所和IBM将说服日本公司使用它们。该研究所将通过培训日本公司使用量子计算机做出贡献，例如制药商。量子计算机仍处于发展阶段。现有的133量子比特的量子计算机仍然会出错，在研究中使用时通常需要超级计算机的帮助。预计10000量子比特的版本无需超级计算机的帮助即可使用。科学家表示，要使量子计算机投入商业使用，硬件需要达到20000到30000个量子比特的水平。 原文：IBM和日本研究所开发下一代量子计算机 拥有10000个量子比特

武汉理工大学研制出安全、快充、低成本的水系锌离子电池

摘要：6月14日，麦立强教授团队与合作者在国际顶级期刊《Nature Catalysis》上发表高水平研究论文，提出了一种基于锌离子介导催化作用实现超快充电池的新机制，研制出超高功率、本质安全的水系锌离子电池，为下一代超快充电池的开发应用提供了新的理论基础和技术路径。 这是我校首次以第一完成单位在《Nature Catalysis》上发表的高水平研究论文。我校麦立强教授、新西兰奥克兰大学王子运教授、美国阿贡国家实验室Khalil Amine院士、浙江大学陆俊教授为共同通讯作者，我校2023届博士戴宇航、2020届硕士陆瑞虎、2021届本科生张成翼及2018届博士李坚涛为共同第一作者。高性能电化学储能器件是我国电动汽车、人工智能、智能电网等战略性新兴产业的重大需求，也是实现我国双碳目标的重要支撑。水系锌离子电池是一种以水作为电解液的电池，具有安全、快充、成本低廉和环境友好等突出优势，是一项极具应用前景的新型储能技术。传统离子穿梭模型反应速率受限于菲克第二定律的极限，难以实现倍率性能的突破。针对上述国际难题，团队创新性提出离子介导催化存储理论，发现调控电极材料和电解液中的阳离子对溶剂鞘层水的吸附会显著影响水裂解的反应速率和产物，远超传统电池的反应速率，不仅合理解释了水系锌离子电池的快充性能反常，更提供了不同于传统离子穿梭模型的新机制。团队通过三维多孔石墨烯气凝胶限域氮化钒纳米簇，实现了催化模型预测的超快充和超高倍率性能——在300 A g-1的高电流密度下电池比容量达到577.1 mAh g-1。该研究不仅为电池快充技术提供了新的理论依据，更为促进材料科学、电化学、储能科学、能源转化科学的交叉融合提供了新的研究范式。水系锌离子电池的性能反常及锌离子介导的催化作用实现超快充的机理示意图麦立强，学校教授，博导，副校长，长期从事新能源材料与器件科学技术及应用研究，构筑了国际上第一个单根纳米线器件电子/离子输运原位表征的普适新模型，建立了调控电化学反应动力学的“麦-晏”场效应储能等电子/离子双连续输运理论，突破了储能材料与器件的批量化制备技术，并实现成果转化与应用。以第一完成人获国家自然科学二等奖、何梁何利基金科学与技术创新奖等。本文第一作者戴宇航2014年考入武汉理工大学，大一开始进入麦立强教授团队开展储能材料与器件研究。以第一作者身份在Nature Catal.、Adv. Mater.、Angew. Chem. Int. Ed.等高水平期刊发表SCI论文8篇。获第十五届“挑战杯”全国大学生课外学术科技作品竞赛一等奖、第七届中国国际“互联网+”大学生创新创业大赛全国金奖、博士研究生国家奖学金。博士期间，派往UCL进行联合培养。2023年博士毕业后，在牛津大学开展博士后研究。 原文：武汉理工大学研制出安全、快充、低成本的水系锌离子电池