美国加州AI法案获通过 李飞飞等人强烈反对

摘要：北京时间8月16日，饱受争议的美国加州《前沿AI模型安全创新法案》（后称加州AI安全法案SB 1047）在大幅度削弱相关条款之后，最终顺利通过加州众议院拨款委员会的审核。加州参议员维纳团队向TechCrunch表示，该法案增加了 AI 公司 Anthropic 和其他反对者提出的几项修正案，最终在加州拨款委员会获得通过，朝着成为法律迈出了重要一步，其中进行了几项关键修改。 “我们接受了提议的一系列非常合理的修正案，我相信我们已经解决了 Anthropic 和业内许多其他人表达的核心担忧，”维纳参议员在声明中表示。“这些修正案建立在我之前对 SB 1047 做出的重大修改的基础上，以适应开源社区的独特需求，而开源社区是创新的重要源泉。”SB 1047 仍旨在通过追究开发者的责任来防止大型 AI 系统造成大量人员死亡或造成损失超过 5 亿美元的网络安全事件。然而，该法案现在赋予加州政府更少的追究 AI 实验室责任的权力。而在国家层面监管法律难产的困局中，这成为了美国在AI监管上迈出的重要一步。但是，李飞飞、杨立昆等AI行业部分人士认为，这最终将会损害加州乃至美国在AI领域的领先地位。数百名创业者签署了孵化器YC撰写的反对信，加州的100多位学界人士也发文反对，风投机构a16z专门建立网站细数法案六宗罪。目前，美国各地都在讨论许多 AI 法案，但加州的《前沿人工智能模型安全创新法案》已成为最具争议的法案之一。对国内企业来说，法案要求云服务提供商收集客户信息、IP地址、支付方式等信息，这便利了监管部门的溯源工作。若后续管制进一步收紧，这可能会成为部分使用海外算力进行训练的中国AI企业面临的监管风险。那么如今，加州AI法案获得通过，对于中美 AI 行业影响几何？钛媒体AGI梳理六个问题和回答，解释这一法案和背后一些信息。一、加州 AI 法案有哪些新的约束？主要起什么作用？加州 AI 法案SB 1047试图防止大型 AI 模型被用于对人类造成“严重伤害”。该法案列举了“严重危害”的例子。例如，不良行为者使用 AI 模型制造武器，造成大量人员伤亡，或指示 AI 模型策划网络攻击，造成超过 5 亿美元的损失（相比之下，CrowdStrike 中断估计造成的损失超过50 亿美元）。该法案要求开发者（即开发模型的公司）实施足够的安全协议，以防止此类后果。SB 1047的规则只适用于世界上最大的 AI 模型：成本至少为 1 亿美元，训练期间使用 10^26 FLOPS 的模型——这是巨大的计算量，但 OpenAI 首席执行官 Sam Altman 表示，GPT-4 的训练成本大约是这么多。这些门槛可以根据需要提高。目前，很少有公司开发出足够大的公共 AI 产品来满足这些要求，但 OpenAI、Google和微软等科技巨头可能很快就会这样做。AI 模型（本质上是识别和预测数据模式的大型统计引擎）通常随着规模的扩大而变得更加准确，许多人预计这一趋势将持续下去。马克·扎克伯格最近表示，下一代 Meta 的 Llama 将需要 10 倍以上的计算能力，这将使其受到 SB 1047 的管辖。最值得注意的是，该法案不再允许加州总检察长在灾难事件发生前起诉 AI 智能公司疏忽安全措施。这是 Anthropic 提出的建议。相反，加州总检察长可以寻求禁令救济，要求公司停止其认为危险的某项操作，并且如果 AI 模型确实导致了灾难性事件，加州总检察长仍然可以起诉 AI 开发商。二、谁来执行法案？如何执行？目前新的加州 AI 法案已经宣布，不再设立前沿模型部门 (FMD)机构。但是，该法案仍然设立了前沿模型委员会——FMD 的核心——并将其置于现有的政府运营机构内。事实上，该委员会现在规模更大，有9人而不是5人。前沿模型委员会仍将为涵盖的模型设定计算阈值，发布安全指南并为审计人员发布法规。修正后的法案最大的调整是，不再允许加州总检察长在灾难性事件发生前起诉AI企业忽视安全问题的行为。原有法案规定，只要审计员发现AI企业在日常运营中存在违法行为，企业就有可能被起诉。这标志着法案的监管重点转变为实际危害，也将减轻企业的合规压力。最后，该法案还规定，如果模型公司内部员工试图向加州总检察长披露有关不安全的 AI 模型的信息，则将为员工提供举报人保护。多数美国科技企业和AI创企都在加州运营，将受该法案约束。具体来看，这一法案主要关注“前沿AI模型”，只有训练模型算力成本超1亿美元的开发商才会面临监管要求，现有模型均不在监管范围内。未来Llama 4和GPT-5或许会是其主要监管对象。三、违法行为如何惩罚？罚款1000万美元起，可判决关闭或删除模型法案显示，模型开发公司的首席技术官必须向 FMD 提交年度认证，评估其 AI 模型的潜在风险、其安全协议的有效性以及公司如何遵守 SB 1047 的描述。与违规通知类似，如果发生“AI 安全事件”，开发商必须在了解事件后 72 小时内向 FMD 报告。如果开发者未能遵守任何这些规定，SB 1047 允许加州总检察长对开发者提起民事诉讼。对于一个花费 1 亿美元训练的模型，第一次违规的罚款可能高达 1000 万美元，后续违规的罚款高达 3000 万美元。随着 AI 模型变得越来越昂贵，罚款率也会随之增加。一旦出现违法行为，企业可能面临1000万-3000万美元不等的罚款，这一金额还将随着模型训练成本的增加水涨船高。另外，若模型开发商和计算集群运营者无法遵守上述规定，并造成巨大危害，若判定确实存在违法行为，法院可能会判处下类处罚：1、针对2026年及之后的违法行为，首次违法的实体将被处以云计算市场训练范围内模型平均成本10%以内的罚款，对于后续违法行为，罚款金额不超过这一成本的30%（按法案中对范围内模型定义的1亿美元门槛计算，首次违法的罚款至少为1000万美元）。2、法院还可宣布采取禁令，包括但不限于修改、全面关闭或删除范围内模型及其开发商所控制的所有衍生品。不过，修改、关闭和删除范围内模型的处罚，仅在其造成他人死亡、严重人身伤害、财产损失或严重的公共安全威胁时才可使用。四、谁在反对法案？为何反对？尽管该法案遭到了美国国会议员、知名 AI 研究人员、大型科技公司和风险投资家的强烈反对，但它还是相对轻松地在加州立法机构获得了通过。这些修正案可能会安抚 SB 1047 的反对者，并为州长纽森提供一份争议较少的法案，他可以在不失去 AI 行业支持的情况下签署成为法律。如今，越来越多的科技人士反对加州 AI 法案。Anthropic方面表示，它正在审查 SB 1047 的变更，然后再做出决定。此前该公司的修订建议并非全部都被维纳参议员采纳。知名风投机构a16z则在官网列出他们眼中加州AI安全法案的“6宗罪”：该法案将对加州的AI投资和发展带来寒蝉效应。该法案依照并不明确的结果对开发者/开发商进行处罚。相关测试尚不存在。该法案模糊的定义加上严格的法律责任，给AI开发商和企业主带来了巨大的不确定性和经济风险。该法案可能迫使AI研究转入地下，无意中降低AI系统的安全性。该法案对开源和初创企业开发者们造成了系统性的不利，而他们是加州创新和小微企业的核心。该法案抑制了美国的AI研究与创新，给中国等国家在AI方面超过美国提供了机会。a16z创始合伙人安德里森·霍洛维茨（Andreessen Horowitz)认为，加州 AI 法案虽出于好意，但因误导可能会削弱美国科技产业，正当技术未来正处于关键十字路口之时。美国需要领导者认识到，现在是采取明智且统一的 AI 监管行动的关键时刻。斯坦福大学教授李飞飞则在《财富》杂志网站上发文详细解释反对理由，认为这一法案的主要问题有4点：过度惩罚开发者，因此有可能扼杀创新；“终止开关”将束缚开源开发工作，摧毁开源社区；削弱学术界和公共部门的AI研究，还有可能阻碍学术界获得更多资金；并未解决AI进步带来的潜在危害，如偏见或深度伪造问题。此外，YC孵化器支持的数百家创企联名认为，这一法案可能会对行业和开发者生态带来四个负面影响：法案应惩罚滥用工具者，而非开发者。开发者往往难以预测模型的可能应用，伪证罪的设定让开发者可能因此入狱。监管门槛无法充分捕捉技术发展的动态。非加州公司将能更自由地发展AI技术，这可能影响加州的创新。“Kill Switch（指开发商关闭模型的能力）”可能会禁止开源AI的开发，抑制了开源的协作性和透明度。法案的表述较为模糊，很可能被法官随意解释。Meta首席科学家、2018年图灵奖得主杨立昆（Yann LeCun）也反对这一法案，他担忧如果未能准确评估范围内模型的风险，其中的连带责任条款已经表明，开源平台可能需要承担责任。斯坦福大学计算机科学系和电气工程系的客座教授吴恩达（Andrew Ng）发文指出，美国加州SB-1047法案将扼杀开源大模型发展。法案应该监管的是AI应用程序而不是大模型本身。他仍然认为美国加州拟定的SB 1047法案对开源大模型带来的巨大伤害感到震惊。这个法案犯了一个严重根本性错误，应该监管的是通过大模型开发的生成式AI产品，而不是开源大模型本身。吴恩达还认为，SB 1047法案要求开发人员保护开源大模型的乱用、修改以及开发非法的衍生成式AI产品。但开发人员应该如何保护、如何界定这些行为还非常模糊，没有一个详细的条例。所以，吴恩达强烈呼吁大家来抵制SB 1047法案，他认为真的要是通过了将会对开源大模型的创新带来毁灭性打击，同时加州也会失去AI创新的动力。五、谁在支持法案？为何要支持？相对于反对声音，目前也有部分科技人士对于加州 AI 法案持有支持意见的。其中，虽然加州州长纽森尚未公开评论 SB 1047，但他此前曾表示致力于加州的 AI 创新。同时，图灵奖得主、“AI教父”杰弗里·辛顿（Geoffrey Hinton），图灵奖得主约书亚·本吉奥（Yoshua Bengio），哈佛大学法学院教授劳伦斯·莱西格（Lawrence Lessig）和广受欢迎的AI教科书《人工智能：现代方法》作者、加州大学伯克利分校教授斯图亚特·拉塞尔（Stuart Russell）联名写信给加州立法机构，表达他们对加州AI安全法案的“强力支持”。这4位学者指出，他们对AI风险深感担忧，而加州的AI安全法案是有效监管该技术的最低要求。“法案没有许可证制度，不要求公司在培训或部署模型之前获得政府机构的许可。它依赖于公司对风险的自我评估，甚至在发生灾难时也不要求公司承担严格的责任。相对于我们面临的风险，这是一项非常宽松的立法。目前监管AI的法律还没有监管三明治店的严格，取消该法案的基本性措施将是一个历史性的错误——1年后，当下一代更为强大的AI系统发布时，这一错误将变得更加明显。”“四十年前，当我在训练 ChatGPT 等工具背后的第一版 AI 算法时，包括我自己在内，没有人会预测到 AI 会取得如此大的进步。强大的 AI 系统带来了令人难以置信的希望，但风险也非常真实，应该非常认真地对待。SB 1047采取了一种非常明智的方法来平衡这些担忧。我仍然对 AI 通过改进科学和医学来拯救生命的潜力充满热情，但我们必须制定真正有力的立法来应对风险。加州是这项技术的起点，因为它是这项技术的起飞之地。”辛顿表示。四位学者还在信中强调，不论这些风险是杞人忧天还是真实存在，相关方都有必要承担减轻风险的责任。而“作为最了解这些系统的一群专家”，他们认为这些风险是可能存在并且足够重大的，我们有必要对此进行安全测试和常识性的预防措施。加州参议员斯科特·维纳 (Scott Wiener) 是该法案的起草人，他表示，SB 1047 旨在吸取过去社交媒体和数据隐私政策失败的教训，在为时已晚之前保护公民的安全。“我们对待科技的态度是，等待危害发生，然后束手无策，”维纳说。“我们不要等着坏事发生。我们要抢在它之前采取行动。”开发者不会因无法预测模型风险而入狱。首先，初创企业开发者和学界不必担心，因为法案不适用于他们。其次，法案中的伪证罪条款仅仅在开发者“故意”做出虚假陈述时才会生效，对模型能力无心的错误评判不会触发伪证罪条款（该条款已在今天修正案中被删除）。法案并未带来全新的责任。在现有的法律下，如果模型造成伤害，模型开发商和个人开发者都有可能被起诉，并且适用于所有能力的模型，所有受伤害的个体都可起诉。加州的新法案不仅限制了监管范围，还将起诉的权利限制在加州总检察长和劳工委员会两个实体上。法案不会扼杀加州创新。该法案适用于所有在加州开展业务的企业，即便他们将总部挪出加州，也应该遵守相关规定（智东西注：加州按GDP计算是世界第5大经济体，具备完整的科技生态，科技企业很难与加州脱钩）。当加州通过数据隐私法、环境保护法时，有许多人宣称这将阻碍创新，但事实是加州目前仍然在引领创新。终止开关与安全评估要求不会阻碍开源AI的开发。法案目前已经修改并加强了对开源AI的保护。法案中对模型紧急停机的要求仅仅适用于开发人员控制范围内的模型，不包括不受控制的开源模型。法案还建立了一个新的咨询委员会，以倡导和支持安全可靠的开源AI开发工作。根据法案，即使一家公司在德克萨斯州或法国训练了价值 1 亿美元的模型，只要它在加利福尼亚州开展业务，它就会受到 SB 1047 的保护。维纳表示，国会“在过去 25 年里几乎没有制定任何有关技术的立法”，因此他认为加利福尼亚州应该在这里开创先例。人工智能安全中心主任 Dan Hendrycks表示：“这一法案符合加州乃至美国产业的长期利益，因为重大安全事故可能是进一步发展的最大障碍。”多名OpenAI前员工也支持这一法案，包括主动放弃OpenAI期权从而换取自由批评OpenAI公司权利的丹尼尔·科科塔约洛（Daniel Kokotajlo）。他认为，法案批评者称AI进步会停滞的说法大概率不会发生。估值百亿美金的AI独角兽Notion创始人西蒙·拉斯特（Simon Last）撰文称，他支持法案，认为在联邦级AI法律难产的情况下，加州作为全美乃至全球的科技中心，背负着重要的责任。他认为对模型的监管，在提升其安全性的同时也便利了在基础模型上构建产品的AI创企，这将减轻中小企业的负担。人工智能安全行动基金中心高级政策顾问 Nathan Calvin 表示：“SB 1047 的目标是——并且一直是——提高 AI 安全性，同时仍允许整个生态系统进行创新。新的修正案将支持这一目标。”六、下一步如何发展？SB 1047 法案现在将提交加州议会进行最终表决。如果该法案在议会获得通过，由于最新的修正案，该法案将需要交回加州参议院进行表决。如果该法案同时获得通过，它将被提交到加州州长纽森的办公桌上，他将在 8 月底之前最终决定是否签署该法案。维纳表示，他尚未与纽森谈过该法案，也不知道他的立场。 原文：https://m.cnbeta.com.tw/view/1442484.htm

美国政府根据芯片法向德州仪器提供46亿美元补贴及贷款

摘要：美国政府旨在促进本国半导体制造业发展的计划再次批出大笔款项，拜登政府周五宣布，将根据《芯片法》向德州仪器提供16亿美元拨款和30亿美元贷款。 美国商务部在一份声明中表示，这笔资金将用于帮助支付犹他州的一家工厂和德克萨斯州的两家工厂，上述项目到2029年底将耗资约180亿美元，预计将创造大约2，000个制造业就业岗位和数以千计建筑业就业岗位。德州仪器计划在这两个州总共投资约400亿美元，其中包括在德克萨斯州谢尔曼的另外两家工厂。德州仪器生产各种各样的芯片并在半导体行业拥有最大的客户群。除了获得补贴和贷款外，预计该公司还将受益于《2022芯片和科学法》的25%税收抵免。该公司在一份声明中表示，这可能相当于60亿至80亿美元。 原文：https://m.cnbeta.com.tw/view/1442480.htm

徐峥回应《逆行人生》“消费苦难”争议

摘要：由徐峥自导自演的电影《逆行人生》正在上映中，目前累计票房约2.6亿。上映以来，《逆行人生》一直处于“消费苦难”的争议之中。日前，徐峥在路演过程中对“消费苦难”的争议做出回应。 徐峥表示：“现在做电影我觉得好难，因为拍一部电影没办法让所有人都满意。看完电影以后，每个人的感受是不一样的，不同的观众会看到不同的细节，不同的观众有不同的期待。但如果没看电影直接喷，这样对一部电影来说不太公平。”《逆行人生》讲述曾经意气风发的高志垒(徐峥 饰)在生活的重压下，中年“失速”偏离了原本的生活轨迹，一时意气用事的决定，让他瞬间从家人的“小骄傲”变成了社会的“边角料”。然而，他未曾料到，这仅是他“逆行人生”道路上的起点。接连不断的变故如疾风骤雨般袭来，迫使他不得不重新面对自我。当生活的重担真正压肩，他选择成为一名外卖员，从新的起点重新出发，穿梭于都市大街小巷的高志垒在路上结识了一众志同道合的“骑士”伙伴，在共度的时光里他深切的体会到了人间的冷暖真情，逐渐在这条充满磨砺的“逆行道”中找回曾经丢失的勇气与信念，重新定义人生新的方向。 原文：https://m.cnbeta.com.tw/view/1442482.htm

AMD扩大“Sinkclose”漏洞修复范围 Ryzen 3000系列处理器也将获得补丁

摘要：最近AMD遇到了一个麻烦，处理器被曝出存在“Sinkclose”漏洞，几乎影响了所有自2006年以来发布的处理器。其允许攻击者深入渗透系统，从而使检测或删除恶意软件变得极其困难。这属于重大安全问题，在某些情况下，放弃受感染的设备可能比修复来得更容易。只是在这18年里，该漏洞一直没有被发现，很可能也没有被使用过。 AMD的安全团队已经开始提供修复该漏洞，不过由于超出了产品软件支持的周期，初期并没有为Ryzen 3000系列及Ryzen Threadripper 2000系列或更早之前型号提供修复计划。现在情况似乎发生了一些变化，根据AMD最新公布的信息，将扩大“Sinkclose”漏洞修复范围，消费端的Ryzen 3000系列处理器也将获得补丁，时间是2024年8月20日。虽然比起Ryzen 4000/5000/7000/8000系列（在2024年7月3日至8月7日之间已陆续提供了补丁）要晚一些，但是这种做法仍然值得称赞，毕竟现阶段使用Ryzen 3000系列的存量用户还有很多，这些处理器仍然有着不错的性能表现。“Sinkclose”漏洞允许黑客在AMD处理器的系统管理模式（SMM）中执行代码，这是一个通常为关键固件操作保留的高特权区域。要利用此漏洞，攻击者必须首先获得对系统内核的访问权限。一旦这种访问得到保护，“Sinkclose”漏洞就允许黑客安装bootkit类型的恶意软件，可以逃避标准防病毒工具的检测，在系统中几乎不可见，即使用户重新安装操作系统后也有可能仍然存在。 原文：https://m.cnbeta.com.tw/view/1442481.htm

新一轮汽车以旧换新细则出台：补贴翻倍 发过的补齐差额

摘要：商务部等7部门印发《关于进一步做好汽车以旧换新有关工作的通知》，《通知》明确指出，提高报废更新补贴标准。对符合《补贴实施细则》规定的个人消费者，于2024年4月24日（含当日，下同）至2024年12月31日期间。 报废国三及以下排放标准燃油乘用车或2018年4月30日前注册登记的新能源乘用车，并购买纳入工业和信息化部《减免车辆购置税的新能源汽车车型目录》的新能源乘用车或2.0升及以下排量燃油乘用车的，调整补贴标准，具体如下：对报废上述两类旧车并购买新能源乘用车的，补贴2万元（此前补贴1万元）；对报废国三及以下排放标准燃油乘用车并购买2.0升及以下排量燃油乘用车的，补贴1.5万元（此前补贴7000元）。对2024年4月24日至2025年1月10日前提交的符合条件的补贴申请（含完成补贴发放的申请），均按本通知明确的标准予以补贴。其中，对已按此前标准发放的补贴申请，各地按本通知明确的标准补齐差额。此外，需要注意的是，参加申请补贴的报废汽车所有人和新购置汽车所有人应为同一个人消费者。报废车辆需在2024年7月25日前，就登记在申请人名下；并且，在补贴申请审核期间，其所新购置的汽车也应登记在申请人名下。 原文：https://m.cnbeta.com.tw/view/1442476.htm

研究发现大脑可存储三份记忆副本

摘要：一项研究发现，就像一台内置冗余的计算机系统一样，大脑使用三组不同的神经元来存储一段记忆。这一发现有朝一日可以帮助遭受创伤的人缓和痛苦的记忆。巴塞尔大学生物中心（Biozentrum）的研究人员通过对小鼠大脑成像，观察了新记忆形成时发生的情况。 他们发现，啮齿动物的大脑会调用三组不同的神经元来记录记忆。第一组被称为早产神经元，是胎儿成长过程中最早发育的神经元。另一端是晚生神经元，它们出现在胚胎发育的后期。介于两者之间的是在子宫内生长中期形成的神经元。成像研究显示，当新记忆存储在早期出生的神经元中时，最初很难检索，但随着时间的推移，记忆会变得越来越强。另一方面，存储在晚生神经元中的记忆副本一开始非常强大，但随着时间的推移逐渐减弱，以至于最终无法被大脑获取。在中间神经元组中，记忆副本比其他神经元组显示出更高的稳定性。小鼠海马体的横截面显示了洋红色的早期神经元，它们负责创建记忆的持久副本。"大脑记忆面临的挑战令人印象深刻，"生物中心研究小组负责人弗拉维奥-多纳托（Flavio Donato）说。"一方面，大脑必须记住过去发生的事情，帮助我们理解我们生活的世界。另一方面，它需要适应我们周围发生的变化，我们的记忆也必须如此，以帮助我们为未来做出适当的选择"。有了新的认识，研究人员能够更深入地研究记忆是如何形成和获取的。这里有必要提一下，虽然这项研究是在小鼠身上进行的，但在神经科学领域，小鼠的大脑经常被用来代替我们的大脑，因为它们的大脑皮层有 75 种不同的细胞类型，这与人类是一样的。但目前的结果仍然是针对小鼠的。尽管如此，研究人员认为，他们的工作可能会对治疗因创伤事件而受损的人产生影响，这显示了如何改变大脑中的记忆。例如，如果记忆是新鲜的，即晚生神经元被激活，那么在传给中生神经元和早生神经元储存之前，记忆仍然可以被改变。但一旦晚生神经元被激活，记忆被储存在那里，就越来越难以修改。基本上，记忆在大脑中储存的时间越长，就越难改变。该研究的第一作者维尔德-克维姆（Vilde Kveim）说："记忆在大脑中的动态存储方式证明了大脑的可塑性，而这种可塑性正是大脑巨大记忆能力的基础。"通过克维姆和他的团队所做的工作来了解这种可塑性，有朝一日可以帮助科学家们了解如何帮助人们获取他们认为已经永远失去的记忆，或平息以病态方式侵扰日常生活的痛苦记忆。该团队的研究成果已发表在《科学》杂志上。 原文：https://m.cnbeta.com.tw/view/1442479.htm