OpenAI又上演“权力的游戏”

摘要：伟大的技术、产品公司，有时会折戟于管理。就好比巅峰期的雅达利因质量品控体系松弛而崩溃。技术和管理到底能否兼具？类似的考题，被摆在OpenAI面前。5月15日，GPT-4o发布后仅一天，OpenAI再次成为了万众瞩目的焦点。不过与此前的技术突破不同，此次OpenAI的话题点在于，开始其首席科学家Ilya和超级对齐团队的集体出走。 此前，超级对齐团队曾拥有OpenAI20%的算力资源。因此难免让人怀疑，此次OpenAI短时间、大规模的人事变动是否是其发展战略变动的前哨？分歧已久OpenAI内部的分歧存在已久，在去年11月的“宫斗”事件中早已公之于众。此次Ilya Sutskever等一行人的出走，可以看作是历史矛盾的延续。Ilya辞职前，OpenAI内部最大的分歧之一在于对AI安全问题的态度上。科技巨头和初创公司的互卷下，AI技术研发在快车道上一往直前，AGI时代离我们也越来越近。有人认为“OpenAI正在训练更强大的AI系统，目标是最终全面超越人类智能”。未知的全新力量下蕴藏着未知的风险。用前员工的一句话讲，这可能是人类有史以来发生过的最好的事情，但如果我们不小心行事，也可能是最糟糕的事情。当前的AI监管主要集中于“评估风险和采取缓解措施”的组合上，这种组合很容易被大型公司钻空子，最终反而疏于了对最需要被监管的前型AI实验室的监管。超级对齐团队解散前，对于不同时间尺度的AI风险，OpenAI有三个团队来分别应对。“对齐”或“超级对齐”是人工智能领域中使用的术语，指训练人工智能系统在人类需求和优先事项范围内运行的工作。2023年6月5日，超级对齐AI团队首次对外宣布成立。这支团队的使命旨在“解决如果公司成功构建AGI，实际上会出现不同类型的安全问题”——也就是AI智能水平不断提高后未来可能出现的安全问题。师从人工智能教父Geoffray Hinton的Ilya是坚持安全第一的安全派。2016年，Ilya以联合创始人、研究总监的身份加入OpenAI，并于2018年担任首席科学家。研发期间，Ilya一直在关注AI大模型的安全问题。Sam Altman则是商业派，致力于开发“更闪亮的产品”，与Google等竞争对手的卯足了劲较量。在他看来，AGI的安全治理问题优先级远远不如推出“闪亮的产品”。虽然Altman在采访中屡次表示对安全问题的重视，但就实际操作而言，算力资源的天平在不断向着研发的一侧倾斜。对于Altman来说，相对于未来态的安全治理，如何加足马力在当前的这场AI竞赛中拔得头筹显然更为重要。对此，OpenAI的前员工、超级对齐成员之一William Saunders在Less Wrong论坛上表示，对OpenAI能否在AGI时代负责任的行动失去了信心。William Saunders并非个例。对OpenAI未来AGI安全部署工作的失望成为超级对其团队不少人离开的关键要素。不少人认为，Ilya出走很可能是已经看到了AGI的安全隐患。OpenAI“权力的游戏”还有几季？在技术驱动的进步面纱下，未来安全团队被迫“重组”。事实上，OpenAI在安全方面的人事一直在不断“跳跃”。2021年，GPT-3的团队负责人Dario和Daniela Amodei因“对安全研究的优先次序”存在分歧而辞职，转身创办了Anthropic。同年，RLHF的发明者兼安全研究主管Dr.Paul Christiano从安全团队中辞职，创办了一个非盈利性的校准研究中心。2023年11月，OpenAI围绕安全问题爆发宫斗，Sam Altman在被撤职100小时后重返OpenAI。2024年，这场“权力的游戏”继续上演。2024年2月15日，安全研究员 William Saunders 在 EA 论坛上总结了自己在 OpenAI 作为超级对齐团队一部分的工作。表示已从OpenAI辞职。3月17日，Jan Leike 离职。Jan Leike参与开发了ChatGPT的核心技术之一——人类反馈强化学习RLHF，在其加入OpenAI后，从代码大模型Codex、ChatGPT的前身InstrucGPT，到ChatGPT、GPT-4，他都是重要贡献者。4月，Daniel Kokotajlo在拒绝签署离职协议的情况下辞职，并在此后的媒体采访中公开表示“OpenAI正在训练更强大的AI系统，目标是最终全面超越人类智能。”，自己已经“逐渐对OpenAO领导层以及他们负责地处理AGI的能力失去了信心”。4月11日，安全团队的Leopold Aschenbrenner与推理团队的Pavel Izmailov因涉嫌信息泄密而被开除。安全研究员 Cullen O'Keefe 也离开了OpenAI。5月15日，OpenAI的联合创始人及首席科学家Ilya宣布离职，并在社交平台X上表示自己将开启“接下来的计划——这个项目对我个人来说意义重大，我会在适当的时候分享细节。”Ilya宣布离开几小时后，Ilya的同事，OpenAI超级对齐团队联合主管Jan Leike光速宣布辞职，在X上留下两个字母：I resigned。Leike 自2021 年加入 OpenAI，并于2023年开始领导超级对齐团队。在此后几天，Jan Leike陆续在X上揭开此次出走的“内幕”：“我与 OpenAI 领导层在公司的核心优先事项上存在分歧已有一段时间，直到我们最终达到了临界点”“过去几个月，我的团队一直在逆风前行”“建造比人类更聪明的机器本质上是一项危险的工作……但在过去的几年里，安全文化和流程已经让位于闪亮的产品”。他认为OpenAI“应该把更多的精力花在为下一代模型做准备上，包括安全性、监控、准备、安全、对抗鲁棒性、（超级）对齐、保密性、社会影响和相关主题，这些问题很难解决，我担心我们还没有走上正确的轨道。”超级对齐成员之一William Saunders，以及参与过GPT-4对抗性测试的Daniel Kokotajlo，此前两人均已离开OpenAI。在诸多离职的人中，Daniel Kokotajlo和Jan Leike属于敢直接批判OpenAI在安全领域和发展方向存在问题的“特殊群体”。个中原因很可能是OpenAI的“封口协议”。根据OpenAI前员工Kelsey Piper 爆料，OpenAI的员工需签署一份带有非贬低协议的离职协议，如果拒绝签署，其拿到的股权获益将被取消。而Daniel Kokotajlo则拒绝签署这一协议。在Sutskever和Leike 退出后，OpenAI向CNN 证实，最近几周已开始解散其超级对齐团队，转而整合各个研究小组的团队成员。OpenAI的发言人表示，该结构将帮助 OpenAI 更好地实现其超级对齐目标。事实上，该业务线新的领导者John Schulma此前是负责OpenAI现有产品的安全问题。而将纵向超级对齐团队横向合并也意味着，未来安全把关人在一定程度上的消失。浮世新人换旧人，Sam Altman在社交平台X上表达了对于Ilya离开的遗憾，表示“他走后的OpenAI不再和从前一样”，但旋即又在同一条帖子宣布任命了新的首席科学家JakubPachoki。此外，OpenAI近日还聘请了在Google搜索广告业务工作了多年的资深人士Shivakumar Venkataraman。自此，OpenAI的发展战略阶段性地实现了表面一致——以“党同伐异”的代价。 原文：OpenAI又上演“权力的游戏”

新款Beats Pill扬声器出现在FCC数据库 距离我们越来越近了

摘要：在看到尚未公布的 Beats Pill 扬声器之后，FCC 监管数据库中又出现了一些细节，这表明该产品即将在美国市场推出。对于 Beats 和苹果公司于 2022年停产的扬声器来说，在销售了七年之后，Beats Pill 不断以各种特别版的形式短暂回归。现在看来，这款扬声器肯定会重返 Beats 产品线，而且时间很可能很快。 最新的证据是联邦通信委员会监管网站上的列表。该数据库列出了 FCC 测试期间通常会产生的许多报告，不过苹果公司要求对其他文件保密，其中可能包括显示图表或完整技术说明的文件。在可公开访问的 FCC 数据库中，唯一显示的图表是这个标明监管机构标签位置的图表虽然该设备已通过 FCC 测试，但这并不意味着该产品的推出有任何具体的时间表。不过，如果苹果公司不打算在一段时间内推出产品，那么申请测试是不正常的。此外，在 Beats Pill 发布之前，苹果公司已经向一些名人提供了 Beats Pill，他们现在也在使用这款设备。其中包括勒布朗-詹姆斯（LeBron James）和 F1 名将丹尼尔-里恰尔多（Daniel Ricciardo）。Beats Pill 的回归意义重大，因为该公司目前只销售耳机和耳塞，不销售扬声器。 原文：新款Beats Pill扬声器出现在FCC数据库 距离我们越来越近了

政府律师称苹果无视刚果对冲突材料的指控

摘要：刚果政府的律师称，苹果公司没有回应其关于在iPhone和其他设备中使用冲突矿产的要求，而且刚果政府掌握了对该公司不利的新证据。2024 年 4 月，代表刚果民主共和国（DRC）政府的律师写信给蒂姆-库克，要求他证明苹果公司没有使用从激进组织获利地区开采的矿产。苹果公司此前曾声明没有使用这些矿产，但律师们认为苹果公司的声明不够充分。 阿姆斯特丹律师事务所给了苹果公司三周时间做出回应。但据路透社报道，在信函发出四周后，律师们表示苹果公司"一直保持沉默，既没有回答问题，甚至也没有承认收到函件"。据报道，首席律师罗伯特-阿姆斯特丹（Robert Amsterdam）表示，刚果（金）现在有更多理由向苹果公司追问细节。他说："我们收到了举报人提供的新证据。苹果公司现在比以往任何时候都更迫切需要对我们提出的严重问题做出真正的回答。"目前还没有关于新证据的详细信息。此外，截至发稿时，阿姆斯特丹律师事务所尚未在其网站或社交媒体账户上发表声明。其首席律师罗伯特-阿姆斯特丹（Robert Amsterdam）也没有跟进他之前在博客上发表的相关评论。苹果公司没有对最新声明发表评论。不过，苹果公司此前曾声称，已停止与那些无视从这些地区采购锡、钨和钽的规定的供应商合作。 原文：政府律师称苹果无视刚果对冲突材料的指控

十年烧光百亿元 奇点汽车成老赖

摘要：据企查查App信息显示，奇点汽车的关联公司智车优行科技（上海）有限公司因未支付劳动仲裁案件中的7.9万余元工资差额，被列为失信被执行人。此外，公司及其法定代表人沈海寅被限制高消费。目前，公司未履行的总金额超过1.3亿元。 奇点汽车成立于2014年，由前360副总裁沈海寅创立。2015年发布概念车，2017年推出首款“量产”车型iS6，并宣布将在2018年推出6款纯电车型。同年，奇点宣布其智能新能源汽车产业园落户安徽铜陵，计划投资80亿元，年产能20万辆。然而，新车上市交付时间不断推迟，最终杳无音信。2018年底，奇点汽车开始面临资金链问题，拖欠员工工资，员工借贷和分期付工资的情况频发，导致员工离职潮。2021年起，沈海寅收到多则限制消费令，奇点汽车的经营状况和融资困难使其陷入险境。2023年7月，安徽省铜陵市中级人民法院公告显示，奇点汽车已被申请破产审查。沈海寅曾以互联网思维打造“中国特斯拉”的理念，成功吸引众多明星资本投资，融资总额超过百亿元，但最终，奇点汽车未能实现其宏伟蓝图，反而成为了“老赖”。 原文：十年烧光百亿元 奇点汽车成老赖

微软Windows on ARM ASR自动超分仅限骁龙X Elite AMD/Intel都不行

摘要：微软ASR(自动超分)是一个标准化的游戏超级分辨率性能增强技术，相比于NVIDIA DLSS、AMD FSR、Intel XeSS理论上应该更具普适性，与平台无关才对，但是至少在目前，ASR仅支持基于高通骁龙X Elite处理器的Copilot+ AI PC。 换言之，它目前仅适用于Windows on ARM系统，不得不说微软和高通这次是真爱啊。同时，规格稍低一些的骁龙X Plus都不支持，但不确定是现阶段，还是以后也没有。AMD、Intel这样的x86处理器一律无缘，至于什么时候支持微软可没说，反正两家都有自己的类似技术，微软估计不会着急，除非效果做得更好。游戏方面，ASR的阵容倒是非常丰富，微软在官网上列出了大约1500款。注意微软还有个DirectSR，它就是ASR技术的底层API，面向开发者的，支持在所有硬件上运行。 原文：微软Windows on ARM ASR自动超分仅限骁龙X Elite AMD/Intel都不行

日本知名面包公司承认产品混入老鼠残骸：体长约6厘米的幼崽

摘要：昨日，总部位于名古屋市的敷岛面包公司在其官网发布公告，对近期该公司面包产品中混入老鼠残骸事件进行道歉和说明。据了解，本月初，敷岛面包公司的袋装切片面包产品中被曝混有老鼠残骸，引发舆论关注，随后该公司发表声明称，经调查确认，遭投诉的面包中确实混入老鼠残骸。 最新发布的公告表示，经专业人士鉴定，混入该公司面包产品中的为一只体长约6厘米的老鼠崽，此外，排查过程中在涉事的东京多摩工厂厂房外，发现了鼠洞。公告中提到，在4月份工厂的定期检查中，未发现这一鼠洞，该公司推测认为，老鼠是从鼠洞钻入厂房，并混入了面包生产原料中。该公司表示，已在涉事工厂增设捕鼠和驱鼠设备，防止类似问题再次发生。此外涉事工厂的相关生产线目前处于停止状态，为彻底查明原因并落实防止措施，相关生产线恢复生产的时间目前暂未确定，目前，公司已宣布召回约10.4万袋产品。 原文：日本知名面包公司承认产品混入老鼠残骸：体长约6厘米的幼崽