[评论]OpenAI的漏洞提醒人们 人工智能公司是黑客的宝库

摘要：不必担心你的ChatGPT秘密对话会被最近报道的 OpenAI 系统入侵事件获取。这次黑客攻击本身虽然令人不安，但似乎只是表面现象，但它提醒人们，人工智能公司已经在短时间内将自己变成了黑客们的"富矿"。 OpenAI 前员工利奥波德-阿申布伦纳（Leopold Aschenbrenner）最近在播客中暗示了这次黑客攻击，《纽约时报》随后对此进行了更详细的报道。他称这是一起"重大安全事件"，但不愿透露姓名的公司消息人士告诉《纽约时报》，黑客只进入了一个员工讨论区。任何安全漏洞都不应该被视为小事，窃听 OpenAI 内部开发谈话当然有其价值。但这与黑客获取内部系统、进行中模型、秘密路线图等权限相去甚远。一个简单的事实是，这些人工智能公司已经成为大量非常有价值数据的守门人。让我们来谈谈 OpenAI 以及其他一些人工智能公司创建或获取的三种数据：高质量训练数据、大量用户交互数据和客户数据。目前还不清楚他们到底掌握了哪些培训数据，因为这些公司对他们所掌握的数据保密得令人难以置信。但如果认为它们只是一大堆网络数据，那就大错特错了。是的，他们确实使用了网络采集工具或像"堆"这样的数据集，但要将这些原始数据转化为可用于训练 GPT-4o 这样的模型的数据，却是一项艰巨的任务。要做到这一点，需要耗费大量的人力--只能实现部分自动化。一些机器学习工程师推测，在创建大型语言模型（或任何基于转换器的系统）的所有因素中，最重要的一个因素就是数据集的质量。这就是为什么一个在 Twitter 和 Reddit 上训练出来的模型永远比不上一个在上个世纪所有出版作品上训练出来的模型雄辩的原因。(据报道，OpenAI 在训练数据中使用了版权书籍等有问题的合法来源，而他们声称已经放弃了这种做法）。因此，OpenAI建立的训练数据集对竞争对手，从其他公司到敌对国家，再到美国国内的监管机构，都具有巨大的价值。难道美国联邦贸易委员会或法院不想知道到底使用了哪些数据，以及OpenAI是否如实披露了这些数据吗？但也许更有价值的是 OpenAI 巨大的用户数据宝库--与 ChatGPT 就数十万个话题进行的数十亿次对话。就像搜索数据曾经是了解网络集体心理的关键一样，ChatGPT 也掌握着一个群体的脉搏，这个群体可能没有Google用户那么广泛，但却更有深度。(如果您不知道，除非您选择退出，否则您的对话将被用作训练数据）。就Google而言，"空调"搜索量的上升说明市场正在升温。但是，这些用户并没有就他们想要什么、愿意花多少钱、他们的家是什么样的、他们想要避免的制造商等问题展开讨论。要知道，这一点很有价值，因为Google本身就在试图通过人工智能交互来代替搜索，从而转化用户提供这些信息！想想看，人们与 ChatGPT 进行了多少对话，这些信息有多有用，不仅对人工智能开发人员有用，对营销团队、顾问、分析师......这简直就是一座金矿。最后一类数据可能是公开市场上价值最高的数据：客户如何实际使用人工智能，以及他们自己提供给模型的数据。数以百计的大公司和无数的小公司都在使用 OpenAI 和 Anthropic 的 API 等工具来完成各种各样的任务。为了让语言模型对它们有用，通常必须在它们自己的内部数据库上进行微调，或以其他方式让它们访问自己的内部数据库。这可能是旧的预算表或人事记录（例如，为了使它们更容易被搜索到）这样平淡无奇的东西，也可能是未发布软件的代码这样有价值的东西。他们如何使用人工智能的功能（以及这些功能是否真的有用）是他们自己的事，但一个简单的事实是，人工智能提供商拥有特权访问权，就像任何其他 SaaS 产品一样。这些都是行业机密，而人工智能公司突然成为其中的核心。由于人工智能流程尚未标准化，也未被完全理解，因此这个行业的新领域具有特殊的风险。与任何 SaaS 提供商一样，人工智能公司完全有能力提供行业标准级别的安全、隐私、内部部署选项，并以负责任的态度提供服务。毫无疑问，OpenAI 的财富 500 强客户的私有数据库和 API 调用都被严密封锁！他们肯定也意识到或更清楚在人工智能背景下处理机密数据所固有的风险。(事实上，OpenAI 没有报告这次攻击是他们的选择，但这并不能激发人们对这家迫切需要信任的公司的信任）。但是，良好的安全实践并不能改变它们所要保护的东西的价值，也不能改变恶意行为者和各种对手正张牙舞爪地想要进入的事实。安全不仅仅是选择正确的设置或保持软件更新，当然这些基本要素也很重要。这是一场永无休止的猫捉老鼠游戏 ，具有讽刺意味的是，人工智能本身正在为这场游戏注入新的活力：代理和攻击自动程序正在探查这些公司攻击面的每一个角落和缝隙。我们没有理由恐慌--能够访问大量个人数据或有商业价值数据的公司多年来一直面临并管理着类似的风险。但是，与普通的配置不佳的企业服务器或不负责任的数据经纪人相比，人工智能公司是一个更新、更年轻、更潜在的目标。即使像上述报道的黑客攻击事件，据我们所知并没有严重的数据外泄，也应该让任何与人工智能公司有业务往来的人感到担忧。他们已经成为众矢之的。当任何人，或者说每个人都中招时，不要感到惊讶。相关文章:黑客窃取了OpenAI的人工智能技术细节 但公司对此守口如瓶 原文：https://m.cnbeta.com.tw/view/1437280.htm

X 计划更深入地整合 Grok 的人工智能

摘要：埃隆-马斯克（Elon Musk）的X公司正在探索更多方法，将xAI的Grok整合到社交网络应用中。根据最近的一系列发现，X 正在开发一些新功能，比如向 Grok 询问有关 X 账户的信息，通过突出显示应用程序中的文本来使用 Grok，以及在继续使用 X 的其他部分时通过屏幕一侧的弹出窗口访问 Grok 的聊天机器人。 独立应用研究员 尼玛-欧吉（Nima Owji）最近分享了这一发现。Owji 说，他是在 7 月 5 日星期五在 X 的网站上发现这些新增功能的，但他证实，就他所知，这些功能尚未向公众推出。在一个例子中，Owji 发现，当浏览 X 时，可以通过屏幕右侧的弹出窗口使用 Grok，就像可以通过叠加在屏幕顶部的一个较小窗口，从应用的主屏幕上查看 DM（直接消息）一样。这种形式类似于Google和微软等其他公司在其生产力应用中使用聊天机器人的方式，它们通常在屏幕右侧的侧边栏中提供对人工智能聊天机器人的访问，让人工智能聊天机器人触手可及。这种布局可以让 X 用户更频繁地与 Grok 聊天，包括在应用中发布信息或浏览时间轴时遇到他们想了解的新信息。其他发展表明，Grok 可以成为 X 体验中更深入的一部分。在一个案例中，Owji 发现它被用来研究 X 用户的资料，而在另一个案例中，它被用来搜索你在 X 上的帖子中发现的术语。例如，有一项新功能允许用户点击一个按钮来了解有关 X 账户的更多信息，但目前还不清楚所提供的账户摘要将包括或不包括哪些信息。(据推测，您今天可以向 Grok 询问有关 X 账户的信息，以了解这项即将推出的功能是如何工作的）。也许更有趣的是，只需突出显示 X 帖子中的某个单词，就能搜索 Grok的内置功能。在这种情况下，可以将光标拖过一个（或多个）词，然后点击该词下方的"Ask Grok"按钮，启动聊天机器人的搜索。这样，就可以更方便地向 Grok 询问您在 X 上看到的新闻和信息，或任何其他您想深入了解的话题。X 去年将埃隆-马斯克（Elon Musk）的 Grok 添加到该应用（前身为 Twitter）中，最初是为了提高 Premium Plus 计划的付费订阅量。随着来自 OpenAI 的 ChatGPT、Google的 Gemini 等公司的竞争日趋激烈，X 于今年 3 月将 Grok 的访问权限扩展 至中级高级用户。尽管扩大了可用性，但应用情报公司Appfigures发现，截至 2024 年 5 月，X 的应用内购买收入仍呈下降趋势。数据显示，今年 5 月 X 的净收入为 760 万美元，低于 4 月的 800 万美元和 3 月的 820 万美元。Appfigures 认为，出现这一下降的原因可能是 X 上的创作者被激励发布内容以获得收入，这导致许多创作者为了增加浏览量而频繁发布内容贫乏的内容。该公司还指出，高级订阅价格可能会让一些用户望而却步。X 的竞争对手也比以往任何时候都多，Instagram 的 Threads、Mastodon 等应用以及Bluesky和最近的 noplace 等初创公司都 在开发自己的文字优先社交应用。不过，这可能是因为 X 仍在从更名中恢复，因为用户仍在寻找一款名为"Twitter"的应用。Appfigures 指出，5 月份，X 在 App Store 上的下载量为 300 万次，低于一年前的 440 万次，降幅达 32%。 原文：https://m.cnbeta.com.tw/view/1437279.htm

英伟达估值行至十字路口

摘要：继6月18日登顶全球资本市场市值冠军宝座之后，英伟达未能守住阵地。公司股价震荡回调，市值曾经在三日内蒸发超4300亿美元，英伟达是否熄火的声音萦绕市场。从表层原因来看，高管频频套现、部分投资者获利了结，是英伟达股价下挫的重要诱因。这一点，放在美股频频大量增持和回购这面镜子前，更能看清逻辑。 回购和增持一直是支撑美股尤其是科技股上涨的重要动力。以回购为例，今年以来，苹果、Alphabet等科技龙头都曾批准了数百亿美元甚至上千亿美元的回购方案，减少流通股成为提振股价的催化剂。回购的支持者还包括价值投资的标杆沃伦·巴菲特，伯克希尔哈撒韦公司在今年第一季度斥资26亿美元回购股票。反观英伟达，包括公司CEO黄仁勋、首席财务官等在内的一众高管多次减持，给公司股价带来负面冲击。根据提交给美国证券交易委员会的一份表格，黄仁勋在6月28日~7月2日出售股票获利约1.69亿美元，出售股票价格在118.98美元至127.66美元之间。从目前多数机构判断来看，对这种回调的定性为“健康调整”。英伟达营收的快速增长、健康的现金流，以及利润增长，这些都是支撑股价大幅上涨的坚实后盾。更大的底盘则在于产业地位。目前，英伟达在数据中心的AI芯片市场约占80%的份额，像OpenAI、微软、Alphabet、亚马逊、Meta等科技巨头都在争抢其处理器以支持他们的AI模型。英伟达这种近乎垄断的市场地位，比当初乔布斯发布iPhone 4时的市占率更夸张。但也确实有越来越多的市场参与方在提防AI狂欢后的落寞。以历史视角为标尺，2000年前后的互联网泡沫时期，主营通信设备的思科，股价也是从2.27美元左右涨到80美元，涨幅接近34倍。虽然从基本面来看，思科业绩确实也保持了高增长；但是之后连续数年持续大跌，股价腰斩，互联网泡沫破灭，最终迎来估值回归。从最高超过43倍的股价涨幅来判断的话，英伟达的股价增幅已经超越互联网科技泡沫时期的任何美国公司。AI泡沫是否也有破灭时刻，至少是回归理性时刻，也成为市场越来越关心的话题。这也是包括“木头姐”凯茜·伍德等在内的华尔街明星投资人所担忧的方面。从产业逻辑也可以看出，英伟达估值正在走向十字路口。垄断往往既是暴利的源头，也是颠覆的起点。一方面有来自反垄断调查的预期，甚至会否面临类似标准石油公司一样的拆分命运，尚未可知；另一方面，AI客户不愿被芯片“卡脖子”的意愿是逐渐增强的，不仅包括微软等巨头在斥巨资投资AI芯片，国内也有华为等“平替”龙头的衔枚疾走，未来英伟达潜在的竞争压力或会增大。日前，微软创始人盖茨指出：“AI门槛并不高，技术改进必须传递给用户才能撑起来高估值，而英伟达仅仅是一家芯片设计公司。”从他的视角来看，硬件公司往往是很难长期做到“人无我有”的，这也是资本市场历史上，“三万亿美元俱乐部”成员几乎都是To C业务模式的原因。英伟达给中国科技公司带来很多启发。比如，摩尔定律下的持续强研发，再比如把产品的科技属性升级为消费属性的跳跃，当然还包括黄仁勋所强调的“如果不全力以赴，英伟达将30天内破产”的危机意识和企业家精神。 原文：https://m.cnbeta.com.tw/view/1437278.htm

越南吸引力减弱？英特尔等巨头据称放弃新投资项目 只因缺乏激励措施

摘要：全球地缘政治格局发生变化之际，越南凭借其地理位置和劳动力等优势成为了外国投资热土，尤其是在高科技行业，吸引了大量外国投资者。然而，据媒体援引政府文件报道，由于缺乏激励措施，该国错过了英特尔和LG化学等跨国公司数十亿美元的投资。 越南投资部在6月底的文件中表示，美国芯片巨头英特尔曾计划在越南投资33亿美元，并要求该国提供15%的现金支持，但最终决定将该项目转移到波兰。与此同时，韩国LG化学也放弃了在越南投资的计划，转而在印尼投资了一个电池项目，该公司此前曾要求越南承担30%的投资成本。越南是英特尔最大的芯片组装、封装和测试工厂的所在地。去年11月就有消息称，英特尔搁置了在越南的新投资计划，当时媒体披露的原因是英特尔对越南的电力供应稳定性和官僚主义感到担忧。文件称：“最近，许多大型集团来到越南寻找投资机会，但后来决定转向其他国家，因为越南缺乏投资支持法规。”据悉，由于在越南寻求投资支持的要求未得到满足，奥地利半导体制造商奥特斯（AT&S）决定在马来西亚投资。此外，三星电子正在将部分生产转移到印度。作为越南最大的外商投资公司，三星去年累计对越南投资了224亿美元，其越南工厂出口额达557亿美元。除了三星电子和英特尔，越南还是代工巨头富士康的重要制造制造基地。越南的经济增长严重依赖外国投资，外商投资企业约占其出口总额的70%。 原文：https://m.cnbeta.com.tw/view/1437277.htm

欧盟官员警告称英伟达的人工智能芯片供应是“巨大瓶颈”

摘要：欧盟竞争事务负责人Margrethe Vestager警告说，英伟达人工智能芯片的供应是一个“巨大瓶颈”，但表示对于是否采取行动以及采取什么行动，监管机构仍未拿定主意。 “我们一直在问他们问题，但这只是初步的，”她在新加坡之行期间表示。到目前为止这还“算不上监管行动。”自从成为人工智能支出热潮的最大受益者以来，英伟达便引起了监管机构的关注。它的图形处理单元—或称GPU—因其处理开发人工智能模型所需的海量信息的能力而受到数据中心运营商的青睐。这些芯片已成为科技界最热门的商品之一，云计算提供商都在竞争获得这些芯片的供应。根据估计，英伟达的H100处理器帮助该公司获得了80%以上的市场份额，领先于竞争对手英特尔公司和Advanced Micro Devices Inc．。尽管供应紧张，但Vestager表示，AI芯片供应的二级市场可能有助于激发创新和公平竞争。但她表示，占主导地位的公司未来可能会面临某些行为限制。“如果你在市场上拥有这种主导地位，那么有些事情小公司可以做而你不能做，” 她说。“但除此之外，只要你做你应该做的事，并尊重它，那就没有问题。” 原文：https://m.cnbeta.com.tw/view/1437276.htm

飞机起飞4名贵宾室旅客被遗忘机场 同乘一辆网约车抵达目的地

摘要：近日，有多名博主讲述称，自己在7月4日当天乘坐的由上海飞往青海西宁的上海航空FM9273航班因天气原因备降甘肃兰州，经过4小时的等待后重新起飞，但竟然把在贵宾室等待的自己给遗忘了下来。 当事人之一的博主“春卷”称，自己是东方航空的白金卡会员，当天搭乘隶属东航旗下的上海航空FM9273航班因为天气晚点1个多小时，并且中途备降到兰州中川机场。抵达兰州中川机场后，飞机先是在远机位停留了一段时间，随后，机长表示暂时无法重新起飞，要求全体旅客携带所有行李下飞机，搭乘摆渡车前往航站楼休息。在进入航站楼前，他出示了登机牌并由一位地面工作人员核对名单/座位号，对方在一份表格上做了书面登记，下午15:20分左右自己到东方航空贵宾休息室休息，工作人员称等飞机准备重新起飞时会通知到人。中途其每隔半个小时会去前台问询航班情况，结果一直等到下午18点左右，依旧是“暂无消息、请耐心等待”，在18:30的时候，他再次前往问询，结果被告知FM9273航班竟然已经飞走了。除了博主本人之外，还有另外三名在贵宾室休息的旅客遭遇了同样的情况，期间他们没有得到任何航班变动信息，也没有接到过任何来自东航的电话通知。最终在他们强烈要求下，机场工作人员经过请示上级，临时打了一辆滴滴安排四人通过高速前往西宁，整整经过了三个小时才达到目的地，严重耽误了当天的行程安排。 原文：https://m.cnbeta.com.tw/view/1437275.htm