女人变成男人，粘土滤镜什么毛病

摘要：AI到底是如何认识这个世界的？最近，主打粘土风的修图软件Remini火爆全网，给解答这个问题一个新的注脚。多位博主在社交软件晒出了自己经过AI粘土滤镜“改装”后的图片。接着，她们都发现了一个共同点——自己的性别由女性自动变成了男性。 比如，户外博主“阿毛户外记”将自己登山、潜水、滑雪、开越野车的照片分别交给Remini，很快得到了她想要的丑萌风卡通。只是，照片里，这些身着运动服、中性风的人物，被转变成了一个个留络腮胡子、大眼睛的男性。“冒险不是男性的特权。阳光和勇敢能带女孩们去任何向往的地方。”她写下感想。在不露脸的图片中，Remini会自动把人物识别为男性/原图：《大地》剧照博主“老KAY”留着短发。在Remini的世界里，她经常被自动识别为男性。“在AI眼里，我是男的。大概在AI眼里，去户外的、去山里的、穿着冲锋衣的、咬着蟑螂的，都必须是男的。”类似的刻板印象远不止Remini一个AI软件。一个博主将电影《后翼弃兵》描绘女主下国际象棋的剧照放在美图秀秀的粘土滤镜里。很快，女主角的脸变成了萌萌的卡通人物，但是桌上的象棋变成了锅碗瓢盆，甚至，女主角的身旁还多了一个在蹒跚学步的婴儿。种种实践在告诉我们，由人类编写的AI世界，似乎也自带偏见和歧视。这到底是AI随机的行为，还是根深蒂固的刻板印象？又或者，如同学者清华大学交叉信息研究院助理教授于洋提出的核心问题，AI到底是蠢，还是坏？扭曲的粘土学者于洋告诉南风窗，分析AI软件的性别偏见，首先要分清楚：它是否只是出错，还是产生了系统性偏见或者主观性歧视。这是讨论问题的基础。为了弄清楚这个问题，我们决定自己试一试。许多博主抱怨的被AI转换性别的场景是在户外。于是，我们在网络随机选择了10张女性在户外的照片。为了更能看清楚AI的偏好，选用的照片里，一半是户外女性的背影，一半露了脸。接着，我将它们分别放在了Remini的clay滤镜、美图秀秀的热门AI粘土滤镜和小红书的粘土滤镜特效里。结果非常明显。10张照片里，并非所有的女性都能变成她们自己。在三个软件里，留长发的、有正面脸庞的女性照片，都能正确生成粘土版的女孩。不过，在Remini上，如果照片的面部被部分或者全部遮挡，那她大概率就会变成男性。（注：以下生成的照片均为第一次效果，未经过处理。）在5张被测试的背影照片里，Remini会将照片主角默认成男性，生成一系列穿着冲锋衣、背着登山包的男性卡通人物。而在侧面照中，Remini也会随机将女孩的图变成男孩。Remini制图在小红书也有类似的“魔改”。露出背影的登山女孩，部分时候会被自动转化成男性。小红书制图美图秀秀的表现稍微好点，这与它对现实的重塑力度不大有关。许多照片会因为面部未被精准识别，而出现微调或者糊成一团的效果。初步的测算也许可以得出粗浅的印象：在Remini的AI算法里，当它无法判断一个人的性别时，它会将人默认为男性。AI也许有些“脸盲”。但如果，将女性的脸庞更清晰地展示出来，AI还会歪曲现实吗？我们选择了女性被认为是少数参与者的运动领域，例如电影《热辣滚烫》里的女拳击手，综艺《海妖的呼唤》里参加竞技的女人们，作为观察样本。Remini出现了不一样的表现。在提供清晰的正面的原图后，Remini表现稳定，均生成了符合原图性别的卡通人物。而在美图秀秀里，一个有腹肌的女孩，很大可能会被粘土滤镜改成有粗壮四肢的男性；美图秀秀粘土滤镜特效 / 原图：综艺《海妖的呼唤》剧照准备上场的女拳击手被变成了带着拳套的男人。几个组队拔河的女孩类似地，也变成了男性。美图秀秀粘土滤镜特效 / 原图：电影《热辣滚烫》剧照小红书的AI也类似。做引体向上的贾玲经过粘土滤镜后，摇身一变，成为了表情凝重的卡通男孩。小红书粘土滤镜特效 / 原图：电影《热辣滚烫》剧照倚靠在墙边、带着拳套的安藤樱，经过小红书粘土滤镜的加工，会是帅气的男拳手。小红书粘土滤镜特效 / 原图：电影《百元之恋》剧照AI的自动转化让人一惊。随着人工智能技术不断前进，人们突然发现，这个预示着超人类的技术已经学会了人类世界里的偏见、歧视与刻板印象。反映人类偏见偏见也许远比想象中的普遍。彭博社在2023年对大热门AI画图软件——Stable Diffusion专门进行了观察。这家媒体用AI软件生成了5000多张图片，得出结论：AI创造的图像看上去合理，实际却是对现实的扭曲。AI生成的世界，甚至比现实世界更具有偏见和歧视。具体而言，他们用文字生成图片的方式，让AI分别画出从事14种工作的代表人物。作为对照，其中的7种在美国是高薪工作，剩下的一半则是低薪工作。每个工种各让AI画300张图。结果发现，总的而言，AI生成的图片中，男性数量几乎是女性的三倍。而且，大多数职业都由男性主导，除了管家和收银员等低薪工作出现了女性主导。根据DALL-E 2和Stable Diffusion生成的图像发现，这些模型倾向于生成看起来是白人和男性的图像，特别是当被要求描绘处于权威地位的人时。当给出“首席执行官”或“导演”等提示时，DALL-E 2 97% 都会生成白人男性/图源：technologyreview肤色和种族在AI世界里也非常失衡。AI的画像显示，世界是由白人男性CEO管理的，女性很少担任医生、律师或法官。深色皮肤的男人热衷犯罪，深色皮肤的女人乐于翻转汉堡。哪怕使用了详细的提示词，也无法减轻这种偏见。当Stable Diffusion被要求画出不同国家富人的照片时，生成的照片也是高度相似的。研究者记录道：“它们呈现出了大杂烩的刻板印象——非洲富人喜欢穿西式大衣、站在茅草屋前；中东男人会站在古老的清真寺前摆出富豪姿势。而欧洲有钱人更优雅，是身着修身西装漫步在古色古香的西式街道上的人。”重点是，这类偏见已经远远超出现实状况。例如，在针对关键词“法官”生成的图像中，女性只占约 3%。而实际上，官方数据显示，34%的美国法官是女性。美图秀秀粘土滤镜，国际象棋会变成化妆品和指甲油 / 原图：《后翼弃兵）剧照于洋团队也曾在2022年带领团队做了一个AI性别歧视水平评估，以OpenAI的GPT-2、Google的BERT、Meta的RoBERTa三个语言模型做样本。他们试图观察AI在中性句子中对职业的性别、种族的预测，从而判断AI的歧视倾向，概率以及程度。他发现，几乎所有的受测AI模型，都有系统性偏差。于洋举例，三个模型都更倾向于认为teacher（老师）对应男性。“如果AI有60%概率认为一个职业是男的，40%认为是女的，就可以说它已经有一个刻板印象，属于系统认知偏差。”也就是说，这几个AI模型“是以坏为主导，蠢是次要的”。与“最大公约数”的对抗一切究竟是怎么发生的？一个解释是，AI也许就是现实的一部分体现——训练AI的数据集被发现其具有倾向性。最著名的AI画图工具Stable diffusion，使用了世界上最大可公开访问的图集数据集LAION-5B训练。这个数据集拥有超过50亿张图像和说明文字。只是，这些图像的链接是通过编程方式从世界无数网站收集的，没有经过人工管理，里面包含各类色情、种族偏见和性别歧视等未经过滤的内容。在100 个生成图像随机抽样的10张图片中，“情绪化的人”大部分为女性，“犯罪分子”等负面形象则大部分为有色人种/图源：arxiv卡内基梅隆大学人工智能计划联合负责人Hoda Heidari 分析，AI的性别偏见也可能与分享个人图像的文化差异有关。“例如，在美国，女性更愿意分享自己的照片，在AI画图软件中出现女性的比例偏高。而某些文化中的女性可能不太愿意拍摄自己的照片或让照片出现在互联网上。”她说。女性的数据量较少，也导致了训练出来的AI可能更“爱男厌女”。数据量虽是其中一大关键，但诸如于洋等研究者认为，另一个不可忽略的问，AI的模型设计。“至于模型本身怎么造成歧视，”于洋在接受媒体采访时分析，“一个较为清晰的机制是：AI要把非结构化的数据，比如我们看到的一幅画、一篇文章、一句话转换成供计算机的数字。转换的过程产生了错误，也就是倾向男或者女的偏差。”接着，经过数字化和复杂的模型机制之后，AI甚至加剧了这种偏差和歧视。类似的机制被全球研究者广泛讨论和研究。研究者发现的通用规律是，AI在大量接受数据并进行深度学习的过程中，通常会丢弃异常值，产生更接近主导趋势的结果。AI会迎合人们的刻板印象便与此有关——从设计之初，他们的目的是模仿以前的多数情况，而不是创造多样性。毕竟，这些模型是纯粹的联想机器。斯坦福大学人工智能研究员 Pratyusha Kalluri比喻：“AI的任务就像在玩打地鼠游戏，它们对人们最关注的事物做出反应。”“但如果您不想要平均图像，那就不走运了。这就是这些系统如此优秀的原因，但也是它们的致命弱点。”于洋对南风窗解释，大语言模型的基本原理是对下文预测最有可能的关键词。而相比之下，图像模型会更复杂。与此同时，AI还有很多人类尚未了解的机制，带有“黑盒”的特性，“我也不能够明确它的工作原理是什么样子。”他说。AI在大量接受数据并进行深度学习的过程中，通常会丢弃异常值，产生更接近主导趋势的结果。图为AI生成的带有明显刻板印象的例子/图源：斯坦福大学但是，要想纠正AI的偏差，又存在着更大的困境。纠正AI，很可能会让它“变笨”。“如果直接用调整算法来处理模型偏差，它也是有代价的。（调整后），算法的准确性会变差，它会变得容易出错。”于洋说。好消息是，越来越多AI研究者注意到AI的性别歧视和偏差，共同着手解决。于洋指出，现在通用的AI纠偏方法通俗地讲，就是纯打骂。“只要你搞性别歧视，我就抽你。但就像教育孩子不能光靠打骂，得理解孩子怎么想的，然后跟它们讲道理一样。”他与团队近日提出一种让AI学习因果关系的机制，即对AI大模型进行因果关系指导，将因果知识融入模型，帮助提高模型的性能。简单来说，就是“教它（学会价值观）”。“很多人讲技术是中性的，我们现在渐渐认为，技术存在着向善和中性，也存在向恶的。AI时代，不能再以中性的角度看待技术，有价值观的技术，一定要得到鼓励。”于洋说。 原文：女人变成男人，粘土滤镜什么毛病

客户试驾小米SU7出事故赔偿5000元 博主科普：不用全赔

摘要：买车之前总要试一试，做到心里有数才行，那么在试驾过程中很可能出现突发情况，比如剐蹭，那么这个时候该如何赔偿呢？今日，知名汽车博主“百车全说三刀”发布微博称，一客户在试驾小米SU7倒车时不慎撞了后车，定损5000元，销售一阵忽悠，客户就把5000给付了，现在后悔了，到处打电话投诉。 从博主发布的单据和聊天记录看，事故车辆小米SU7 Max需要拆装后杠，报价660元，更换后杠下体，报价1350元，同时将对后杠和后杠下体喷漆，报价1140元和1000元。此外还需要标定后雷达和后摄像头，标价均为180元，合计需要4510元，而该客户最终支付了5000元，还包含了误工费和代步计费。博主称：我节目里说过很多次，试驾是以销售为目的的商业行为，你即使把试驾车撞了，也不用全赔。通常做法：1000以内私了，付钱走人；1000以上让对方走保险，你赔保费上涨幅度，4S店不愿意，你掉头走人，让对方起诉，对方不让你走，就打110报警。在这条微博的评论区，此次事件的当事人现身，并表示事情得到了解决，保险公司承担了损失，共计7000元左右，自己支付的5000元已退回。各位学到了吗，以后即便是遇到了类似的情况，也不用太过担心，按照博主教授的方法进行即可。 原文：客户试驾小米SU7出事故赔偿5000元 博主科普：不用全赔

腾讯混元大模型宣布全面降价 混元-lite即日起免费

摘要：腾讯云公布全新大模型升级方案。主力模型之一混元-lite模型，API输入输出总长度计划从目前的4k升级到256k，价格从0.008元/千tokens调整为全面免费。 混元-standard API输入价格从0.01元/千tokens降至0.0045元/千tokens ，下降55%，API输出价格从0.01元/千tokens降至0.005元/千tokens，下降50%。新上线的混元-standard-256k，具备处理超过38万字符的超长文本能力，API输入价格下调至0.015元/千tokens，下降87.5%，API输出价格下降至0.06元/千tokens，下降50%。最高配置万亿参数模型混元-pro，API输入价格从0.1元/千tokens降至0.03元/千tokens，降幅达70%。以上价格调整立即生效。同时，为了更好地服务开发者，一站式智能体创作与分发平台腾讯元器，也全面升级了模型资源扶持方案：用户不仅可以将专属AI智能体一键分发至腾讯全域渠道，获取免费的混元大模型资源和流量扶持，同时也可将智能体以API形式分发和部署至各类场景，免费token额度从此前的100万提升至1亿。 原文：腾讯混元大模型宣布全面降价 混元-lite即日起免费

据传三星已启动代号为"Thetis"的 2 纳米芯片开发 可能首先将其用于Exynos

摘要：韩国新闻门户Naver报道，Exynos 2500 可能是三星今年第四季度进入量产阶段的首款 3nm GAA 智能手机芯片，但这家韩国巨头不会就此止步，因为它在代工业务方面更是有宏伟的计划。一则新的传言称，该公司已开始开发 2 纳米技术，并打算将其应用于未来发布的 Exynos 芯片。 据报道，苹果公司首席运营官杰夫-威廉姆斯（Jeff Williams）最近访问了台湾，希望从台积电（TSMC）获得首批 2 纳米晶圆，Naver 也传出这家韩国公司将开始开发自己的 2 纳米工艺，代号为"Thetis"。忒提斯是希腊神话中的海神，也是特洛伊战争英雄阿喀琉斯的母亲。三星之所以选择这个名字，可能是因为 Thetis 一词的词源来自于"世世代代"。此前有报道称，三星将于 2025 年开始量产2 纳米 GAA 晶圆，预计其 3 纳米 GAA 技术将有三次迭代。第二代 3 纳米 GAA 节点据说将用于即将推出的 Exynos 2500，三星的目标是减少电流泄漏，提高这款芯片组的能效。据报道，随着"Gate All Around"技术被应用于 2 纳米光刻技术，三星可能会超越台积电的 2 纳米工艺。不幸的是，这家韩国代工厂面临的最大障碍一直是良品率。即使采用了 3 纳米 GAA 技术，三星的良品率也只有可怜的 20%，尽管它似乎已设法将这一数字提高到原来的三倍，但仍然落后于台积电。三星正在加快量产尖端硅片的步伐，因为它希望在未来发布的旗舰智能手机中保持较高的 Exynos 芯片组采用率。这将有助于减少三星对高通公司的依赖，降低其芯片组支出，由于三星推出的 Galaxy S23 系列完全采用骁龙 8 Gen 2，导致其 2023 年的芯片支出高达70 亿美元。在 2024 年第一季度的财务报告中，三星的营业利润比 2023 年第一季度猛增了933%，这表明该公司正在优化其各个业务部门，而这种做法对于提高其 2nm GAA 工艺的良品率大有裨益。 原文：据传三星已启动代号为"Thetis"的 2 纳米芯片开发 可能首先将其用于Exynos

微软与G42宣布在肯尼亚建立价值10亿美元的地热数据中心

摘要：彭博社报道，微软公司和阿拉伯联合酋长国顶级人工智能公司 G42 正联手在肯尼亚建造一座耗资 10 亿美元的地热发电数据中心，这是一项旨在大幅提高东非云计算能力的多年计划的初始阶段。地热资源丰富，这对于饱受停电困扰的欧洲大陆来说是一大优势，也是微软实现其气候目标的潜在利器。第一阶段的发电能力为 100 兆瓦，预计将在两年内投入使用。 左为彭晓，中为 EcoCloud 首席执行官 Amos Siwoi，右为 William Ruto：G42G42 首席执行官彭晓在接受采访时说，整个项目最终将需要电网提供多达 1 千兆瓦的电力。两家公司没有透露完成整个项目所需的时间和成本。微软将利用最初的云计算能力为其 Azure 产品创建一个东非地区，从而提高公司在当地销售服务的能力。目前，距离肯尼亚客户最近的微软数据中心也在千里之外的南非。作为交易的一部分，肯尼亚政府已同意将更多的服务转移到云端，微软希望这将刺激整体需求。最终，该数据中心综合体将处理人工智能服务，并为乌干达、卢旺达和坦桑尼亚等附近国家提供云计算服务。微软和 G42 宣布这一倡议时，美国总统乔-拜登正准备欢迎肯尼亚总统威廉-鲁托对华盛顿进行国事访问，此次访问旨在深化美国与非洲的关系。对美国来说，非洲大陆正在成为全球竞争的新舞台，因为美国正试图对抗中国和俄罗斯在非洲的进军。本周五，微软、G42 和肯尼亚官员将签署一份意向书，该意向书是在美国和阿联酋政府的帮助下起草的。微软公司总裁布拉德-史密斯（Brad Smith）说："我认为，这是肯尼亚历史上推动数字技术普及的最大一步。这表明 G42 和微软有机会共同完成我们任何一方都无法单独完成的任务。坦率地说，我认为这表明美国和阿联酋可以一起做一些事情，帮助把技术带到新的国家，特别是非洲国家。"今年 4 月，微软同意向 G42投资15 亿美元，这是拜登政府为遏制中国获得人工智能技术而促成的一项交易。作为协议的一部分，G42 同意停止与包括华为在内的中国公司的业务关系，转而使用美国技术。史密斯将加入 G42 董事会，G42 将使用 Azure 来开发人工智能应用。G42 的业务范围从云计算到无人驾驶汽车无所不包。它是阿布扎比两位副统治者之一、阿拉伯联合酋长国国家安全顾问和总统兄弟谢赫-塔赫农-本-扎耶德-阿勒纳哈扬（Sheikh Tahnoon bin Zayed Al Nahyan）1.5 万亿美元帝国的一部分。该公司进军肯尼亚是阿联酋努力在非洲获得地缘政治影响力的一部分。在过去两年里，这个石油大国承诺在非洲大陆投资约 1000 亿美元。阿联酋还在与沙特阿拉伯竞争成为地区人工智能超级大国，而 G42 是这些计划的核心。肖说，在肯尼亚，G42 将开发斯瓦希里语和英语的大型语言模型，并在未来增加其他非洲语言。该公司还将为农业和其他领域创建人工智能模型。史密斯说，微软的网络安全部门将为地区客户提供免受黑客攻击的保护，并在明年年底前帮助将无线宽带带给2000万人，约占肯尼亚人口的40%。肖说："这需要几年的时间才能给我们带来积极的财务回报。"但我们不是为了短期回报而去那里。我们认为，在非洲大陆，我们必须站稳脚跟。" 原文：微软与G42宣布在肯尼亚建立价值10亿美元的地热数据中心

科学家破解140年前南极巨型海蜘蛛繁殖之谜

摘要：夏威夷大学的科学家们发现了南极巨型海蜘蛛的关键繁殖行为，为了解它们的发展和更广泛的海洋生态系统提供了新的视角。这项突破性研究有助于了解世界上研究最少的地区之一的海洋生物。140多年来，南极洲巨型海蜘蛛的繁殖情况一直不为研究人员所知，直到现在。夏威夷大学马诺阿分校的科学家们前往遥远的南极大陆，亲眼目睹了这些神秘生物的行为，他们的发现可能会对南极洲和世界各地的海洋生物和海洋生态系统产生更广泛的影响。 夏威夷大学马诺阿分校的研究人员对南极洲巨型海蜘蛛的繁殖行为有了重大发现，揭示了巨型海蜘蛛的发育过程，并为更广泛的海洋生态系统提供了启示。这项研究涉及在冰下观察交配行为和卵的发育，标志着在了解这些以"极地巨人"著称的生物方面取得了突破性进展，并对全球海洋生物学产生了影响。资料来源：R. Robbins海蜘蛛，或称pycnogonids，是在全球海洋栖息地发现的一类类似蜘蛛的无脊椎动物。大多数物种比指甲还小，但一些南极物种的腿展（一条腿的顶端到另一条腿的顶端）超过一英尺。这些动物是"极地巨人症"的一个著名例子。"极地巨人症"是指极地地区（如北极和南极）的某些生物比气候温暖地区的同类长得大得多的现象。""在大多数海蜘蛛中，父母中的雄性会在婴儿发育期间抱着它们四处走动来照顾它们，"马诺阿大学生命科学学院教授兼首席研究员艾米-莫兰（Amy Moran）说。"奇怪的是，尽管描述和研究可以追溯到140多年前，但从来没有人见过南极巨型海蜘蛛育雏，也不知道它们的发育情况。"莫兰的实验室研究极地巨型动物已有十多年。2021 年 10 月，莫兰和生命科学学院博士生亚伦-托（Aaron Toh）和格雷厄姆-洛贝特（Graham Lobert）等人组成的研究小组在南极洲进行实地考察时，发现了一个突破性的发现。他们潜入冰下，用手收集了似乎正在交配的巨型海蜘蛛群，并将它们运送到水箱中进行观察。左起：Graham Lobert、Aaron Toh 和 Amy Moran。图片来源：马诺阿大学令他们惊讶的是，两个不同的交配群体产下了数千枚小卵。父母中的一方（很可能是父亲）没有像大多数海蜘蛛那样带着孩子直到孵化，而是花了两天时间将卵附着在岩石底部，让它们在那里发育数月，然后孵化成小幼虫。研究人员的发现发表在2024年2月的《生态学》上。Toh说："我们非常幸运能够看到这一切。有机会在南极洲直接与这些神奇的动物一起工作，意味着我们可以学到一些从未有人想到过的东西"。产卵后几周内，卵上长满了微型藻类，提供了完美的伪装。洛贝特说："即使我们知道卵在那里，我们也几乎看不到它们，这可能就是研究人员以前从未见过这种情况的原因。"莫兰在一次研究潜水中，捡到一只大海蜘蛛。资料来源：R. Robbins英国南极调查局的著名南极生物学家劳埃德-佩克（Lloyd Peck）没有参与这项研究，他说："南极海洋物种的一般生态学和繁殖生物学仍然是一个未知数，我们只掌握了少数物种的数据，因此，像这样的论文对于揭示动物在世界海洋中研究最少的地区之一是如何运作的，具有相当重要的意义。"编译来源：ScitechDaily 原文：科学家破解140年前南极巨型海蜘蛛繁殖之谜