如今的AI确实能够在信息处理和数据分析方面展现惊人的效率。面对数以万计的科研论文，它可以在短时间内提炼重点，发现潜在规律，甚至给出新的研究方向建议。但科学研究并不仅仅意味着阅读文献、分析数据或者撰写论文，真正决定一项研究能否成功的，往往是实验室里那些看似普通却极其复杂的实际操作。

以生命科学研究为例，很多实验都需要研究人员亲自动手完成。无论是处理实验样本、安装精密仪器，还是进行动物实验，每一个动作都要求极高的精度和经验。实验过程中，研究人员需要根据现场情况不断调整操作力度、角度和速度。有时候，仅凭手指传来的细微触感，就能判断实验是否出现异常。这种能力并不是按照固定流程训练出来的，而是在长期实践中逐渐形成的经验积累。

相比之下，大多数机器人仍然只能严格执行预设程序。虽然实验室自动化设备已经发展多年，自动移液、自动加样、自动检测等技术也越来越成熟，但这些设备通常只能完成标准化程度较高的重复任务。一旦实验环境发生变化，比如样本位置出现偏差、试剂状态异常、设备受到干扰，它们往往无法像人一样灵活调整，只能等待人工处理。真正的科研实验充满各种无法提前预料的情况，而这恰恰是机器人最难适应的部分。

事实上，目前限制机器人进入科研一线的关键问题，并不是计算能力，而是实际操作能力。对于人工智能来说，分析数据已经不算困难，但真正走进实验室之后，它需要面对的是一个复杂而不断变化的物理世界。拿起一支试管、安装一枚枪头、旋开一个瓶盖，这些在人类看来十分简单的动作，机器人却需要通过视觉识别、运动规划、力量控制以及实时反馈等多个系统共同完成。任何一个环节出现误差，都可能导致整个实验失败。

人类能够完成这些动作，很大程度上依赖于触觉。拿起一件物品时，我们会根据重量自动调整手指力量；接触不同材料时，也能够通过细微的反馈判断是否发生滑动或者变形。这些能力几乎已经成为本能，因此很少有人意识到它们的重要性。但对于机器人而言，触觉一直都是最难攻克的技术之一。相比拥有海量图片和视频数据支持的计算机视觉，能够用于训练机器人触觉系统的数据十分有限，因此机器很难像人一样建立丰富的触觉经验。

近年来，不少科研团队开始尝试新的解决方案。一部分研究人员不断改进触觉传感器，希望让机器人能够感知压力、摩擦和材料变化，从而提高操作精度；另一部分团队则希望借助更先进的视觉模型，通过观察大量操作视频，让机器人学会完成越来越复杂的动作。一些实验已经证明，即使没有完善的触觉反馈，机器人依靠视觉学习，也能够完成折叠衣物、整理物品甚至部分精细操作。这意味着机器人未来仍然有很大的发展空间，只是距离真正适应复杂实验环境还有一段路要走。

即便未来机器人拥有更加灵活的双手，也并不意味着它们能够完全取代科学家。科学研究真正重要的不只是完成实验，更重要的是提出值得研究的问题、判断实验结果是否可靠、分析异常现象背后的原因，并根据新的发现不断调整研究方向。这些能力不仅需要扎实的知识基础，还需要长期积累的经验、敏锐的直觉以及创造性的思维，而这些恰恰是当前人工智能仍然难以完全具备的。

可以预见的是，未来的科研模式更可能是人与人工智能共同协作，而不是彼此替代。AI负责处理海量信息、建立模型、寻找规律，人类则凭借经验和创造力设计实验、验证结果并作出最终判断。这样的合作不仅能够提高科研效率，也能让科学家把更多精力投入到真正具有创新价值的问题上。对于今天的人工智能来说，它已经成为科研的重要助手，但距离独立完成科学发现，仍然还有很长的路要走。

原文：https://nautil.us/why-robots-still-cant-do-science-1281910

人工智能：为什么机器人还做不了科学研究最先出现在咕咕猫。

然而，技术的开放同样伴随着风险。一些不法分子利用模型微调技术，将原本安全的AI模型改造成能够生成仇恨言论、暴力内容，甚至儿童性虐待材料（CSAM）的工具。相关问题正在迅速恶化。据统计，2025年，美国国家失踪与被剥削儿童中心（NCMEC）收到超过150万起涉及AI生成CSAM的举报，而2024年这一数字约为6.7万起，增长幅度惊人。

传统检测方式遭遇法律与技术双重难题

一直以来，AI安全评估主要依赖”提示词测试”的方法，即通过不断向模型输入各种指令，再根据输出结果判断模型是否存在危险能力。

但这种方法在检测CSAM时却行不通。

原因很简单：在美国以及许多国家和地区，无论出于研究还是测试目的，生成此类内容本身就是违法行为。因此，研究人员无法像测试普通有害内容那样，通过实际生成结果来验证模型是否存在风险。

与此同时，大量人工审核不仅效率低，还会给审核人员带来严重的心理压力。因此，寻找一种无需生成违规内容即可完成检测的新方法，成为AI安全领域亟待解决的重要课题。

MIT联合Thorn提出全新的审计方案

针对这一难题，麻省理工学院（MIT）研究团队联合儿童安全公益机构Thorn，共同研发出一种全新的AI模型审计技术。

该研究由MIT研究生Vinith Suriyakumar、副教授Ashia Wilson、Marzyeh Ghassemi等人与Thorn研究人员共同完成，并在国际机器学习会议（ICML）”Trustworthy AI for Good”研讨会上进行了重点展示。

这项技术最大的特点在于：

整个检测过程中不会生成任何违规图片，也无需向模型输入违法提示词。

研究团队将检测重点放在模型内部结构，而不是最终输出结果，通过分析模型在微调过程中产生的内部变化，直接判断模型是否被训练用于生成违法内容。

核心思路：检测模型”内部变化”

如今，大多数开源模型都会采用一种名为**LoRA（Low-Rank Adaptation，低秩适配）**的微调技术。

相比重新训练整个模型，LoRA只需要调整极少量参数，就可以让模型快速掌握新的能力，因此被广泛应用于各种AI模型定制。

例如：

• 学习某种绘画风格；
• 生成特定人物形象；
• 制作产品宣传图；

当然，也可能被恶意利用来训练生成违法内容。

MIT团队没有检测模型最终生成什么，而是直接分析LoRA适配器对模型内部计算过程造成了哪些改变。

研究人员采用了一种名为**高斯探测（Gaussian Probe）**的方法：

他们向模型输入随机数据，而不是任何真实图片或违法提示，然后观察这些随机数据在模型多个隐藏层中的传播方式，再对不同层的变化进行统计分析，从而形成模型”内部特征画像”。

由于整个过程始终停留在模型计算阶段，因此不会生成任何图像，也不会触碰法律红线。

正如论文第一作者Vinith Suriyakumar所说：

“我们不会让模型运行到最终输出，更不会要求它生成图片，因此整个检测过程始终处于安全范围。”

检测准确率达到100%

为了验证方法的有效性，研究团队分别测试了多个经过LoRA微调的模型。

这些模型包括：

• 能够生成CSAM的模型；
• 可生成其他有害内容的模型；
• 正常、安全用途的模型。

实验结果显示，高斯探测技术能够100%准确识别专门用于生成CSAM的模型，与真实标签完全一致。

这一结果意味着，未来模型托管平台可以在用户上传模型时提前完成自动审计，在危险模型传播之前及时发现并下架，大幅提升平台治理效率。

更适合大规模AI模型监管

当前，每个月都会有数以千计的新模型上传到各类开源社区。

如果继续依赖人工测试，不仅成本极高，而且几乎无法实现规模化审核。

相比传统方式，高斯探测具有多项优势：

• 无需生成违法内容；
• 不依赖人工审核；
• 检测速度更快；
• 成本更低，适合批量部署；
• 对恶意绕过检测具有较强鲁棒性。

研究人员表示，恶意开发者如果想绕过这种检测，需要大幅修改模型内部结构，而不仅仅是简单更换提示词，这使得规避检测的难度显著提升。

未来仍有更多探索空间

目前，这项技术主要针对经过LoRA微调后的模型进行检测。

下一阶段，MIT团队希望进一步研究：

• 能否适用于更多类型的大模型；
• 是否能够在模型微调之前，就识别其潜在危险能力；
• 如何进一步提升检测效率和覆盖范围。

研究团队认为，这项成果不仅能够帮助平台建立更加完善的AI安全审查体系，也有望为全球儿童网络安全保护提供新的技术支持。

正如Marzyeh Ghassemi教授所说：

“如今，我们终于拥有了一种能够真正解决这一难题的技术路径。希望未来能够借助这项研究，为保护更多儿童、推动人工智能安全发展带来积极影响。”

总结

生成式AI的发展离不开开放生态，但开放并不意味着放任风险扩散。MIT联合Thorn推出的这项新型AI审计技术，通过分析模型内部结构，而非生成违规内容，实现了对危险模型的精准识别，不仅突破了法律限制，也为AI安全治理提供了一种更加高效、可扩展的新思路。

随着人工智能应用不断普及，类似的安全检测技术有望成为未来开源模型平台的重要基础设施，在保障技术创新的同时，也为数字世界构建更加安全、健康的发展环境。

原文：https://news.mit.edu/2026/new-method-keeps-kids-safe-from-illegal-ai-generated-content-0713

AI新技术助力保护儿童网络安全最先出现在咕咕猫。

如今，基于大型语言模型（LLM）的智能代理已经不仅仅局限于聊天，它们可以调用工具、执行任务，甚至自主完成一系列连续决策。不过，科学界对于这些模型究竟如何做出选择，仍然缺乏深入理解。

在人类行为研究中，有一个重要概念叫做“选择架构”，即信息和选项的呈现方式会影响最终决定。例如，把某个按钮设为默认选项、给予醒目标记，或者向用户推荐某个方案，都可能悄然改变人们的选择。由于人类的时间和认知能力有限，我们通常会借助经验和心理捷径来降低思考成本，这也是所谓的“有限理性”。

理论上，AI不存在疲劳、注意力不足等生理限制，因此不少人认为它应该比人类更加理性。然而，过去已有研究发现，大语言模型会因为提示词、排版方式甚至用户表达习惯的变化而产生不同回答。研究团队希望进一步了解，当AI面对现实世界常见的“引导”时，会不会也受到影响。

论文第一作者、麻省理工学院媒体实验室博士生Manuel Cherep表示，许多人默认认为AI代理在不确定环境下会像人类一样，甚至更加理性地做决定，但团队并没有接受这一假设，而是希望直接测试不同的信息呈现方式究竟会如何影响AI的行为。

为此，研究人员改造了一款原本用于测试人类决策能力的实验游戏。游戏中，一个数字网格代表多个隐藏奖品，参与者需要花费积分逐步揭示格子里的信息，再根据获得的数据判断哪一个奖品篮价值最高，从而获得最大收益。

玩家必须不断权衡：是继续花费积分获取更多信息，还是尽快作出决定，以获得更高回报。

为了让语言模型能够参与实验，研究人员将整个游戏转换成文本形式，并邀请来自多家科技公司的14款主流模型参与测试，包括OpenAI GPT系列、Anthropic Claude系列以及Google Gemini系列等。

研究团队针对不同模型进行了数百轮实验，总共消耗约20亿个文本Token，并分别测试了四种现实生活中常见的引导方式。

第一种是默认选项，系统预先勾选某个奖品，AI可以接受或主动修改。

第二种是推荐建议，在游戏早期或后期随机推荐一个奖品。

第三种是信息突出，降低查看某些信息的成本，使这些内容更加显眼。

第四种则是最优引导，提前公开最有价值的信息，理论上可以帮助玩家做出更好的决策。

实验结果显示，AI对于这些引导的敏感程度远远超过人类。

在人类实验中，大约88%的参与者会直接接受默认选项，而多个AI模型接受默认选择的比例高达99%甚至100%，几乎不会主动修改。

面对随机推荐，人类在游戏初期采纳建议的比例约为35%，而不少AI模型明显更容易接受这些毫无依据的推荐，即使这些建议并不会提高最终收益。

更有意思的是，建议出现的时间也会影响AI判断。对于后期才出现的推荐，人类仍有约25%的概率采纳，但部分AI模型的接受率却下降到7%至13%，说明它们更多是在响应提示本身，而不是分析建议是否真正有价值。

信息突出同样产生了明显影响。

当研究人员故意把价值较低的信息设置得更加醒目时，人类只有约57%的情况下会受到误导，而多数AI模型却有83%至100%的概率跟随这些错误提示，显示出极高的依赖性。

除了最终选择，研究人员还观察了模型收集信息的方式。

人类通常会在获取足够信息后停止探索，以较低成本完成判断。

相比之下，AI模型的行为却显得十分反常。有些模型几乎不查看任何隐藏信息便直接做出选择；有些则一次性打开整行、整列数据，浪费大量积分；还有一些模型表现出奇怪的搜索习惯，例如始终优先查看最左侧区域，或者沿着固定对角线逐格探索，而不是根据已有信息灵活调整策略。

即便研究人员加入了逐步推理提示，或者提供大量人类示范案例，这些不合理的搜索模式依然没有得到明显改善。

研究人员指出，如果只看最终得分，很容易误判AI的真实能力。

部分模型最终成绩与真人玩家相差不大，看起来似乎拥有不错的决策水平。但进一步分析发现，它们很多时候只是机械地服从提示，而不是经过真正的策略分析。

如果默认选项恰好是正确答案，AI自然能够获得不错成绩；但一旦默认信息具有误导性，模型同样会毫不犹豫地跟随错误方向，导致最终表现迅速下降。

Manuel Cherep表示，真正令人意外的并不是最终得分，而是不同模型之间的策略差异远比成绩差异更大。也就是说，即使多个模型取得了类似结果，它们内部的思考方式和信息利用策略却可能完全不同，仅依赖最终分数评估模型能力，很可能掩盖潜在风险。

研究团队随后测试了具备更强推理能力的新一代模型，并给予它们更多计算时间。

结果发现，这类模型在面对默认选项、推荐建议等引导时，表现得更加接近人类，不再盲目接受所有提示，而是会进行更多分析之后再做决定。

不过，这种改进并非没有代价。

为了完成一次决策，高级推理模型需要消耗数百个额外Token，计算成本显著增加。研究人员估算，如果希望AI代理在现实环境中保持更可靠、更稳定的判断能力，其运行成本可能比普通模型高出30至100倍，对于长期自动化任务而言，这意味着更高的资源消耗。

研究人员强调，这类问题与传统意义上的黑客攻击不同。

所谓“助推”并不一定来自恶意攻击者，它本身就是现实生活中无处不在的信息呈现方式。网页设计、商品排序、推荐内容、按钮位置乃至广告展示，都可能在潜移默化中影响AI代理的判断。因此，即使能够防范恶意攻击，也无法消除这些日常存在的信息引导。

当然，这项研究是在高度可控的文本实验环境中完成的，与真实世界的网页浏览、购物平台或复杂商业场景仍存在差异。不过，研究团队表示，他们已经开展了新的研究，并发现类似现象同样会出现在真实在线购物等实际应用中，说明AI对于环境线索的高敏感性并非实验室特有的问题。

研究人员认为，随着越来越多智能代理进入现实生活，人们不能只关注AI是否完成任务，更应该关注它究竟是如何完成决策的。如果这些模型过度依赖外部提示，那么第三方完全可能利用网页设计、推荐信息或其他环境因素，影响AI替用户做出的最终选择。

未来，打造真正可靠的智能助手，不仅需要提升模型能力，更需要建立一套完整的行为评估体系，深入理解AI如何思考、如何响应环境变化，以及如何在复杂场景中保持稳定、独立的决策能力。

原文：https://www.psypost.org/ai-models-are-far-more-susceptible-to-misleading-nudges-than-humans-study-shows/

AI比人类更容易被“带节奏”？最新研究揭示语言模型决策弱点最先出现在咕咕猫。

在欧洲自行车贸易展上，多家厂商展示了最新的AI骑行技术，希望借助智能功能重新激发消费者的购买热情。

其中，电动自行车动力系统成为关注焦点。中国无人机企业大疆旗下品牌Avinox展示了一套智能电机系统，通过遍布车身的多个传感器，持续监测骑行者踩踏力度、骑行姿势以及道路坡度、路面状况等信息，再利用人工智能算法实时调整电机输出，让助力更加精准自然。

开发团队表示，这种动态辅助能够根据骑行环境自动优化动力输出，使骑行更加轻松，同时减少骑行者频繁调整模式的操作，提高整体安全性。

系统还支持连接心率监测设备。当检测到骑行者心率持续升高或体力下降时，AI会自动增加电机辅助力度，帮助减轻身体负担，让骑行过程更加舒适。

除了动力辅助，主动安全技术也成为展会的重要亮点。

德国自行车品牌Canyon展示了一套结合摄像头和毫米波雷达的智能骑行辅助系统。车辆能够持续监测周围环境，并提前识别骑行者可能没有注意到的潜在危险。

例如，当系统判断路边停放车辆存在突然打开车门的风险时，会立即发出预警，提醒骑行者提前减速或避让，从而降低碰撞事故发生的可能性。

预警信息不仅可以通过车架上的灯光提示，也能够利用车把震动反馈，甚至直接投射到智能头盔的显示面罩中，让骑行者无需低头查看设备即可获取重要信息。

Canyon还推出了一款配备大型透明面罩的智能头盔，能够实时显示导航、安全提醒以及其他骑行数据，也可通过语音方式向骑行者发送提示。不过，这些产品目前仍处于原型开发阶段，距离正式上市还有一定时间。

与此同时，Canyon正与大众汽车合作研发车联网系统，希望实现自行车与汽车、道路基础设施之间的信息互联。未来，当汽车准备转弯、变道或接近自行车时，双方可提前交换数据，从而减少交通事故。

不过，研发人员坦言，目前最大的挑战并非技术，而是道路上的绝大多数车辆尚未具备这种通信能力，因此整个生态系统仍需要较长时间才能建立。

人工智能不仅改变骑行体验，也开始重塑自行车行业的售后服务。

保险公司Linexo表示，到今年年底，约九成自行车保险理赔预计将实现全自动处理。AI能够快速识别普通理赔案件，自动完成审核和赔付，而复杂案件及涉嫌欺诈的情况则交由人工专家进一步调查。

企业认为，这种模式既能提高处理效率，也有助于降低运营成本，从而控制保险费用上涨。

与此同时，初创公司Wunderfix推出了一款智能维修平台。用户只需通过手机应用上传故障信息，AI便可帮助诊断问题，并指导用户自行完成简单维修；如果需要专业维修，平台还可直接连接附近的维修门店，安排后续服务。

据了解，今年该平台已经记录了约3000起维修服务请求，显示出数字化维修服务正逐渐受到消费者欢迎。

对于整个欧洲自行车产业而言，AI带来的不仅是产品升级，更是行业复苏的新契机。

咨询机构安永帕台农数据显示，2025年欧洲自行车市场销量连续第三年下滑，总销量下降4%，约为1520万辆。疫情期间形成的消费热潮退去后，行业一直面临库存积压、价格竞争激烈以及市场需求放缓等问题，许多企业承受着较大的经营压力。

不过，市场分析人士认为，行业最困难的阶段可能已经接近尾声。预计今年市场将逐渐企稳，并在未来几年恢复增长，到2031年欧洲自行车市场收入有望达到212亿欧元，重新接近2022年的历史高点。

业内普遍认为，除了持续改善骑行基础设施外，以人工智能、数字化管理和数据驱动产品为代表的新技术，将成为推动欧洲自行车行业下一轮增长的重要动力。

原文：https://techxplore.com/news/2026-06-industry-smart-bikes-boost-sales.html#google_vignette

封面图片：unsplash/Mikkel Bech

AI智能自行车成行业新希望最先出现在咕咕猫。

来自美国斯坦福大学的研究团队开发出一套名为 BurgerAI 的人工智能系统，希望借助机器学习重新定义汉堡配方。它不仅能够分析什么样的汉堡更美味，还能在营养价值、环境影响和消费者口味之间寻找最佳平衡。为了验证AI的成果，研究人员甚至把它设计出的汉堡搬进真实餐厅，让100多位食客进行盲测。

AI如何“学会”制作汉堡？

传统研发一种新食品，往往需要厨师和食品科学家反复试验不同配方，既耗时又耗力。

BurgerAI则采用了另一种思路。

研究人员首先收集了2200多份真实汉堡食谱，让AI学习各种食材之间的搭配规律，包括肉类、奶酪、酱料、蔬菜、面包以及调味料的比例关系。经过训练后，AI并不是简单复制已有配方，而是建立起一种对“美味汉堡”的统计模型，并据此生成全新的组合。

更有意思的是，研究团队还让AI尝试“还原”经典快餐汉堡。

虽然系统从未接触过某知名连锁品牌的官方配方，但它依靠学习大量公开食谱，自主生成了一份与经典汉堡高度相似的配方，说明AI确实掌握了受欢迎汉堡背后的搭配规律，而不是死记硬背。

真正的考验：让消费者蒙眼品尝

计算机模型是否真的有效，最终还要看消费者是否买账。

研究团队邀请专业厨师按照AI生成的配方制作汉堡，并在美国旧金山一家餐厅组织了一场盲测实验，共有101名参与者参加。

测试中，每位参与者都会品尝六款不同汉堡，其中包括AI设计的多种版本以及作为参照对象的一款经典快餐汉堡。整个过程中，参与者不知道自己吃的是哪一种，只根据口感、风味和整体喜爱程度进行评分。

结果显示，两款以“美味”为目标优化的AI汉堡表现十分出色。

其中一款在风味评分上超过了参考汉堡；另一款不仅风味得分更高，在整体喜爱程度上也取得了更好的成绩。参与者普遍认为，这些AI设计的汉堡更加多汁、烟熏味更浓，也更有肉香。

更环保和更健康，并不一定更受欢迎

除了追求美味，研究人员还让AI分别设计了以环保和营养为主要目标的汉堡。

其中一款以蘑菇为主要原料的汉堡，大幅降低了生产过程中预计产生的环境负担，其环境影响评分不到参考汉堡的十分之一，意味着如果广泛采用类似配方，可能有助于减少食品生产对环境造成的压力。

不过，在实际品尝中，这款蘑菇汉堡的表现却没有那么理想。

不少参与者认为，它在口感、风味以及整体满意度方面均逊于传统牛肉汉堡。

另一款兼顾牛肉与蘑菇的混合版本，则在味道上基本能够与参考汉堡相媲美，但环保优势也随之减弱。

研究人员还设计了一款以豆类为主要蛋白来源的高营养汉堡。

按照健康饮食指数（Healthy Eating Index）评估，它的营养得分接近参考汉堡的两倍，同时环境影响也明显更低。然而，消费者普遍认为这款汉堡口味较淡、质地偏干，整体接受度仍低于传统汉堡。

AI帮助寻找“最佳平衡”

研究人员认为，这项工作的意义并不是证明AI已经做出了世界上最好吃的汉堡，而是展示了一种全新的食品研发方式。

过去，食品开发更多依赖经验和不断试错；未来，AI可以同时考虑美味、营养、成本、环境影响等多个因素，在庞大的配方空间中快速寻找更优方案，大幅缩短研发周期。

研究团队表示，这种方法未来不仅可以应用于汉堡，还可能扩展到零食、饮料、植物蛋白食品，甚至个性化营养餐的开发。例如，根据年龄、运动量、健康状况甚至个人口味，为每位消费者定制更加适合自己的食品。

研究仍存在一定局限

研究人员也指出，目前BurgerAI仍有不少限制。

首先，它学习的数据主要来自西方汉堡食谱，因此对于其他国家或地区的饮食文化适应能力还有待验证。其次，AI目前主要分析食材及其比例，并未充分考虑烹饪方式、火候、加工工艺等对最终风味的重要影响。

此外，这次试吃实验仅在一家餐厅完成，参与人数为101人，未来仍需在更多地区、更多人群中开展更大规模的验证，以确认研究结果是否具有广泛适用性。

随着生成式人工智能不断发展，它的角色或许将不仅仅是回答问题或生成文字，而是逐渐成为科学研究和产品设计的重要工具。从设计汉堡到开发新材料、优化药物配方，AI参与创新的空间正在不断扩大，而BurgerAI只是其中一个有趣的起点。

原文：https://studyfinds.com/burgerai-design-burgers-taste-health-planet/

AI设计出“更好吃、更健康、更环保”的汉堡？科学家让100多人试吃后，结果出人意料最先出现在咕咕猫。

在许多人看来，哲学似乎是一门远离现实的学科，但对于人工智能企业而言，它却越来越具有实际价值。

原因在于，现代人工智能已经不仅仅是完成计算或回答问题那么简单。随着大语言模型不断进步，它们开始参与医疗、教育、法律、金融等多个领域，需要面对大量没有标准答案的复杂决策。这些问题往往涉及价值判断、伦理原则以及人与社会之间的关系，而这些恰恰是哲学研究了数千年的内容。

例如，当AI面对多个方案时，应该依据什么标准进行选择？不同文化背景下，对“公平”“责任”“自由”等概念的理解存在差异，如何让AI在各种场景下做出合理判断，也成为研发团队面临的新挑战。

这些问题无法单纯依靠代码解决。

因此，不少AI公司开始邀请哲学家参与模型设计、推理评估以及安全研究，希望借助哲学中的逻辑分析和概念辨析能力，让人工智能拥有更加严谨、可靠的推理过程。

除了伦理问题之外，哲学家还参与另一个热门领域——AI对齐（Alignment）。

所谓AI对齐，就是让人工智能始终按照人类的目标和价值观运行，而不会因为理解偏差产生危险行为。

看似简单的一句话，实际上涉及大量哲学问题。例如，人类价值观是否能够被精确定义？不同人的价值冲突应该如何平衡？如果AI拥有自主推理能力，它又该如何理解“善”与“恶”？

这些讨论过去属于哲学课堂，如今却成为人工智能研发的重要组成部分。

与此同时，哲学训练强调严密推理、识别逻辑漏洞以及分析复杂概念，这些能力也越来越受到AI企业重视。

大型语言模型虽然能够生成流畅文字，但有时仍会出现推理错误、自相矛盾或逻辑不一致的问题。哲学家可以帮助研究团队设计更加严格的测试方法，发现模型隐藏的思维漏洞，并改进AI的推理能力，而不仅仅关注回答是否流畅。

值得注意的是，这并不意味着AI公司只招聘哲学专业毕业生。

事实上，这些企业更看重的是跨学科能力，希望哲学家能够与计算机科学家、语言学家、心理学家以及认知科学研究人员共同合作，从不同角度理解智能本身，并帮助构建更加安全、可信的人工智能系统。

随着人工智能逐渐深入社会生活，人们关注的重点也正在发生变化。从最初追求模型“更快、更强”，到如今更加关注AI是否可靠、是否符合人类价值观，行业的发展方向正在不断调整。

越来越多AI实验室开始意识到，打造真正可信赖的人工智能，不仅需要先进的算法和强大的算力，也需要来自哲学、人文学科等领域的智慧。

或许未来最重要的AI团队，不只是程序员和工程师的组合，还会包括哲学家、伦理学家以及更多跨学科人才，共同决定人工智能的发展方向。

原文：https://www.economist.com/science-and-technology/2026/06/24/why-big-ai-labs-are-hiring-so-many-philosophers

AI公司为何争抢哲学家？答案或许超乎你的想象最先出现在咕咕猫。

一项针对1400多名美国受访者的调查发现，约79%的美国人支持政府对AI问答引擎实施监管，其中超过三分之一的人认为应采取“强监管”措施。只有约12%的人认为，现阶段不需要额外监管。

这个结果释放出一个清晰信号：公众并不反对AI的发展，但希望它能在明确规则下运行。

调查显示，虽然已有约三分之一的美国人每天都会使用AI工具，超过一半的人认为这些工具确实提升了网络体验，但“使用”并没有自动转化为“信任”。

真正推动监管呼声高涨的，是越来越强烈的不安感。

其中，最让人担忧的是隐私问题。约81%的受访者担心，AI系统可能会访问自己的私人信息、聊天记录，甚至个人文件。对于很多人来说，他们并不清楚自己的数据究竟被如何收集、储存和利用，这种“不透明”让焦虑不断加剧。

除了隐私，AI回答的准确性也是一大痛点。超过三分之一的人担心AI可能会给出错误信息，而普通用户往往很难判断哪些答案是真实可信的。

与此同时，还有不少人担忧AI会进一步影响就业市场。

另一项最新民调显示，超过七成美国人认为AI发展速度“太快了”，不少人担心它会取代人类工作岗位，甚至可能让经济收益更多流向少数科技公司，而普通劳动者难以受益。

公众对AI的不信任，也体现在对企业“自我监管”的怀疑上。

许多人并不相信科技公司会主动为公众利益设限，担心企业会把利润置于安全之上。因此，越来越多受访者认为，仅靠行业自律已经不够，必须由政府建立明确的规则，比如要求AI公司提高透明度、限制数据访问范围，并对错误信息和潜在风险承担责任。

值得注意的是，美国人并不是想要全面限制AI。

调查发现，多数人希望的是“适度监管”——既保障创新继续推进，也确保安全和公平。

换句话说，人们想看到的是“带护栏的AI”，而不是失控发展的技术竞赛。

这种态度也反映出一种现实矛盾：人们已经接受AI将成为未来生活的一部分，但同时也意识到，如果缺乏监管，它可能带来的风险会越来越难以控制。

从隐私泄露，到虚假信息，再到就业替代和能源消耗，AI正在引发越来越复杂的社会讨论。

对于美国政府来说，公众的期待已经很明确：AI可以继续发展，但不能没人管。

来源：studyfinds（编译 / 整理：olaola）

美国人一边用AI一边担忧，近八成支持政府加强监管最先出现在咕咕猫。

人工智能行业正在经历前所未有的扩张。

几乎每天都会有新的模型、新的融资、新的产品发布。科技公司不断投入巨额资金建设数据中心，购买芯片，招募研究人员。投资者疯狂追逐AI概念，大量创业公司估值飙升，整个行业都像进入了一场新的科技淘金热。

但一个越来越现实的问题也开始浮现：AI行业到底什么时候才能真正赚到钱？

过去几年里，OpenAI、Anthropic、Google、Meta 和微软等公司几乎主导了整个AI浪潮。ChatGPT等产品迅速改变了公众对人工智能的认知，很多企业也开始把AI功能整合进办公、搜索、编程和客服系统中。表面上看，整个行业一片繁荣。

但在巨大的热度背后，AI行业的财务状况却远没有外界想象得那么稳定。

报道指出，目前很多AI公司仍然处于“高收入、高烧钱”的阶段。它们虽然拥有庞大用户量和巨额融资，但真正能够持续盈利的商业模式依然不够清晰。

尤其是生成式AI，对算力的消耗极其惊人。

每一次用户提问、生成图片、分析文件，背后都需要大量GPU参与计算。这意味着公司必须持续支付庞大的服务器、电力和芯片成本。很多AI服务即使收费，也未必能覆盖真实运行开销。

一些行业分析人士甚至认为，当前AI行业存在类似互联网泡沫时期的现象。

大量资本正疯狂涌入AI领域，但许多企业实际上还没有找到稳定盈利方式。投资者愿意持续烧钱，很大程度上是因为他们担心错过下一代科技革命。

科技巨头之间的竞争也在进一步推高成本。

Alphabet、Amazon、Meta 和 Microsoft 等公司正在持续扩大AI基础设施投资。报道提到，整个行业的资本支出已经达到惊人规模，仅大型科技企业相关投入就超过数千亿美元。与此同时，越来越多公司开始通过借债维持AI扩张。

问题在于，目前真正愿意为AI支付高额费用的用户数量，还不足以支撑如此庞大的投入。

虽然很多普通用户每天都在使用AI聊天工具，但大部分人仍停留在免费版本。真正能贡献稳定收入的企业级客户虽然增长迅速，却还不足以让整个行业全面盈利。

一些调查显示，不少企业虽然正在测试AI，但实际收益并没有想象中明显。

很多公司引入AI后，员工效率确实有所提升，但距离“彻底改变生产力”还有很大差距。有些企业甚至开始重新评估AI预算，因为投入和回报之间暂时没有形成理想比例。

与此同时，AI行业内部也在形成新的竞争压力。

最初，OpenAI凭借ChatGPT几乎定义了整个生成式AI市场。但随后Anthropic、Google Gemini、Meta Llama等模型快速跟进，让竞争变得异常激烈。随着越来越多模型出现，AI能力逐渐趋同，未来产品之间的差异可能越来越小。

这意味着，AI公司最终可能不得不进入更残酷的商业竞争阶段。

当模型能力接近时，真正决定胜负的，也许不再是技术本身，而是谁拥有更多用户、更多生态系统，以及更稳定的盈利渠道。

报道还提到，广告模式可能会成为未来AI行业的重要收入来源。

因为目前很多AI产品的订阅收入仍有限，而互联网历史已经证明，真正拥有海量用户的平台，最终往往会走向广告变现。部分投资人认为，未来AI助手可能会像搜索引擎和社交平台一样，通过广告获得巨大收入。

但这种模式也引发担忧。

如果AI系统未来开始深度依赖广告收入，那么它们提供答案时，是否还会保持中立？用户看到的内容会不会越来越受到商业利益影响？这些问题目前还没有明确答案。

另一方面，AI行业也开始出现越来越明显的“赢家通吃”趋势。

由于训练先进模型需要极其庞大的资金和算力，小公司越来越难与科技巨头竞争。未来几年，真正能持续留在第一梯队的AI公司，也许只会剩下少数几家。

不过，即使部分公司未来失败，很多人依然认为AI革命本身不会消失。

类似情况曾经发生在互联网泡沫时期。大量企业最终倒闭，但互联网基础设施和数字经济却真正改变了世界。如今一些分析人士认为，AI行业也可能重复类似路径：泡沫可能会破裂，但技术本身仍会长期存在。

还有经济学家指出，AI真正的影响可能并不会立刻体现。

历史上很多重大技术革命，都经历过长时间基础设施建设阶段。铁路、电力、互联网都曾在初期经历疯狂投资和盈利困难，但多年后才逐渐改变整个经济结构。AI也许同样需要时间。

目前最现实的情况是，整个AI行业仍处于“先扩张，再寻找盈利”的阶段。

公司们正在疯狂争夺市场、用户和技术优势，因为没人愿意错过可能出现的下一代平台革命。但真正能够长期赚钱、并建立稳定商业模式的企业，到底会是谁，现在依然没人能够确定。

本文译自：newyorker（编译 / 整理：olaola）

图片来源：unsplash/Igor Omilaev

人工智能行业越来越火，但真正赚钱的时候还没到来最先出现在咕咕猫。

一项来自哈佛医学院的最新研究，引发了医疗界和科技界的广泛关注：在某些关键场景下，人工智能给出的诊断结果，竟然比急诊医生更加准确。这听起来像是科幻电影的情节，但如今，它正在逐步成为现实的一部分。

研究团队通过一系列严格测试，将一款具备“推理能力”的人工智能模型，与真实执业医生进行对比。这些测试并不是简单的理论题，而是基于真实急诊病例的数据，包括患者的基本信息、生命体征以及医生最初记录的症状描述。换句话说，AI面对的，是和医生几乎相同的信息环境。

结果令人意外。在最关键的一项实验中，AI在大约67%的病例中给出了完全正确或接近正确的诊断，而参与测试的医生准确率大约在50%到55%之间。这意味着，在有限信息条件下，AI的判断整体上更接近真实答案。

不仅如此，当研究人员向系统提供更多详细信息后，AI的准确率还能进一步提升到80%以上，甚至超过多数医生的表现。这种能力主要来源于其对大量医学知识的整合，以及逐步推理问题的方式，使它能够在复杂情况下找到更合理的解释路径。

研究还显示，AI不仅在“猜测病因”方面表现出色，在制定下一步诊疗方案时也具备优势。它可以根据已有数据快速提出检查建议、判断风险，并给出多个可能的诊断方向。这种能力在急诊场景中尤为重要，因为医生往往需要在极短时间内做出决策。

不过，这并不意味着医生即将被取代。研究人员和专家普遍强调，这类测试主要基于文本和数据分析，而现实中的医疗远比这复杂。医生不仅要解读数据，还需要观察患者的表情、体态、痛苦程度，以及进行人与人之间的沟通。这些因素，目前的AI仍然难以全面掌握。

此外，这项研究是在受控环境中进行的，并没有直接在真实急诊室中独立运行AI系统。因此，它更像是一种能力验证，而不是临床实践的最终结论。真正将AI应用到医院，还需要经过更严格的测试、监管和伦理评估。

值得注意的是，研究人员提出了一种更现实的发展方向：不是让AI替代医生，而是让两者协同工作。AI可以作为“第二意见”，帮助医生减少误判，提高诊断效率，同时减轻繁重的文书和数据处理压力。这种“人机合作”的模式，可能才是未来医疗的核心形态。

从更长远的角度来看，这项研究揭示了一个重要趋势——医疗正在从经验驱动，逐步走向数据与算法驱动。AI并不会让医生消失，但会改变医生的工作方式。未来的医生，可能需要同时具备医学知识和对技术工具的理解，才能更好地利用这些新能力。

换句话说，这场变化的关键，不是谁取代谁，而是谁能更好地与技术协作。在这个过程中，真正受益的，或许将是每一个患者。

本文译自：techcrunch（编译 / 整理：olaola）

图片来源：unsplash/Igor Omilaev

AI在急诊诊断中表现更准，医生会被取代吗最先出现在咕咕猫。

随着大规模语言模型（LLM）如 ChatGPT 的普及，人工智能对我们写作和说话的方式产生了深远影响。研究人员发现，这些工具正在推动一种更标准化、更可预测的表达风格，无论用户是否直接使用 AI，都在潜移默化中趋向类似的语言模式。

这项趋势不仅体现在书面文字中，也渗透到了日常交流里。科学家在分析学术期刊、本地新闻和社交媒体的大量样本后发现，自从 ChatGPT 发布以来，不同文本的句式结构和词汇使用的多样性明显下降。许多常见的词汇和表达方式如今频繁出现在各种语境中，这表明人们为了追求“权威感”和清晰度，倾向于采用 AI 影响下的语言风格。

南加州大学的一位教授指出，人们逐渐习惯这种“理想化”的语言形式，即便他们并未直接借助 AI 生成内容，也会模仿这种风格以显得更有影响力。这种趋同现象也引发了语言学界的担忧。一些语言专家认为，AI 生成的文本虽然在语法上几乎无可挑剔，却缺少个性和艺术性，导致表达变得千篇一律，失去了原本富于变化的语言魅力。

来自华盛顿大学的语言学家明确表示，他尽力避免阅读 AI 生成的内容，因为这类内容常常难以分辨出处，有时甚至会误以为是人类写的。他警告称，追求“ChatGPT 水平的润色”可能会削弱个体真实的表达声音，形成一种他称之为“LinkedIn 平均语调”的平淡官方风格，这种趋同不仅影响写作，还可能渗透到口语表达中。

此外，有观察指出，AI 在推动语言标准化的同时，也改变了我们的沟通习惯。例如，一些 AI 推荐的词汇和构句方式，如 “delve”、“meticulous”、“boast” 等词汇，出现在普通对话和写作中的频率明显上升，这表明 AI 训练出的语言模型在塑造大众语言风格方面拥有显著影响力。

尽管 AI 工具在提高语法准确性、帮助生成清晰表达方面有其优势，但这种技术驱动的语言变迁也带来了文化和认知层面的讨论。一些学者强调，书写和表达本身是一种认知过程，有助于组织思维并促进深度思考，如果过分依赖 AI 做这项工作，我们可能会丧失一些独立思考和表达的能力。

总的来说，人工智能正在重塑我们的书写与表达方式，它不仅改变了我们选择哪些词语和句式，也在影响我们如何思考与沟通。未来，如何在利用 AI 优势的同时保持语言的多样性与个性，将是社会、教育界和语言学界共同面临的重要课题。

本文译自：asteriskmag（编译 / 整理：olaola）

图片来源：unsplash/Igor Omilaev

人工智能正在改变我们的写作与表达方式最先出现在咕咕猫。