<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>人工智能 归档 - 咕咕猫</title>
	<atom:link href="https://www.gugumao.net/p/tag/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD/feed" rel="self" type="application/rss+xml" />
	<link>https://www.gugumao.net/p/tag/人工智能</link>
	<description></description>
	<lastBuildDate>Thu, 20 Aug 2026 12:25:24 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=7.1.1</generator>

<image>
	<url>https://www.gugumao.net/wp-content/uploads/2025/10/cropped-cute-7270285_640-32x32.png</url>
	<title>人工智能 归档 - 咕咕猫</title>
	<link>https://www.gugumao.net/p/tag/人工智能</link>
	<width>32</width>
	<height>32</height>
</image> 
	<item>
		<title>AI真的比人类更会认脸吗？</title>
		<link>https://www.gugumao.net/p/5973</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Thu, 20 Aug 2026 12:25:21 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5973</guid>

					<description><![CDATA[<p>如今，刷脸解锁手机、机场进行身份核验、公共场所进行安全识别……人脸识别技术已经悄然进入我们的日常生活</p>
<p><a href="https://www.gugumao.net/p/5973">AI真的比人类更会认脸吗？</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">如今，刷脸解锁手机、机场进行身份核验、公共场所进行安全识别……人脸识别技术已经悄然进入我们的日常生活。</p>



<p class="wp-block-paragraph">随着人工智能不断发展，机器识别人脸的能力也越来越强。很多时候，AI不仅能够判断两张照片中的人是不是同一个人，还可以对不同面孔之间的相似程度进行分析。</p>



<p class="wp-block-paragraph">那么，一个看似简单的问题也随之出现了：</p>



<p class="wp-block-paragraph"><strong>AI真的比人类更擅长识别人脸吗？</strong></p>



<p class="wp-block-paragraph">美国圣母大学的一项最新研究，专门对这个问题进行了深入调查。研究人员将商业人工智能系统和开源AI模型的识别结果，与约4000名人类参与者的判断进行了比较，希望弄清楚机器和人类在判断面孔相似性时究竟有多大的差别。</p>



<p class="wp-block-paragraph">研究结果并没有简单地告诉我们“AI赢了”或者“人类更强”，反而揭示了一个更加复杂的事实：<strong>AI与人类在判断人脸相似程度时，往往存在相当程度的一致性，但最终结果会受到多个因素影响，包括观察者自身的识别能力、观察对象的种族，以及观察者与被观察对象之间的种族差异。</strong></p>



<p class="wp-block-paragraph">这项研究由圣母大学门多萨商学院信息技术、分析与运营学教授Ahmed Abbasi等研究人员开展，相关成果发表在《Journal of Applied Research in Memory and Cognition》上。</p>



<p class="wp-block-paragraph">研究人员之所以关注这个问题，并不仅仅是因为“谁更会认脸”听起来有趣。</p>



<p class="wp-block-paragraph">事实上，人脸识别已经成为现代社会的一项重要技术。从边境安全、身份核验，到智能手机解锁，越来越多的场景开始依赖算法判断一个人的身份。与此同时，这项技术也一直伴随着隐私、公平性以及公民权利等方面的争议。</p>



<p class="wp-block-paragraph">尤其值得注意的是，AI究竟是依据什么来判断两张脸“像不像”，普通人通常并不清楚。</p>



<p class="wp-block-paragraph">很多先进的AI模型就像一个难以打开的“黑箱”。它可以迅速给出判断，却未必能够用人类容易理解的方式解释自己为什么得出了这个结果。</p>



<p class="wp-block-paragraph">研究人员因此希望换一个角度：既然AI已经越来越多地参与人脸识别，那么我们能不能把它与人类的判断放在同一个实验环境中进行比较？</p>



<p class="wp-block-paragraph">为此，研究团队让大量人类参与者完成面孔识别和相似性判断任务，再将这些结果与商业AI以及开源AI系统进行对照。</p>



<p class="wp-block-paragraph">结果显示，在很多情况下，人类和AI对于两张面孔是否相似的判断其实相当接近。</p>



<p class="wp-block-paragraph">但问题也恰恰出现在这里。</p>



<p class="wp-block-paragraph"><strong>“接近”并不意味着所有人都一样。</strong></p>



<p class="wp-block-paragraph">研究发现，一个人的先天面孔识别能力，会明显影响他与AI判断结果的一致程度。</p>



<p class="wp-block-paragraph">有些人天生就非常擅长记住和区分不同人的脸，即使只见过一次，也可能很快记住对方的面部特征。而另一些人则恰恰相反，即便面对经常见到的人，也可能需要更多时间才能准确辨认。</p>



<p class="wp-block-paragraph">研究人员发现，那些本身就比较擅长识别人脸的人，他们的判断与AI的结果更加接近。根据所使用的不同AI模型，这类人的判断与机器结果的一致程度至少可以高出约15%。</p>



<p class="wp-block-paragraph">这意味着，如果把顶级AI系统的识别结果简单地视为一个“标准答案”，那么我们可能会发现，真正能够稳定准确识别人脸的人，其实远没有想象中那么多。</p>



<p class="wp-block-paragraph">圣母大学研究人员Ahmed Abbasi指出，如今顶尖的人工智能系统在面孔识别方面已经可以达到优秀人类专家的水平。</p>



<p class="wp-block-paragraph">而这一发现，也让一个长期被忽略的问题浮出了水面：</p>



<p class="wp-block-paragraph"><strong>我们一直在担心AI会不会犯错，却可能低估了人类自己犯错的概率。</strong></p>



<p class="wp-block-paragraph">这一点在现实应用中尤其重要。</p>



<p class="wp-block-paragraph">例如，在一些执法场景中，技术并不是完全由AI独立完成判断，而是采用所谓的“人在回路中”模式。</p>



<p class="wp-block-paragraph">简单来说，就是先让算法发现可能匹配的人脸，然后交给工作人员进行最终确认。</p>



<p class="wp-block-paragraph">表面上看，这种模式似乎可以兼顾机器的效率和人的判断能力。</p>



<p class="wp-block-paragraph">但研究结果提醒我们，事情可能没有这么简单。</p>



<p class="wp-block-paragraph">如果AI给出的判断与普通人的判断并不完全一致，那么最终负责确认结果的人到底有多擅长识别人脸，就可能直接影响最终结论。</p>



<p class="wp-block-paragraph">一个本身就不擅长识别人脸的人，即使拥有最终决定权，也不一定能够有效纠正算法的错误。</p>



<p class="wp-block-paragraph">相反，那些本身具有较强面孔识别能力的人，往往更容易与AI系统形成一致判断。</p>



<p class="wp-block-paragraph">这就意味着，在一些高风险场景中，“最后由人来决定”本身并不能自动保证结果更加可靠。</p>



<p class="wp-block-paragraph">更值得警惕的是，这项研究还发现，AI系统自身也并非完全可靠。</p>



<p class="wp-block-paragraph">不同的AI模型之间，有时也会对同一张脸得出不同的判断。</p>



<p class="wp-block-paragraph">研究人员特别关注了跨种族的人脸识别问题，并使用329张标准化的跨种族照片进行了受控实验。</p>



<p class="wp-block-paragraph">结果显示，当AI面对训练数据中代表性不足的种族群体时，其识别准确性可能出现下降。</p>



<p class="wp-block-paragraph">这并不是一个突然出现的新问题。</p>



<p class="wp-block-paragraph">研究人员指出，计算机视觉领域二十多年来的研究都曾反复发现类似的系统性缺陷，因此想要彻底消除这些问题，并不是简单地升级一次算法就能够完成的。</p>



<p class="wp-block-paragraph">AI的能力很大程度上取决于它学习过什么样的数据。</p>



<p class="wp-block-paragraph">如果训练数据中某些人群的面孔数量明显不足，那么模型在面对这些群体时，就可能缺乏足够的识别经验。</p>



<p class="wp-block-paragraph">这也解释了为什么一个看起来在整体测试中表现优秀的AI系统，在某些特定人群身上却可能出现明显不同的表现。</p>



<p class="wp-block-paragraph">因此，在讨论人工智能是否存在偏见时，仅仅问一句“这个AI准确率有多高”可能还不够。</p>



<p class="wp-block-paragraph">我们还需要进一步追问：</p>



<p class="wp-block-paragraph"><strong>它对谁更准确？对谁更容易出错？</strong></p>



<p class="wp-block-paragraph">这也是这项研究最值得关注的地方之一。</p>



<p class="wp-block-paragraph">过去，人们谈到人脸识别技术时，通常更加关注算法本身是否存在偏见，以及AI会不会因为训练数据的问题而产生错误判断。</p>



<p class="wp-block-paragraph">但研究人员认为，人类本身同样存在明显的识别局限。</p>



<p class="wp-block-paragraph">尤其是在涉及刑事案件、目击证词以及其他高风险决策时，人类对面孔的记忆和判断并不能被理所当然地视为可靠标准。</p>



<p class="wp-block-paragraph">一个目击者非常确信自己“见过这个人”，并不意味着这种记忆一定准确。</p>



<p class="wp-block-paragraph">人的记忆会受到观察时间、环境、心理状态以及个人识别能力等多种因素影响。</p>



<p class="wp-block-paragraph">因此，当AI和人类共同参与判断时，真正需要关注的并不是简单地比较“机器更准还是人更准”，而是要弄清楚<strong>机器和人的错误分别来自哪里，以及两者结合之后是否真的能够降低整体风险。</strong></p>



<p class="wp-block-paragraph">与此同时，人脸识别技术还有另一个无法回避的问题——透明度。</p>



<p class="wp-block-paragraph">如果一个AI系统告诉警方，两张照片中的人“高度相似”，那么相关人员应该有权知道这个判断是如何产生的吗？</p>



<p class="wp-block-paragraph">如果算法的内部逻辑完全不公开，被识别者又该如何质疑这个结果？</p>



<p class="wp-block-paragraph">这实际上已经不仅仅是一个技术问题，而开始涉及法律程序和个人权利。</p>



<p class="wp-block-paragraph">研究中提到了美国新泽西州的一起具有代表性的案件——State v. Arteaga。</p>



<p class="wp-block-paragraph">在这起案件中，法院要求警方公开相关AI系统的设计信息，以便被告能够对作为证据使用的人工智能分析结果提出有效质疑。</p>



<p class="wp-block-paragraph">这个案例说明，当AI开始参与司法和执法决策时，“算法说了算”显然不能成为最终答案。</p>



<p class="wp-block-paragraph">如果一个AI系统的判断可能影响一个人的自由、名誉甚至人生，那么人们至少应该拥有审查和质疑这一判断的机会。</p>



<p class="wp-block-paragraph">这也是所谓“黑箱AI”最令人担忧的地方之一。</p>



<p class="wp-block-paragraph">一旦算法的判断无法解释，出现错误之后，人们可能很难判断问题究竟来自数据、模型、训练过程，还是最终的人类操作人员。</p>



<p class="wp-block-paragraph">而在现实世界中，这些因素甚至可能同时存在。</p>



<p class="wp-block-paragraph">研究人员因此提出，与其单纯地把AI看成一种可以替代人的工具，不如把未来的人工智能系统看成一种需要人与机器共同承担责任的技术。</p>



<p class="wp-block-paragraph">AI需要接受评估，人也同样需要接受评估。</p>



<p class="wp-block-paragraph">算法需要测试准确率，人类决策者同样需要了解自己的识别能力和局限。</p>



<p class="wp-block-paragraph">尤其是在涉及重大利益的情况下，不能因为最终按钮是由人按下的，就认为整个过程已经足够安全。</p>



<p class="wp-block-paragraph">事实上，这项研究带来的一个重要启示就是：</p>



<p class="wp-block-paragraph"><strong>人工智能并不是人类错误的天然解药。</strong></p>



<p class="wp-block-paragraph">如果AI本身存在偏差，而负责最终确认的人又恰好缺乏足够的识别能力，那么“AI+人类”的组合并不一定比单独使用AI更加可靠。</p>



<p class="wp-block-paragraph">反过来，如果能够选择经过充分训练、具备较强识别能力的人，并让他们与经过严格验证的AI系统协作，那么机器和人的优势或许可以真正得到互补。</p>



<p class="wp-block-paragraph">因此，未来真正值得研究的问题，可能已经不是“AI能不能超过人类”，而是：</p>



<p class="wp-block-paragraph"><strong>在什么情况下，什么样的人，与什么样的AI搭配，才能做出最可靠的判断？</strong></p>



<p class="wp-block-paragraph">随着人脸识别技术进一步普及，这个问题的重要性还会不断增加。</p>



<p class="wp-block-paragraph">从手机解锁这样的日常应用，到机场安检、身份验证，再到司法和公共安全领域，AI识别人脸的能力正在影响越来越多现实生活中的决定。</p>



<p class="wp-block-paragraph">但技术越强大，我们就越不能忽视它的边界。</p>



<p class="wp-block-paragraph">这项来自圣母大学的研究提醒我们，AI的识别能力已经足以与优秀的人类专家相媲美，但这并不意味着机器已经解决了所有问题。</p>



<p class="wp-block-paragraph">AI可能犯错，人也可能犯错；AI可能存在数据偏差，人类同样可能受到自身经验和认知能力的影响。</p>



<p class="wp-block-paragraph">因此，在进入一个人与人工智能越来越深度协作的时代之后，我们真正需要建立的，并不是对机器的盲目信任，而是一套能够同时检验<strong>算法可靠性与人类判断能力</strong>的机制。</p>



<p class="wp-block-paragraph">只有当机器和人都接受足够严格的审视，我们才能真正知道，一项看起来“非常聪明”的人脸识别技术，到底有多可靠。</p>



<p class="wp-block-paragraph">原文：https://www.futurity.org/ai-recognizing-faces-3342092/</p>
<p><a href="https://www.gugumao.net/p/5973">AI真的比人类更会认脸吗？</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>你其实不必使用AI：在所有人都向前奔跑的时候，保留说“不”的自由</title>
		<link>https://www.gugumao.net/p/5935</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Tue, 18 Aug 2026 03:54:27 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5935</guid>

					<description><![CDATA[<p>这几年，关于人工智能最常见的问题，似乎已经从“AI到底能做什么”，变成了“你应该怎么使用AI</p>
<p><a href="https://www.gugumao.net/p/5935">你其实不必使用AI：在所有人都向前奔跑的时候，保留说“不”的自由</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph" style="font-size:16px">这几年，关于人工智能最常见的问题，似乎已经从“AI到底能做什么”，变成了“你应该怎么使用AI”。</p>



<p class="wp-block-paragraph" style="font-size:16px">工作的人被提醒要学会使用AI，否则可能被效率更高的人取代；学生被建议使用AI辅助学习；创业者被告知应该尽快把AI加入自己的产品；普通人也不断被各种应用提醒，似乎只要没有把人工智能加入自己的日常生活，就已经落后于这个时代。</p>



<p class="wp-block-paragraph" style="font-size:16px">这种氛围非常强烈，以至于很多人甚至没有认真思考过另一个更加简单的问题：如果我不想使用AI，可以吗？</p>



<p class="wp-block-paragraph" style="font-size:16px">答案其实没有那么复杂。</p>



<p class="wp-block-paragraph" style="font-size:16px">当然可以。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果你暂时觉得人工智能对自己没有帮助，不喜欢这种工具，担心它改变自己的工作方式，或者只是单纯对它没有兴趣，那么你完全可以选择不用。</p>



<p class="wp-block-paragraph" style="font-size:16px">这并不是一种必须被纠正的落后，也不意味着你拒绝接受现实。</p>



<p class="wp-block-paragraph" style="font-size:16px">你可以观察，可以等待，也可以在未来某一天改变想法。</p>



<p class="wp-block-paragraph" style="font-size:16px">甚至，你也可以一直不用。</p>



<p class="wp-block-paragraph" style="font-size:16px">但在今天的技术环境中，说出这句话似乎已经需要一点勇气。</p>



<p class="wp-block-paragraph" style="font-size:16px">因为围绕人工智能形成的主流叙事，往往不是“你可以考虑使用它”，而是“你迟早都必须使用它”。</p>



<p class="wp-block-paragraph" style="font-size:16px">从科技公司的宣传，到创业圈的讨论，再到社交媒体上的各种经验分享，人们不断被告知AI将改变一切。</p>



<p class="wp-block-paragraph" style="font-size:16px">它会进入办公室，进入学校，进入家庭，进入搜索、写作、编程、设计、医疗、金融以及娱乐等几乎所有领域。</p>



<p class="wp-block-paragraph" style="font-size:16px">于是，一个潜在的逻辑就被悄悄建立起来：既然AI注定会改变未来，那么现在就应该赶紧加入。</p>



<p class="wp-block-paragraph" style="font-size:16px">否则，你就可能成为那个被时代甩在后面的人。</p>



<p class="wp-block-paragraph" style="font-size:16px">这种思维方式其实并不只存在于人工智能时代。</p>



<p class="wp-block-paragraph" style="font-size:16px">每当一种影响巨大的新技术出现时，人们似乎都会产生类似的紧迫感。</p>



<p class="wp-block-paragraph" style="font-size:16px">铁路出现的时候，有人相信它会改变整个社会；汽车普及的时候，人们开始重新思考城市和生活方式；互联网兴起以后，很多人认为所有事情最终都会搬到线上；智能手机成为日常生活的一部分之后，不使用智能手机的人也逐渐被认为“不方便”甚至“不正常”。</p>



<p class="wp-block-paragraph" style="font-size:16px">技术进步当然真实存在。</p>



<p class="wp-block-paragraph" style="font-size:16px">问题在于，技术进步和个人必须接受技术，并不是同一件事情。</p>



<p class="wp-block-paragraph" style="font-size:16px">历史会向前发展，并不代表每个人都必须主动参与推动它。</p>



<p class="wp-block-paragraph" style="font-size:16px">更不能因为一种技术可能成为未来的主流，就反过来认为所有人今天都应该拥抱它。</p>



<p class="wp-block-paragraph" style="font-size:16px">尤其值得警惕的是一种越来越常见的“未来已经确定”的说法。</p>



<p class="wp-block-paragraph" style="font-size:16px">科技行业经常使用未来时态来谈论技术。</p>



<p class="wp-block-paragraph" style="font-size:16px">他们不是说AI“可能”改变某个行业，而是说AI“将会”改变这个行业；不是说某种工作“有可能”被自动化，而是直接讨论“当这类工作被AI取代之后怎么办”。</p>



<p class="wp-block-paragraph" style="font-size:16px">这种语言很有力量，因为它会让一个尚未发生的未来看起来像一件已经发生的事实。</p>



<p class="wp-block-paragraph" style="font-size:16px">当人们不断告诉你某件事情一定会发生时，你很容易忘记一个最基本的问题：未来真的已经被决定了吗？</p>



<p class="wp-block-paragraph" style="font-size:16px">如果未来真的完全不可改变，那么我们现在做什么似乎都没有意义。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI注定会进入每个人的生活，那么个人是否使用它当然就显得无关紧要。</p>



<p class="wp-block-paragraph" style="font-size:16px">但恰恰因为未来并没有完全确定，我们才需要认真考虑自己希望它变成什么样子。</p>



<p class="wp-block-paragraph" style="font-size:16px">历史从来不是一列已经铺好轨道、所有人只能乖乖登上的火车。</p>



<p class="wp-block-paragraph" style="font-size:16px">技术的发展也不是一种必须服从的自然法则。</p>



<p class="wp-block-paragraph" style="font-size:16px">人类会选择哪些技术被广泛采用，也会决定哪些技术被限制、调整或者最终放弃。</p>



<p class="wp-block-paragraph" style="font-size:16px">因此，对于一项可能深刻改变生活方式的新技术来说，保持一点距离并不是一种荒谬的态度。</p>



<p class="wp-block-paragraph" style="font-size:16px">有时候，越是具有颠覆性的技术，越值得人们慢一点。</p>



<p class="wp-block-paragraph" style="font-size:16px">这听起来似乎与今天的主流观点相反。</p>



<p class="wp-block-paragraph" style="font-size:16px">我们经常听到一句话：不要害怕新技术，要亲自试一试。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果你觉得AI不好用，可能只是因为你还没有真正理解它；如果你早期使用聊天机器人感觉很普通，也不要急着下结论，因为未来的模型一定会越来越强。</p>



<p class="wp-block-paragraph" style="font-size:16px">这种观点当然有一定道理。</p>



<p class="wp-block-paragraph" style="font-size:16px">技术确实会快速发展。</p>



<p class="wp-block-paragraph" style="font-size:16px">今天不好用的产品，几年以后可能变得完全不同。</p>



<p class="wp-block-paragraph" style="font-size:16px">但这并不能证明现在每个人都有义务使用它。</p>



<p class="wp-block-paragraph" style="font-size:16px">有人喜欢尝试新工具，有人愿意等待成熟，有人则根本不感兴趣。</p>



<p class="wp-block-paragraph" style="font-size:16px">这些选择都可以成立。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个人不需要亲自使用某项技术，才能对它可能带来的社会影响提出意见。</p>



<p class="wp-block-paragraph" style="font-size:16px">你不需要亲自驾驶自动驾驶汽车，才能讨论它对城市交通的影响；你也不需要每天使用某个社交平台，才能观察它如何改变人与人之间的关系。</p>



<p class="wp-block-paragraph" style="font-size:16px">同样，一个人即使没有使用AI，也可以认真思考人工智能会如何影响工作、教育、隐私、创造力以及人的自主性。</p>



<p class="wp-block-paragraph" style="font-size:16px">因为技术从来不只是一个摆在桌面上的工具。</p>



<p class="wp-block-paragraph" style="font-size:16px">当一种技术被数亿人同时使用时，它会改变整个环境。</p>



<p class="wp-block-paragraph" style="font-size:16px">就像智能手机一样。</p>



<p class="wp-block-paragraph" style="font-size:16px">早期手机用户可以决定自己是否随身携带一部手机，但当智能手机成为社会基础设施之后，不使用它的人也开始承担越来越高的成本。</p>



<p class="wp-block-paragraph" style="font-size:16px">没有智能手机，可能意味着无法方便地支付、导航、预约、登录账户，甚至无法正常参与某些社交活动。</p>



<p class="wp-block-paragraph" style="font-size:16px">这就是技术普及真正复杂的地方。</p>



<p class="wp-block-paragraph" style="font-size:16px">个人最初拥有选择权，但当越来越多的人采用一种技术之后，社会可能会逐渐围绕这种技术重新组织。</p>



<p class="wp-block-paragraph" style="font-size:16px">最终，一个原本可以自由选择的工具，可能变成一种“不使用就很麻烦”的基础设施。</p>



<p class="wp-block-paragraph" style="font-size:16px">所以，对于今天的AI，我们真正需要思考的并不是“AI会不会变得更强”。</p>



<p class="wp-block-paragraph" style="font-size:16px">它大概率会。</p>



<p class="wp-block-paragraph" style="font-size:16px">真正值得讨论的问题是：当AI越来越强的时候，我们是否仍然有权决定自己在什么地方使用它，在什么地方不用它？</p>



<p class="wp-block-paragraph" style="font-size:16px">如果一个人希望自己写文章、画画、学习、思考或者解决问题时尽量保持独立，那么这种选择是否应该得到尊重？</p>



<p class="wp-block-paragraph" style="font-size:16px">如果一个人认为某些工作虽然可以交给AI完成，但自己更愿意亲手完成，那么这种坚持是不是一种没有意义的固执？</p>



<p class="wp-block-paragraph" style="font-size:16px">答案未必是肯定的。</p>



<p class="wp-block-paragraph" style="font-size:16px">效率当然重要。</p>



<p class="wp-block-paragraph" style="font-size:16px">节省时间当然是一件好事。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI能够帮助人们处理重复劳动，让人从繁琐工作中解放出来，那么使用它显然具有价值。</p>



<p class="wp-block-paragraph" style="font-size:16px">但问题在于，当“效率”变成唯一标准时，我们可能会忽略另外一些东西。</p>



<p class="wp-block-paragraph" style="font-size:16px">并不是所有事情都应该以最快的速度完成。</p>



<p class="wp-block-paragraph" style="font-size:16px">并不是所有思考都需要被压缩成最短路径。</p>



<p class="wp-block-paragraph" style="font-size:16px">也不是所有劳动都是因为它低效，所以才值得被消除。</p>



<p class="wp-block-paragraph" style="font-size:16px">有些事情之所以值得人亲自去做，恰恰是因为做这件事情的过程本身具有意义。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个学生自己阅读一本困难的书，可能比让AI几秒钟总结出全部内容更加费时间。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个人亲自写一封信，可能比让AI生成一封漂亮的文字更加麻烦。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个程序员亲手解决一个复杂问题，可能没有直接调用AI生成代码那么快。</p>



<p class="wp-block-paragraph" style="font-size:16px">但在这些过程中，人获得的不只是一个最终结果。</p>



<p class="wp-block-paragraph" style="font-size:16px">人也在形成能力。</p>



<p class="wp-block-paragraph" style="font-size:16px">我们很容易把“完成任务”和“获得能力”混为一谈。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI替你完成了一件事情，那么事情确实完成了。</p>



<p class="wp-block-paragraph" style="font-size:16px">可是，你自己是否因此学会了这件事情？</p>



<p class="wp-block-paragraph" style="font-size:16px">这两者并不完全相同。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个人可以借助AI得到一份看起来非常优秀的答案，却没有真正理解答案为什么成立。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个人可以让AI写出一段代码，却没有能力判断代码是否存在严重问题。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个人可以让AI替自己整理所有资料，却逐渐失去独立寻找和判断信息的能力。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果这种模式长期持续，那么我们得到的可能是更高的短期效率，却同时失去了一部分长期能力。</p>



<p class="wp-block-paragraph" style="font-size:16px">这并不是说AI一定会让人变笨。</p>



<p class="wp-block-paragraph" style="font-size:16px">而是说，当我们习惯于把思考过程交给机器时，就需要认真问自己：哪些能力是我愿意保留的？</p>



<p class="wp-block-paragraph" style="font-size:16px">这也是为什么“选择不用AI”有时候并不是对技术的恐惧，而可能是一种主动选择。</p>



<p class="wp-block-paragraph" style="font-size:16px">它不是说机器不好，而是说有些事情，我希望自己来做。</p>



<p class="wp-block-paragraph" style="font-size:16px">有些人可能会觉得，这种想法过于保守。</p>



<p class="wp-block-paragraph" style="font-size:16px">毕竟，如果AI可以帮助我们完成大量任务，为什么还要坚持亲自完成？</p>



<p class="wp-block-paragraph" style="font-size:16px">答案可能在于，我们的生活并不是一场单纯追求效率最大化的竞赛。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果把效率提高到极致，生活并不会因此自动变得更有意义。</p>



<p class="wp-block-paragraph" style="font-size:16px">相反，我们甚至可能陷入一种新的困境：因为工具能够帮助我们完成更多事情，所以我们最终承担了更多事情。</p>



<p class="wp-block-paragraph" style="font-size:16px">过去，一个工作日可能只有固定数量的任务。</p>



<p class="wp-block-paragraph" style="font-size:16px">现在，因为各种数字工具能够让人同时处理邮件、消息、文件、会议、数据和项目，人们反而可能越来越难真正离开工作。</p>



<p class="wp-block-paragraph" style="font-size:16px">技术原本承诺帮助我们节省时间，但现实有时候却是，节省下来的时间又被新的任务填满。</p>



<p class="wp-block-paragraph" style="font-size:16px">于是，“效率工具”没有让工作日变短，反而让工作不断延伸。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI继续提高生产效率，这种趋势同样值得警惕。</p>



<p class="wp-block-paragraph" style="font-size:16px">假设一个人过去一天只能完成十项任务，而AI让他一天可以完成二十项，那么公司和社会会不会很快把二十项任务变成新的标准？</p>



<p class="wp-block-paragraph" style="font-size:16px">如果答案是肯定的，那么技术带来的效率提升，最终可能并不会让人拥有更多自由。</p>



<p class="wp-block-paragraph" style="font-size:16px">它可能只是让人能够在同样的时间里承担更多工作。</p>



<p class="wp-block-paragraph" style="font-size:16px">这也是为什么“AI能帮你做更多事情”并不自动等于“AI能让你生活得更好”。</p>



<p class="wp-block-paragraph" style="font-size:16px">有时候，我们真正缺少的并不是一个能够替我们完成更多任务的智能系统。</p>



<p class="wp-block-paragraph" style="font-size:16px">我们缺少的可能只是停止增加任务的勇气。</p>



<p class="wp-block-paragraph" style="font-size:16px">现代社会似乎越来越难接受一个人什么都不做。</p>



<p class="wp-block-paragraph" style="font-size:16px">当别人忙于学习新技能、测试新工具、开发新产品、提升生产力时，一个人如果选择停下来，就很容易产生一种落后的感觉。</p>



<p class="wp-block-paragraph" style="font-size:16px">仿佛所有人都在向前跑，而你只要停下来几分钟，就会永远被留在后面。</p>



<p class="wp-block-paragraph" style="font-size:16px">AI时代进一步放大了这种焦虑。</p>



<p class="wp-block-paragraph" style="font-size:16px">今天你没有学会提示词，可能担心明天就不会工作；今天没有使用AI编程工具，可能担心以后无法跟上技术发展；今天没有让AI管理自己的日程，可能担心自己效率不够高。</p>



<p class="wp-block-paragraph" style="font-size:16px">于是，很多人开始使用AI，并不是因为他们真的需要它。</p>



<p class="wp-block-paragraph" style="font-size:16px">他们只是觉得自己应该使用。</p>



<p class="wp-block-paragraph" style="font-size:16px">这种“应该”，其实非常值得反思。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果一个工具确实能够解决你的问题，那就使用它。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果它能够让工作变得更轻松，那么接受它当然合理。</p>



<p class="wp-block-paragraph" style="font-size:16px">但如果你只是因为所有人都在使用，所以觉得自己也必须使用，那么情况就不同了。</p>



<p class="wp-block-paragraph" style="font-size:16px">技术应该服务于人的生活，而不是让人为了追赶技术而不断调整自己的生活。</p>



<p class="wp-block-paragraph" style="font-size:16px">我们需要重新找回一种很简单的能力：说“不”。</p>



<p class="wp-block-paragraph" style="font-size:16px">不是对所有技术说“不”。</p>



<p class="wp-block-paragraph" style="font-size:16px">也不是把AI视为敌人。</p>



<p class="wp-block-paragraph" style="font-size:16px">而是在面对每一种新技术的时候，都保留判断的权利。</p>



<p class="wp-block-paragraph" style="font-size:16px">我可以试。</p>



<p class="wp-block-paragraph" style="font-size:16px">也可以不试。</p>



<p class="wp-block-paragraph" style="font-size:16px">我可以使用。</p>



<p class="wp-block-paragraph" style="font-size:16px">也可以暂时不用。</p>



<p class="wp-block-paragraph" style="font-size:16px">我可以接受某些功能，同时拒绝另外一些功能。</p>



<p class="wp-block-paragraph" style="font-size:16px">我甚至可以在别人认为某项技术已经“不可避免”的时候，依然说自己还没有准备好。</p>



<p class="wp-block-paragraph" style="font-size:16px">这种选择看起来很普通，却可能非常重要。</p>



<p class="wp-block-paragraph" style="font-size:16px">因为真正的自由并不是拥有无限多的选择，而是在面对强大的社会压力时，仍然能够根据自己的判断决定是否接受某种东西。</p>



<p class="wp-block-paragraph" style="font-size:16px">美国文学中有一个非常著名的人物，可以很好地代表这种态度。</p>



<p class="wp-block-paragraph" style="font-size:16px">他就是赫尔曼·梅尔维尔笔下的巴特比。</p>



<p class="wp-block-paragraph" style="font-size:16px">在小说《抄写员巴特比》中，老板不断要求巴特比完成各种工作，而巴特比给出的回答始终非常平静。</p>



<p class="wp-block-paragraph" style="font-size:16px">他不是激烈反抗，也不是长篇大论地解释自己的理由。</p>



<p class="wp-block-paragraph" style="font-size:16px">他只是说：“我宁愿不。”</p>



<p class="wp-block-paragraph" style="font-size:16px">这句话的力量就在于它没有试图说服所有人。</p>



<p class="wp-block-paragraph" style="font-size:16px">巴特比没有建立一套复杂的理论，也没有要求别人必须接受他的选择。</p>



<p class="wp-block-paragraph" style="font-size:16px">他只是坚持自己的意愿。</p>



<p class="wp-block-paragraph" style="font-size:16px">放到今天的AI问题上，这种态度同样具有启发意义。</p>



<p class="wp-block-paragraph" style="font-size:16px">你不需要证明AI是坏的，才能选择不用它。</p>



<p class="wp-block-paragraph" style="font-size:16px">你不需要证明所有使用AI的人都是错误的，才能坚持自己的生活方式。</p>



<p class="wp-block-paragraph" style="font-size:16px">你甚至不需要向别人解释太多。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果有人告诉你：“大家都在用AI，你为什么不用？”</p>



<p class="wp-block-paragraph" style="font-size:16px">你可以回答：我暂时不想用。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果有人告诉你：“以后所有人都会用AI。”</p>



<p class="wp-block-paragraph" style="font-size:16px">你可以回答：也许吧，但我现在仍然选择不用。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果有人告诉你：“你这样会被时代淘汰。”</p>



<p class="wp-block-paragraph" style="font-size:16px">你也可以认真想一想：如果所谓的“不掉队”，意味着我必须放弃自己认为重要的东西，那么我真的需要一直跟着跑吗？</p>



<p class="wp-block-paragraph" style="font-size:16px">当然，选择不用AI也会产生现实成本。</p>



<p class="wp-block-paragraph" style="font-size:16px">这一点不能被忽略。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI最终成为某些行业的基础工具，那么完全拒绝它的人可能确实会失去一些工作机会。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果学校、公司和政府逐渐采用AI系统，不使用这些工具的人可能会遇到额外的不便。</p>



<p class="wp-block-paragraph" style="font-size:16px">这就是技术选择真正困难的地方。</p>



<p class="wp-block-paragraph" style="font-size:16px">拒绝并不意味着没有代价。</p>



<p class="wp-block-paragraph" style="font-size:16px">但有代价，也不意味着选择就是错误的。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个人可以知道自己会失去什么，同时依然认为某些东西值得保留。</p>



<p class="wp-block-paragraph" style="font-size:16px">有人愿意不用智能手机，即使这意味着生活更加麻烦。</p>



<p class="wp-block-paragraph" style="font-size:16px">有人坚持少使用社交媒体，即使这意味着错过一些信息。</p>



<p class="wp-block-paragraph" style="font-size:16px">有人愿意手写、阅读纸质书、亲自做饭或者亲自完成一些本来可以交给机器的事情。</p>



<p class="wp-block-paragraph" style="font-size:16px">这些行为的共同点并不是“反科技”。</p>



<p class="wp-block-paragraph" style="font-size:16px">它们表达的是一种更简单的愿望：我希望自己决定技术在我的生活中占多大位置。</p>



<p class="wp-block-paragraph" style="font-size:16px">这可能才是今天面对AI时最需要保留的意识。</p>



<p class="wp-block-paragraph" style="font-size:16px">我们没有必要把问题变成“支持AI”或者“反对AI”。</p>



<p class="wp-block-paragraph" style="font-size:16px">这种二元对立其实太简单了。</p>



<p class="wp-block-paragraph" style="font-size:16px">真正成熟的态度可能是：我知道AI存在，也知道它越来越强，我可以研究它、使用它、评价它，但我不认为它天然拥有进入我生活每一个角落的权利。</p>



<p class="wp-block-paragraph" style="font-size:16px">有些地方，我愿意让机器帮助我。</p>



<p class="wp-block-paragraph" style="font-size:16px">有些地方，我希望自己完成。</p>



<p class="wp-block-paragraph" style="font-size:16px">有些能力，我希望继续训练。</p>



<p class="wp-block-paragraph" style="font-size:16px">有些时间，我希望保持完全离线。</p>



<p class="wp-block-paragraph" style="font-size:16px">有些事情，我愿意做得慢一点。</p>



<p class="wp-block-paragraph" style="font-size:16px">因为一个人的生活并不是一份需要不断优化的电子表格。</p>



<p class="wp-block-paragraph" style="font-size:16px">不是每一分钟都必须产生最大价值。</p>



<p class="wp-block-paragraph" style="font-size:16px">不是每项活动都必须提高生产力。</p>



<p class="wp-block-paragraph" style="font-size:16px">不是每一次休息都需要被安排得更加高效。</p>



<p class="wp-block-paragraph" style="font-size:16px">有时候，人坐在那里什么都没有完成，也并不意味着这段时间毫无意义。</p>



<p class="wp-block-paragraph" style="font-size:16px">有时候，人花几个小时读一本书、散一次步、和朋友聊天，甚至只是抬头看看树、天空和街上的人，这些事情没有被AI优化，也没有被算法记录，却依然属于真正的生活。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果未来的技术越来越擅长替我们安排生活，那么我们反而更需要主动决定哪些部分不能被安排。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI能够替我们写作，那么我们是否还愿意自己写？</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI能够替我们学习，那么我们是否还愿意自己思考？</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI能够替我们规划一天，那么我们是否还能够容忍一些没有计划的时间？</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI能够随时给出答案，那么我们是否还愿意忍受不知道答案的状态？</p>



<p class="wp-block-paragraph" style="font-size:16px">这些问题没有统一答案。</p>



<p class="wp-block-paragraph" style="font-size:16px">也没有必要有统一答案。</p>



<p class="wp-block-paragraph" style="font-size:16px">真正重要的是，我们不能因为技术越来越强，就自动把所有选择都交给技术。</p>



<p class="wp-block-paragraph" style="font-size:16px">人类过去发明工具，是为了扩大自己的能力。</p>



<p class="wp-block-paragraph" style="font-size:16px">但工具最终应该成为人的选择，而不是人的主人。</p>



<p class="wp-block-paragraph" style="font-size:16px">AI当然可能成为极其有价值的工具。</p>



<p class="wp-block-paragraph" style="font-size:16px">它能够帮助科学家分析复杂数据，帮助程序员处理代码，帮助医生整理信息，也能够帮助普通人完成大量日常工作。</p>



<p class="wp-block-paragraph" style="font-size:16px">这些价值没有必要否认。</p>



<p class="wp-block-paragraph" style="font-size:16px">真正需要拒绝的，是那种认为“既然AI存在，所以每个人都必须使用”的逻辑。</p>



<p class="wp-block-paragraph" style="font-size:16px">未来并没有一张提前写好的路线图。</p>



<p class="wp-block-paragraph" style="font-size:16px">科技公司可以预测未来，投资人可以押注未来，创业者可以努力创造未来，但他们都没有获得决定每个人生活方式的权力。</p>



<p class="wp-block-paragraph" style="font-size:16px">你可以向前走。</p>



<p class="wp-block-paragraph" style="font-size:16px">也可以慢一点。</p>



<p class="wp-block-paragraph" style="font-size:16px">你可以尝试新工具。</p>



<p class="wp-block-paragraph" style="font-size:16px">也可以站在旁边观察。</p>



<p class="wp-block-paragraph" style="font-size:16px">你可以使用AI。</p>



<p class="wp-block-paragraph" style="font-size:16px">也完全可以暂时不用。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果有一天你发现它真的能够让自己的生活变得更好，那么再打开它也不迟。</p>



<p class="wp-block-paragraph" style="font-size:16px">而如果经过认真考虑之后，你仍然觉得自己不需要它，那么这同样是一种合理的答案。</p>



<p class="wp-block-paragraph" style="font-size:16px">在一个所有人都被鼓励不断加速的时代，偶尔停下来问一句“我真的需要这个吗”，可能比学会又一个新工具更加重要。</p>



<p class="wp-block-paragraph" style="font-size:16px">因为真正值得保护的，也许从来不是我们拒绝了多少技术，而是我们有没有保留决定自己生活方式的能力。</p>



<p class="wp-block-paragraph" style="font-size:16px">所以，当下一次有人告诉你必须赶紧使用AI，否则就会被时代抛下时，不妨先停一下。</p>



<p class="wp-block-paragraph" style="font-size:16px">你不需要马上证明他错了。</p>



<p class="wp-block-paragraph" style="font-size:16px">也不需要向所有人解释自己的选择。</p>



<p class="wp-block-paragraph" style="font-size:16px">只要问问自己：这项技术真的让我想要的生活变得更好吗？</p>



<p class="wp-block-paragraph" style="font-size:16px">如果答案是肯定的，那就使用它。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果答案是否定的，那也没有关系。</p>



<p class="wp-block-paragraph" style="font-size:16px">你可以平静地说：</p>



<p class="wp-block-paragraph" style="font-size:16px">我宁愿不。</p>



<p class="wp-block-paragraph" style="font-size:16px">然后继续过自己的生活。</p>



<p class="wp-block-paragraph">原文：https://www.thenewatlantis.com/publications/you-dont-have-to-use-ai?utm_source=DamnInteresting</p>
<p><a href="https://www.gugumao.net/p/5935">你其实不必使用AI：在所有人都向前奔跑的时候，保留说“不”的自由</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>扎克伯格的AI未来，为何没人买账？</title>
		<link>https://www.gugumao.net/p/5917</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Mon, 17 Aug 2026 11:50:55 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5917</guid>

					<description><![CDATA[<p>马克·扎克伯格最近又一次试图告诉人们，人工智能将把世界带向一个更加美好的未来</p>
<p><a href="https://www.gugumao.net/p/5917">扎克伯格的AI未来，为何没人买账？</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">马克·扎克伯格最近又一次试图告诉人们，人工智能将把世界带向一个更加美好的未来。</p>



<p class="wp-block-paragraph">这一次，他没有把重点放在某一款具体产品，也没有单纯讨论某个AI模型的性能，而是发布了一篇长达约6500字的文章，描绘他眼中的人工智能社会。在这份充满乐观色彩的未来蓝图中，AI不再只是帮助人们写邮件、生成图片或者回答问题的软件，而可能成为每个人身边长期存在的“个人智能助手”。它能够了解一个人的目标、兴趣和需求，帮助安排日程、处理信息、整理文件、完成各种任务，并且可以在不同设备和场景中持续工作。</p>



<p class="wp-block-paragraph">从技术发展的角度来看，这样的未来并不难理解。随着大模型能力不断提升，AI正在从单纯的问答工具逐渐转向能够执行任务、调用工具和长期协助用户完成工作的智能代理。扎克伯格显然希望Meta能够在这一轮变化中占据重要位置。</p>



<p class="wp-block-paragraph">但问题也恰恰出现在这里。</p>



<p class="wp-block-paragraph">越来越多的人并没有因为这幅宏大的AI未来图景而感到兴奋，反而表现出了怀疑甚至抵触。TechCrunch近期的一期播客讨论了这一现象，参与讨论的记者认为，问题可能不仅仅出在AI技术本身，而在于提出这套未来愿景的人是扎克伯格，是Meta。</p>



<p class="wp-block-paragraph">扎克伯格对于AI的设想，其实与他过去谈论社交网络时的表达存在某种相似之处。多年前，他曾经强调社交网络应该让人与人之间更加容易交流，让每个人都有机会与朋友建立联系。但现实发展到今天，社交媒体平台上充斥着广告、情绪化内容以及为了争夺用户注意力而不断传播的“愤怒诱饵”。原本承诺让人们更加紧密连接的社交网络，在很多时候却让用户产生了完全不同的体验。</p>



<p class="wp-block-paragraph">因此，当同一个人再次告诉公众，某种新技术将赋予普通人更大的能力，让生活变得更加自由和高效时，一部分人的第一反应自然不会只是听他说了什么，而是会回头看他过去做过什么。</p>



<p class="wp-block-paragraph">这也成为Meta当前面临的一个重要问题。</p>



<p class="wp-block-paragraph">从技术实力来看，Meta显然不能被简单地排除在AI竞争之外。公司近年来已经投入了大量资金和资源发展人工智能，并且通过Llama系列模型建立了相当大的影响力。Meta也在不断招募AI领域的顶尖人才，并试图扩大自己在模型、计算基础设施和消费级AI产品方面的布局。</p>



<p class="wp-block-paragraph">但如果把视线放到普通消费者身上，情况就没有那么理想了。</p>



<p class="wp-block-paragraph">当人们想到个人AI助手时，第一时间想到的往往并不是Meta。用户可能会想到ChatGPT、Claude或者其他正在迅速发展的AI产品，却很少把Meta直接视为自己日常使用的个人AI入口。虽然Meta已经把AI功能放进了Instagram、Facebook等产品中，但这与让用户真正把一个Meta AI当成长期私人助手之间，仍然存在明显距离。</p>



<p class="wp-block-paragraph">这也是为什么扎克伯格这次的长篇宣言看起来更像是一场重新定位。</p>



<p class="wp-block-paragraph">Meta或许并没有在最顶尖的封闭模型竞争中占据最明显的位置，也很难说它已经成为消费者AI助手市场的绝对领先者。因此，公司需要寻找另一个能够建立优势的方向。</p>



<p class="wp-block-paragraph">扎克伯格给出的答案就是“个人赋能”。</p>



<p class="wp-block-paragraph">按照他的设想，未来的AI应该属于每一个普通人。人们可以拥有自己的个人智能系统，让AI帮助管理日程、起草消息、整理资料，甚至处理大量日常工作。这些AI不一定完全依赖云端，也可能运行在个人设备上，并且能够持续了解用户的行为和需求。</p>



<p class="wp-block-paragraph">这实际上意味着，Meta希望把竞争重点从“谁拥有最强大的AI模型”，进一步转向“谁能够成为普通人的个人AI入口”。</p>



<p class="wp-block-paragraph">这一思路并非没有道理。</p>



<p class="wp-block-paragraph">对于大多数普通用户来说，他们真正需要的可能并不是一个在排行榜上击败所有竞争对手的模型，而是一个能够理解自己、长期帮助自己解决问题的工具。如果AI可以自动安排日程、整理信息、处理文件、帮助沟通，那么它对于普通人的价值可能远远高于单纯回答几个问题。</p>



<p class="wp-block-paragraph">而Meta恰恰拥有大量接触消费者的入口。</p>



<p class="wp-block-paragraph">Facebook、Instagram以及其他Meta生态产品每天都在与数十亿用户发生联系。如果未来AI能够深入这些平台，并进一步进入手机、眼镜、耳机等个人设备，那么Meta确实可能拥有一个其他AI公司并不容易复制的优势。</p>



<p class="wp-block-paragraph">但现实问题依然存在。</p>



<p class="wp-block-paragraph">扎克伯格过去也曾经对“人人都能获得技术赋能”的未来做出过非常宏大的描述，而公众现在对这类承诺已经不像过去那样容易产生信任。</p>



<p class="wp-block-paragraph">更重要的是，Meta的AI战略本身也显得有些矛盾。</p>



<p class="wp-block-paragraph">一方面，公司希望让越来越强大的AI成为普通人的个人助手；另一方面，它又必须控制最先进模型的使用方式，并寻找能够支撑巨大计算成本的商业模式。也就是说，所谓“人人都拥有个人AI”，并不意味着所有人都能无限制使用最先进的AI能力。</p>



<p class="wp-block-paragraph">这种矛盾在Meta新的模型和产品布局中已经有所体现。一部分AI能力可以面向普通用户提供，而更高等级的计算能力和模型资源，则可能继续面向需要处理大型项目的个人用户和企业用户。</p>



<p class="wp-block-paragraph">因此，扎克伯格所描述的未来并不是一个完全没有商业边界的AI乌托邦，而依然是一个由大型科技公司提供基础设施、模型和服务的商业体系。</p>



<p class="wp-block-paragraph">这也解释了为什么一些人对他的AI宣言感觉不太舒服。</p>



<p class="wp-block-paragraph">如果一个普通人看到“AI将释放人类创造力”“AI将让每个人拥有更强大的能力”这样的表达，可能很难直接反对。毕竟这些愿景本身听起来非常美好。</p>



<p class="wp-block-paragraph">但问题是，这些话往往太过抽象。</p>



<p class="wp-block-paragraph">AI究竟会怎样改变普通人的生活？谁能够从中获得最大收益？人们需要付出什么代价？工作会发生什么变化？个人隐私又该如何保护？如果AI越来越了解用户，它到底是在帮助用户，还是让科技公司掌握更多关于用户的信息？</p>



<p class="wp-block-paragraph">这些问题如果没有得到回答，仅仅告诉公众“未来会更美好”，很难真正消除疑虑。</p>



<p class="wp-block-paragraph">尤其是在人工智能快速发展的今天，人们已经开始更加直接地面对AI带来的副作用。</p>



<p class="wp-block-paragraph">网络安全事件、隐私问题、就业变化、内容真实性以及AI生成的大量低质量信息，都在不断提醒公众：人工智能带来的不仅仅是便利，也可能带来新的成本。</p>



<p class="wp-block-paragraph">因此，一些AI公司开始强调安全、风险控制以及对技术发展速度的谨慎态度。Anthropic CEO达里奥·阿莫代伊近期也在回应外界对其“AI末日论者”的看法。与这种强调风险和安全的表达相比，扎克伯格显然采取了更加积极甚至激进的立场。</p>



<p class="wp-block-paragraph">他的核心观点更接近于：不能因为担心风险就停止发展AI。</p>



<p class="wp-block-paragraph">在扎克伯格看来，如果美国或者西方国家放慢AI发展速度，而其他国家继续推进，那么最终可能导致技术和竞争优势发生变化。因此，推动AI继续快速发展本身就是一种战略选择。</p>



<p class="wp-block-paragraph">这也让他与一些强调安全风险的AI领导者形成了鲜明对比。</p>



<p class="wp-block-paragraph">但这种差异并不意味着公众一定会站在其中任何一方。</p>



<p class="wp-block-paragraph">事实上，普通用户可能根本不关心硅谷内部关于“应该加速还是应该减速”的争论。他们更关心的是一个非常简单的问题：这个AI到底能给我的生活带来什么？</p>



<p class="wp-block-paragraph">这也是目前很多AI公司都遇到的问题。</p>



<p class="wp-block-paragraph">当科技公司谈论人工智能时，他们经常喜欢使用“生产力”“创造力”“超级智能”“个人赋能”等宏大的概念。但普通人的生活并不会因为这些词本身发生变化。</p>



<p class="wp-block-paragraph">如果一个AI助手能够替用户完成真正麻烦的事情，人们自然会愿意使用它；如果它只是不断生成一些用户并不需要的内容，那么无论公司把它描述得多么革命性，用户最终还是会选择离开。</p>



<p class="wp-block-paragraph">此前就有类似的例子。当一些AI公司提出让AI根据孩子的兴趣生成播客，让家长在开车送孩子上学时收听时，网上出现了大量质疑：如果家长真的有时间和孩子一起坐在车里，为什么不直接和孩子聊天？</p>



<p class="wp-block-paragraph">这个例子虽然看起来很简单，却说明了一个重要问题。</p>



<p class="wp-block-paragraph">技术公司有时候会因为太沉迷于技术本身，而忽略了用户真正需要的东西。</p>



<p class="wp-block-paragraph">并不是所有可以被AI完成的事情，都值得让AI完成。</p>



<p class="wp-block-paragraph">人们愿意把一部分重复劳动交给机器，但这并不意味着他们希望把所有人与人之间的互动也交给机器。AI可以帮助一个人整理文件，却不一定应该替一个人维持友情；AI可以帮助安排日程，却不一定能够替代真实的人际关系。</p>



<p class="wp-block-paragraph">这也是扎克伯格的“个人AI”愿景面临的最大挑战之一。</p>



<p class="wp-block-paragraph">如果未来每个人都有一个始终在线、了解自己、能够替自己做决定的AI，那么便利性无疑会大幅提升。但与此同时，人们也会开始问：这个AI到底属于谁？</p>



<p class="wp-block-paragraph">它属于用户，还是属于提供AI的科技公司？</p>



<p class="wp-block-paragraph">如果一个AI长期了解用户的生活习惯、联系人、兴趣、工作内容以及私人计划，那么这些数据本身就拥有巨大的价值。对于一家依靠广告和用户数据建立商业帝国的公司而言，公众自然会对这种关系保持警惕。</p>



<p class="wp-block-paragraph">因此，问题可能从来不只是“AI好不好”。</p>



<p class="wp-block-paragraph">真正的问题是，人们是否相信提供AI的人。</p>



<p class="wp-block-paragraph">这也是为什么同样一句关于人工智能未来的话，从不同的人口中说出来，可能产生完全不同的反应。</p>



<p class="wp-block-paragraph">如果一个用户已经长期信任某家公司，那么它推出个人AI助手时，用户可能会觉得这是一次自然的产品升级。但如果用户对一家公司的商业模式、数据处理方式或者过去的产品决策存在疑虑，那么再美好的AI愿景也可能首先被理解为一次新的商业扩张。</p>



<p class="wp-block-paragraph">对于Meta来说，这种信任问题尤其重要。</p>



<p class="wp-block-paragraph">公司拥有庞大的社交媒体用户基础，这既是它最大的优势，也可能成为它最大的负担。因为用户已经非常清楚，Meta过去是如何通过社交平台获得商业价值的。</p>



<p class="wp-block-paragraph">所以，当Meta说未来AI会帮助用户获得更多能力时，一些人会自然地产生另一个问题：最终受益最大的究竟是用户，还是Meta？</p>



<p class="wp-block-paragraph">这也是扎克伯格这篇长文没有完全解决的问题。</p>



<p class="wp-block-paragraph">他的AI未来并非没有吸引力。一个真正能够理解个人需求、自动处理大量琐碎任务，并且可以随时调用的智能助手，确实可能成为下一代计算平台的重要形态。如果Meta能够把这样的AI真正做出来，并且让它足够可靠、足够安全，同时让用户拥有对个人数据和AI行为的充分控制，那么这项技术完全可能改变普通人的日常生活。</p>



<p class="wp-block-paragraph">但从“提出愿景”到“让用户真正相信”，中间还有很长的一段距离。</p>



<p class="wp-block-paragraph">Meta过去已经拥有一次改变互联网的机会。社交网络曾经承诺让世界更加连接，而如今，人们对社交媒体的体验却远比当年的宣传复杂。</p>



<p class="wp-block-paragraph">因此，今天的公众不再只是听科技公司描述未来，而是会用过去的结果来判断未来是否可信。</p>



<p class="wp-block-paragraph">这或许就是为什么扎克伯格描绘的AI未来没有获得预期中的普遍认同。</p>



<p class="wp-block-paragraph">人们并不一定反对AI，也不一定反对个人智能助手，更不一定反对人工智能带来更高的生产力。真正让很多人犹豫的，是他们还没有看到一个足够可信的答案：当这些强大的AI真正进入每个人的生活之后，谁会从中受益，谁来承担风险，以及普通人究竟能不能真正掌握属于自己的AI。</p>



<p class="wp-block-paragraph">在人工智能竞争进入下一阶段之后，决定胜负的可能不只是模型参数、芯片数量和数据中心规模。</p>



<p class="wp-block-paragraph">信任，同样会成为一种竞争力。</p>



<p class="wp-block-paragraph">而对于扎克伯格和Meta来说，如何让人们相信他们所描绘的这个AI未来，可能比把未来描述得多么宏大更加重要。</p>



<p class="wp-block-paragraph">原文：https://techcrunch.com/2026/08/16/why-people-arent-buying-mark-zuckerbergs-ai-future/</p>
<p><a href="https://www.gugumao.net/p/5917">扎克伯格的AI未来，为何没人买账？</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>AI聊天机器人，真的能应对危机吗？</title>
		<link>https://www.gugumao.net/p/5842</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Wed, 12 Aug 2026 02:09:58 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5842</guid>

					<description><![CDATA[<p>随着人工智能聊天机器人越来越多地进入人们的日常生活，一个此前容易被忽视的问题正在变得越来越难以回避：当一个人真正陷入危机时，AI究竟能不能成为一个值得信赖的倾听者？</p>
<p><a href="https://www.gugumao.net/p/5842">AI聊天机器人，真的能应对危机吗？</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph" style="font-size:16px">随着人工智能聊天机器人越来越多地进入人们的日常生活，一个此前容易被忽视的问题正在变得越来越难以回避：当一个人真正陷入危机时，AI究竟能不能成为一个值得信赖的倾听者？</p>



<p class="wp-block-paragraph" style="font-size:16px">过去几年，人们已经习惯向聊天机器人询问各种问题，从写邮件、查资料，到处理工作压力、感情困扰和人生选择。对于不少用户来说，聊天机器人甚至已经不再只是一个搜索工具，而成为一种随时可以打开、随时可以倾诉的数字陪伴。</p>



<p class="wp-block-paragraph" style="font-size:16px">问题恰恰也出现在这里。</p>



<p class="wp-block-paragraph" style="font-size:16px">当用户只是询问普通问题时，AI偶尔答错的影响可能并不严重。但如果对话涉及严重的心理困扰、自伤风险、极端情绪甚至现实中的紧急危险，那么一次错误的回应，可能产生完全不同的后果。</p>



<p class="wp-block-paragraph" style="font-size:16px">越来越多临床医生和研究人员开始担心，目前的人工智能系统在处理这类高风险对话时，并没有达到人们想象中的可靠程度。它们有时候能够识别明显的危险信号，也能够在部分情况下建议用户寻求专业帮助，但面对更加复杂、模糊或者持续时间较长的危机状态时，AI仍然可能表现出令人担忧的判断失误。</p>



<p class="wp-block-paragraph" style="font-size:16px">更棘手的是，聊天机器人通常会努力保持对话的连贯性和友好程度。它们经过训练，需要尽可能理解用户的意图，并给出看起来有帮助的回应。但在心理危机环境下，“顺着用户的话继续聊天”未必是一件好事。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个人在正常状态下提出的问题，与一个处于严重情绪危机中的人提出的相同问题，背后的含义可能完全不同。人类专业人员通常会结合语气、背景、过去的表现以及一系列非语言信息判断风险，而聊天机器人能够获得的信息主要来自用户输入的文字以及对话上下文。</p>



<p class="wp-block-paragraph" style="font-size:16px">这意味着，当危险信号没有被明确说出来时，AI可能很难准确判断事情已经严重到了什么程度。</p>



<p class="wp-block-paragraph" style="font-size:16px">近年来，一些用户公开描述了自己与AI聊天机器人进行长时间对话的经历，其中部分对话涉及精神健康问题。相关案例引发了研究人员和公众的关注，因为它们暴露出一个重要事实：AI看起来非常善于聊天，并不意味着它已经具备处理危机的专业能力。</p>



<p class="wp-block-paragraph" style="font-size:16px">聊天机器人能够迅速回应，而且不会表现出厌烦，也不会因为同一个问题被重复询问几十次而失去耐心。对于一个感到孤独的人来说，这种特点可能非常具有吸引力。</p>



<p class="wp-block-paragraph" style="font-size:16px">但与此同时，AI并不是心理治疗师，也不是急救人员，更不是能够承担现实世界责任的照护者。</p>



<p class="wp-block-paragraph" style="font-size:16px">当用户逐渐把AI当成主要的情绪支持来源时，风险就可能进一步增加。如果系统给出了不恰当的建议，或者没有及时意识到用户正处于危险之中，用户可能因为过度信任系统而继续依赖它，而不是转向现实中的专业人士。</p>



<p class="wp-block-paragraph" style="font-size:16px">这也是目前研究人员特别关注的问题之一。</p>



<p class="wp-block-paragraph" style="font-size:16px">一些专家认为，人工智能公司不能只依靠公开的安全声明来证明自己的产品足够安全，而应该更加透明地公布相关测试结果、失败案例以及安全措施实际发挥作用的情况。</p>



<p class="wp-block-paragraph" style="font-size:16px">对于普通用户而言，他们往往只能看到聊天机器人最终给出的回答，却无法知道系统内部经过了什么样的安全判断。一个看起来温和、谨慎的回答，究竟是因为模型真正识别出了风险，还是因为系统按照预先设定的规则生成了一段标准化的文字，外部用户通常很难分辨。</p>



<p class="wp-block-paragraph" style="font-size:16px">更重要的是，如果一个AI系统在高风险情况下出现错误，公司是否能够及时发现这些错误，同样是一个问题。</p>



<p class="wp-block-paragraph" style="font-size:16px">传统软件出现故障后，工程师通常可以通过日志、错误报告和测试环境定位问题。但生成式AI的情况更加复杂。同一个问题在不同上下文中可能得到完全不同的回答，而模型的行为也可能随着版本更新、系统提示以及安全策略变化而发生改变。</p>



<p class="wp-block-paragraph" style="font-size:16px">因此，研究人员希望AI公司能够建立更加系统的危机对话评估机制。</p>



<p class="wp-block-paragraph" style="font-size:16px">这种评估不能只测试聊天机器人能不能拒绝明显危险的请求，还应该测试它能不能识别那些没有直接说出危险意图的对话。例如，一个用户可能不会直接表示自己准备伤害自己，而只是不断表达绝望、孤立、无助或者认为自己已经没有其他选择。</p>



<p class="wp-block-paragraph" style="font-size:16px">真正困难的情况往往就在这里。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果系统只对关键词做判断，那么它很容易漏掉复杂的情绪表达；如果系统过于敏感，又可能把大量正常用户的情绪表达误判成危机，从而不断给出机械化的警告和求助信息。</p>



<p class="wp-block-paragraph" style="font-size:16px">这意味着AI安全设计面临一个非常困难的平衡。</p>



<p class="wp-block-paragraph" style="font-size:16px">系统既不能对所有负面情绪都做出过度反应，也不能在真正危险的时候表现得过于轻描淡写。</p>



<p class="wp-block-paragraph" style="font-size:16px">人类专业人员之所以需要长期训练，就是因为心理危机很少能够通过一个简单的关键词判断。一个人的风险程度往往取决于多个因素，包括当前情绪、现实环境、社会支持、过去经历以及是否存在立即的危险。</p>



<p class="wp-block-paragraph" style="font-size:16px">AI公司如果希望让聊天机器人在这一领域发挥作用，就必须面对这些复杂性，而不能仅仅把危机应对理解成一个简单的“拒绝回答”问题。</p>



<p class="wp-block-paragraph" style="font-size:16px">事实上，拒绝本身也可能造成新的问题。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果一个处于困境中的用户向聊天机器人寻求帮助，系统突然停止对话，只告诉对方去寻找专业人士，虽然从风险控制角度看似合理，但对于用户来说，这种回应可能显得冷漠甚至让人觉得自己被抛弃。</p>



<p class="wp-block-paragraph" style="font-size:16px">因此，更合理的安全机制可能需要同时考虑两个目标：既不能让AI成为危险行为的推动者，也不能让它在用户最需要支持的时候完全退出。</p>



<p class="wp-block-paragraph" style="font-size:16px">这也是为什么一些临床医生认为，AI系统需要更加明确地划定自己的角色。</p>



<p class="wp-block-paragraph" style="font-size:16px">聊天机器人可以提供一般性的情绪支持，可以帮助用户整理想法，也可以在适当情况下提供可靠的求助渠道。但它不应该让用户产生一种错觉，以为自己正在接受专业治疗，或者系统能够持续监测自己的现实安全状况。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果AI无法真正承担这些职责，就必须在产品设计中明确告诉用户这一点。</p>



<p class="wp-block-paragraph" style="font-size:16px">与此同时，研究人员还提出了另一个问题：这些系统到底被测试到了什么程度？</p>



<p class="wp-block-paragraph" style="font-size:16px">人工智能公司的内部安全测试通常不会完全向公众开放。公司可能会公布一些安全指标，也可能展示模型在特定测试中的表现，但外部研究人员很难知道测试是否覆盖了现实世界中最复杂的情况。</p>



<p class="wp-block-paragraph" style="font-size:16px">尤其是在心理健康领域，真正危险的对话往往并不符合实验室中预先设计好的标准案例。</p>



<p class="wp-block-paragraph" style="font-size:16px">现实中的用户可能同时讨论工作、家庭、金钱、感情和身体健康，然后在几百轮对话之后逐渐透露自己的真实状态。如果测试只从一开始就明确告诉模型“这是一个心理危机案例”，那么测试结果很可能无法代表真正的用户体验。</p>



<p class="wp-block-paragraph" style="font-size:16px">因此，专家希望看到更加接近现实环境的长期测试。</p>



<p class="wp-block-paragraph" style="font-size:16px">他们不仅希望知道AI在一次危机对话中的表现，还希望了解用户与系统持续互动数小时甚至数天之后，模型是否仍然能够保持一致的安全行为。</p>



<p class="wp-block-paragraph" style="font-size:16px">这其中还有一个更加复杂的问题，那就是聊天机器人的“陪伴感”。</p>



<p class="wp-block-paragraph" style="font-size:16px">AI系统越善于模仿人类交流，就越容易让用户产生情感上的依赖。过去的聊天机器人往往很机械，用户很容易意识到自己面对的是一个程序。但如今的大型语言模型能够使用自然、流畅并且高度个性化的语言进行交流，这种差异正在迅速缩小。</p>



<p class="wp-block-paragraph" style="font-size:16px">对于普通用户而言，这是一种体验上的进步；但对于心理危机中的人来说，这种拟人化程度也可能带来新的风险。</p>



<p class="wp-block-paragraph" style="font-size:16px">当一个系统能够长时间记住对话背景，并且持续使用理解、关心和鼓励的语言时，用户很容易把它看成一个真正的“对象”，而不是一个软件。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果这种关系进一步取代现实中的人际联系，问题就会变得更加复杂。</p>



<p class="wp-block-paragraph" style="font-size:16px">这并不意味着AI陪伴本身一定有害。对于一些孤独的人来说，与聊天机器人交流可能确实能够带来一定程度的安慰。问题在于，这种支持应该处于什么位置，以及用户什么时候需要从AI转向现实中的人。</p>



<p class="wp-block-paragraph" style="font-size:16px">专家普遍认为，AI最安全的角色应该是辅助，而不是替代。</p>



<p class="wp-block-paragraph" style="font-size:16px">它可以帮助用户寻找信息、整理情绪、准备与医生沟通时想说的话，或者提醒用户不要独自面对严重问题。但当情况已经涉及现实世界中的即时风险时，真正能够提供帮助的仍然是人类专业人员、家人、朋友以及紧急服务。</p>



<p class="wp-block-paragraph" style="font-size:16px">这也意味着，AI产品的安全机制不能只存在于模型本身。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果一个聊天机器人判断用户可能处于危机状态，那么它需要知道下一步应该做什么。系统可能需要提供清晰、准确且与用户所在地相关的求助信息，而不是简单地输出一段通用文字。</p>



<p class="wp-block-paragraph" style="font-size:16px">与此同时，产品还需要考虑用户为什么可能拒绝寻求帮助。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个人不愿意联系专业人员，可能是因为害怕被评判，也可能因为缺乏经济条件，或者过去与医疗系统有过不好的经历。如果AI只是机械地重复“请联系专业人士”，却完全不了解用户为什么不愿意这样做，那么这类安全机制的实际效果可能非常有限。</p>



<p class="wp-block-paragraph" style="font-size:16px">因此，危机应对不能只是一个技术问题，它同时也是一个社会和医疗系统的问题。</p>



<p class="wp-block-paragraph" style="font-size:16px">AI可以被训练得更加谨慎，可以增加更多安全规则，也可以通过更好的模型和测试减少错误，但如果现实世界中的心理健康服务本身难以获得，那么用户仍然可能把聊天机器人当成最容易接触的支持来源。</p>



<p class="wp-block-paragraph" style="font-size:16px">这也是为什么专家希望科技公司不要把所有责任都归结为模型训练。</p>



<p class="wp-block-paragraph" style="font-size:16px">AI安全需要产品设计、临床专业知识、独立研究以及监管共同参与。尤其是在涉及未成年人和其他高风险用户时，仅靠企业自己制定标准可能很难获得足够的公众信任。</p>



<p class="wp-block-paragraph" style="font-size:16px">一些研究人员因此呼吁，AI公司应该更加开放地分享安全数据。</p>



<p class="wp-block-paragraph" style="font-size:16px">这里所说的透明，并不意味着公开模型的全部内部技术细节，而是让独立研究人员能够更好地了解系统在高风险情况下到底会发生什么，包括模型在哪里表现良好、在哪里失败，以及公司采取的改进措施是否真的降低了风险。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果只有AI公司自己评估自己的系统，那么外部社会很难判断这些安全承诺到底有多可靠。</p>



<p class="wp-block-paragraph" style="font-size:16px">而一旦涉及心理危机，这种透明度的重要性就更加突出。</p>



<p class="wp-block-paragraph" style="font-size:16px">因为普通软件出现一个错误，通常意味着功能暂时无法正常运行；但在高度敏感的情境中，一次严重错误的回应可能影响一个真实的人。</p>



<p class="wp-block-paragraph" style="font-size:16px">这也是目前围绕AI聊天机器人的争论逐渐发生变化的原因。</p>



<p class="wp-block-paragraph" style="font-size:16px">最初，人们更多讨论的是AI会不会产生错误答案、会不会编造事实，以及模型能不能准确完成工作任务。如今，随着越来越多的人把AI用于个人生活，问题开始转向另一个层面：当用户把真正重要的事情交给AI时，它是否能够意识到自己的边界？</p>



<p class="wp-block-paragraph" style="font-size:16px">这可能是未来人工智能安全领域最重要的问题之一。</p>



<p class="wp-block-paragraph" style="font-size:16px">一个优秀的聊天机器人并不应该只是“什么都能聊”，还应该知道什么时候自己不应该成为主要的帮助来源。</p>



<p class="wp-block-paragraph" style="font-size:16px">它需要理解，用户的一句话有时候不仅仅是一句话；一个看似普通的表达背后，可能隐藏着现实世界中的严重问题。</p>



<p class="wp-block-paragraph" style="font-size:16px">与此同时，用户也需要更加清楚地认识到，AI表现得像一个善于倾听的人，并不意味着它真的具备人类专业人员的判断能力。</p>



<p class="wp-block-paragraph" style="font-size:16px">聊天机器人能够模拟同理心，但它没有真正的人类生活经验，也无法直接观察用户所处的现实环境，更不能像专业人员一样承担持续照护的责任。</p>



<p class="wp-block-paragraph" style="font-size:16px">因此，解决AI在危机情境中的失败，并不存在一个简单的技术补丁。</p>



<p class="wp-block-paragraph" style="font-size:16px">更强的模型当然可能有所帮助，更好的安全规则也很重要，但真正可靠的解决方案需要同时包括更加严格的测试、更加透明的数据、独立的外部监督以及更加明确的产品边界。</p>



<p class="wp-block-paragraph" style="font-size:16px">对于AI公司而言，这意味着不能只在产品发布时强调模型有多聪明，还必须持续回答另一个问题：当事情变得非常糟糕时，这个系统究竟有多安全？</p>



<p class="wp-block-paragraph" style="font-size:16px">而对于普通用户而言，最重要的认识或许是，聊天机器人可以成为工具，可以提供一定程度的陪伴和信息支持，但它不应该成为一个人在严重危机中的唯一依靠。</p>



<p class="wp-block-paragraph" style="font-size:16px">人工智能正在快速进入越来越私人的领域。从工作助手到生活顾问，再到情绪陪伴，它与人的距离正在不断缩短。正因为如此，AI公司需要面对的安全责任也正在扩大。</p>



<p class="wp-block-paragraph" style="font-size:16px">真正成熟的人工智能，不应该只是让人觉得它越来越像人，而应该让人清楚知道，它什么时候可以帮助自己，什么时候必须把问题交还给真正的人。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果这一点无法做到，那么AI越擅长让用户产生信任，潜在风险反而可能越大。</p>



<p class="wp-block-paragraph" style="font-size:16px">这或许正是当前这场关于聊天机器人安全性的讨论最值得关注的地方：问题已经不再只是AI会不会说错一句话，而是当一个真正处于困境中的人相信了它之后，我们是否能够确保这个系统知道自己应该怎么做。</p>



<p class="wp-block-paragraph">原文：https://arstechnica.com/ai/2026/08/ai-chatbots-have-failed-people-in-crisis-can-that-be-fixed/</p>
<p><a href="https://www.gugumao.net/p/5842">AI聊天机器人，真的能应对危机吗？</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>人工智能：为什么机器人还做不了科学研究</title>
		<link>https://www.gugumao.net/p/5655</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Thu, 16 Jul 2026 10:53:05 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5655</guid>

					<description><![CDATA[<p>近年来，人工智能在科研领域的表现越来越亮眼</p>
<p><a href="https://www.gugumao.net/p/5655">人工智能：为什么机器人还做不了科学研究</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph" style="font-size:15px">近年来，人工智能在科研领域的表现越来越亮眼。从能够预测蛋白质结构的算法，到可以快速阅读海量论文的大语言模型，再到帮助研究人员筛选药物、设计新材料的智能系统，AI似乎正在不断刷新人们对科学研究的认知。很多人因此认为，未来的实验室或许只需要机器人和人工智能，就能完成从提出假设到验证结论的整个科研流程。然而，现实却远没有想象中那么简单。</p>



<p class="wp-block-paragraph" style="font-size:15px">如今的AI确实能够在信息处理和数据分析方面展现惊人的效率。面对数以万计的科研论文，它可以在短时间内提炼重点，发现潜在规律，甚至给出新的研究方向建议。但科学研究并不仅仅意味着阅读文献、分析数据或者撰写论文，真正决定一项研究能否成功的，往往是实验室里那些看似普通却极其复杂的实际操作。</p>



<p class="wp-block-paragraph" style="font-size:15px">以生命科学研究为例，很多实验都需要研究人员亲自动手完成。无论是处理实验样本、安装精密仪器，还是进行动物实验，每一个动作都要求极高的精度和经验。实验过程中，研究人员需要根据现场情况不断调整操作力度、角度和速度。有时候，仅凭手指传来的细微触感，就能判断实验是否出现异常。这种能力并不是按照固定流程训练出来的，而是在长期实践中逐渐形成的经验积累。</p>



<p class="wp-block-paragraph" style="font-size:15px">相比之下，大多数机器人仍然只能严格执行预设程序。虽然实验室自动化设备已经发展多年，自动移液、自动加样、自动检测等技术也越来越成熟，但这些设备通常只能完成标准化程度较高的重复任务。一旦实验环境发生变化，比如样本位置出现偏差、试剂状态异常、设备受到干扰，它们往往无法像人一样灵活调整，只能等待人工处理。真正的科研实验充满各种无法提前预料的情况，而这恰恰是机器人最难适应的部分。</p>



<p class="wp-block-paragraph" style="font-size:15px">事实上，目前限制机器人进入科研一线的关键问题，并不是计算能力，而是实际操作能力。对于人工智能来说，分析数据已经不算困难，但真正走进实验室之后，它需要面对的是一个复杂而不断变化的物理世界。拿起一支试管、安装一枚枪头、旋开一个瓶盖，这些在人类看来十分简单的动作，机器人却需要通过视觉识别、运动规划、力量控制以及实时反馈等多个系统共同完成。任何一个环节出现误差，都可能导致整个实验失败。</p>



<p class="wp-block-paragraph" style="font-size:15px">人类能够完成这些动作，很大程度上依赖于触觉。拿起一件物品时，我们会根据重量自动调整手指力量；接触不同材料时，也能够通过细微的反馈判断是否发生滑动或者变形。这些能力几乎已经成为本能，因此很少有人意识到它们的重要性。但对于机器人而言，触觉一直都是最难攻克的技术之一。相比拥有海量图片和视频数据支持的计算机视觉，能够用于训练机器人触觉系统的数据十分有限，因此机器很难像人一样建立丰富的触觉经验。</p>



<p class="wp-block-paragraph" style="font-size:15px">近年来，不少科研团队开始尝试新的解决方案。一部分研究人员不断改进触觉传感器，希望让机器人能够感知压力、摩擦和材料变化，从而提高操作精度；另一部分团队则希望借助更先进的视觉模型，通过观察大量操作视频，让机器人学会完成越来越复杂的动作。一些实验已经证明，即使没有完善的触觉反馈，机器人依靠视觉学习，也能够完成折叠衣物、整理物品甚至部分精细操作。这意味着机器人未来仍然有很大的发展空间，只是距离真正适应复杂实验环境还有一段路要走。</p>



<p class="wp-block-paragraph" style="font-size:15px">即便未来机器人拥有更加灵活的双手，也并不意味着它们能够完全取代科学家。科学研究真正重要的不只是完成实验，更重要的是提出值得研究的问题、判断实验结果是否可靠、分析异常现象背后的原因，并根据新的发现不断调整研究方向。这些能力不仅需要扎实的知识基础，还需要长期积累的经验、敏锐的直觉以及创造性的思维，而这些恰恰是当前人工智能仍然难以完全具备的。</p>



<p class="wp-block-paragraph" style="font-size:15px">可以预见的是，未来的科研模式更可能是人与人工智能共同协作，而不是彼此替代。AI负责处理海量信息、建立模型、寻找规律，人类则凭借经验和创造力设计实验、验证结果并作出最终判断。这样的合作不仅能够提高科研效率，也能让科学家把更多精力投入到真正具有创新价值的问题上。对于今天的人工智能来说，它已经成为科研的重要助手，但距离独立完成科学发现，仍然还有很长的路要走。</p>



<p class="wp-block-paragraph">原文：https://nautil.us/why-robots-still-cant-do-science-1281910</p>
<p><a href="https://www.gugumao.net/p/5655">人工智能：为什么机器人还做不了科学研究</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>AI新技术助力保护儿童网络安全</title>
		<link>https://www.gugumao.net/p/5582</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Tue, 14 Jul 2026 01:47:40 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5582</guid>

					<description><![CDATA[<p>随着生成式人工智能的快速发展，越来越多的开源大模型可以被任何人下载并进行微调</p>
<p><a href="https://www.gugumao.net/p/5582">AI新技术助力保护儿童网络安全</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">随着生成式人工智能的快速发展，越来越多的开源大模型可以被任何人下载并进行微调。从制作特定风格的产品渲染图，到生成个性化艺术作品，AI模型的应用范围不断扩大，为创作者带来了更多可能。</p>



<p class="wp-block-paragraph">然而，技术的开放同样伴随着风险。一些不法分子利用模型微调技术，将原本安全的AI模型改造成能够生成仇恨言论、暴力内容，甚至儿童性虐待材料（CSAM）的工具。相关问题正在迅速恶化。据统计，2025年，美国国家失踪与被剥削儿童中心（NCMEC）收到超过150万起涉及AI生成CSAM的举报，而2024年这一数字约为6.7万起，增长幅度惊人。</p>



<h2 class="wp-block-heading">传统检测方式遭遇法律与技术双重难题</h2>



<p class="wp-block-paragraph">一直以来，AI安全评估主要依赖&#8221;提示词测试&#8221;的方法，即通过不断向模型输入各种指令，再根据输出结果判断模型是否存在危险能力。</p>



<p class="wp-block-paragraph">但这种方法在检测CSAM时却行不通。</p>



<p class="wp-block-paragraph">原因很简单：在美国以及许多国家和地区，无论出于研究还是测试目的，生成此类内容本身就是违法行为。因此，研究人员无法像测试普通有害内容那样，通过实际生成结果来验证模型是否存在风险。</p>



<p class="wp-block-paragraph">与此同时，大量人工审核不仅效率低，还会给审核人员带来严重的心理压力。因此，寻找一种无需生成违规内容即可完成检测的新方法，成为AI安全领域亟待解决的重要课题。</p>



<h2 class="wp-block-heading">MIT联合Thorn提出全新的审计方案</h2>



<p class="wp-block-paragraph">针对这一难题，麻省理工学院（MIT）研究团队联合儿童安全公益机构Thorn，共同研发出一种全新的AI模型审计技术。</p>



<p class="wp-block-paragraph">该研究由MIT研究生Vinith Suriyakumar、副教授Ashia Wilson、Marzyeh Ghassemi等人与Thorn研究人员共同完成，并在国际机器学习会议（ICML）&#8221;Trustworthy AI for Good&#8221;研讨会上进行了重点展示。</p>



<p class="wp-block-paragraph">这项技术最大的特点在于：</p>



<p class="wp-block-paragraph"><strong>整个检测过程中不会生成任何违规图片，也无需向模型输入违法提示词。</strong></p>



<p class="wp-block-paragraph">研究团队将检测重点放在模型内部结构，而不是最终输出结果，通过分析模型在微调过程中产生的内部变化，直接判断模型是否被训练用于生成违法内容。</p>



<h2 class="wp-block-heading">核心思路：检测模型&#8221;内部变化&#8221;</h2>



<p class="wp-block-paragraph">如今，大多数开源模型都会采用一种名为**LoRA（Low-Rank Adaptation，低秩适配）**的微调技术。</p>



<p class="wp-block-paragraph">相比重新训练整个模型，LoRA只需要调整极少量参数，就可以让模型快速掌握新的能力，因此被广泛应用于各种AI模型定制。</p>



<p class="wp-block-paragraph">例如：</p>



<ul class="wp-block-list">
<li>学习某种绘画风格；</li>



<li>生成特定人物形象；</li>



<li>制作产品宣传图；</li>
</ul>



<p class="wp-block-paragraph">当然，也可能被恶意利用来训练生成违法内容。</p>



<p class="wp-block-paragraph">MIT团队没有检测模型最终生成什么，而是直接分析LoRA适配器对模型内部计算过程造成了哪些改变。</p>



<p class="wp-block-paragraph">研究人员采用了一种名为**高斯探测（Gaussian Probe）**的方法：</p>



<p class="wp-block-paragraph">他们向模型输入随机数据，而不是任何真实图片或违法提示，然后观察这些随机数据在模型多个隐藏层中的传播方式，再对不同层的变化进行统计分析，从而形成模型&#8221;内部特征画像&#8221;。</p>



<p class="wp-block-paragraph">由于整个过程始终停留在模型计算阶段，因此不会生成任何图像，也不会触碰法律红线。</p>



<p class="wp-block-paragraph">正如论文第一作者Vinith Suriyakumar所说：</p>



<blockquote class="wp-block-quote is-layout-flow wp-block-quote-is-layout-flow">
<p class="wp-block-paragraph">&#8220;我们不会让模型运行到最终输出，更不会要求它生成图片，因此整个检测过程始终处于安全范围。&#8221;</p>
</blockquote>



<h2 class="wp-block-heading">检测准确率达到100%</h2>



<p class="wp-block-paragraph">为了验证方法的有效性，研究团队分别测试了多个经过LoRA微调的模型。</p>



<p class="wp-block-paragraph">这些模型包括：</p>



<ul class="wp-block-list">
<li>能够生成CSAM的模型；</li>



<li>可生成其他有害内容的模型；</li>



<li>正常、安全用途的模型。</li>
</ul>



<p class="wp-block-paragraph">实验结果显示，高斯探测技术能够<strong>100%准确识别</strong>专门用于生成CSAM的模型，与真实标签完全一致。</p>



<p class="wp-block-paragraph">这一结果意味着，未来模型托管平台可以在用户上传模型时提前完成自动审计，在危险模型传播之前及时发现并下架，大幅提升平台治理效率。</p>



<h2 class="wp-block-heading">更适合大规模AI模型监管</h2>



<p class="wp-block-paragraph">当前，每个月都会有数以千计的新模型上传到各类开源社区。</p>



<p class="wp-block-paragraph">如果继续依赖人工测试，不仅成本极高，而且几乎无法实现规模化审核。</p>



<p class="wp-block-paragraph">相比传统方式，高斯探测具有多项优势：</p>



<ul class="wp-block-list">
<li>无需生成违法内容；</li>



<li>不依赖人工审核；</li>



<li>检测速度更快；</li>



<li>成本更低，适合批量部署；</li>



<li>对恶意绕过检测具有较强鲁棒性。</li>
</ul>



<p class="wp-block-paragraph">研究人员表示，恶意开发者如果想绕过这种检测，需要大幅修改模型内部结构，而不仅仅是简单更换提示词，这使得规避检测的难度显著提升。</p>



<h2 class="wp-block-heading">未来仍有更多探索空间</h2>



<p class="wp-block-paragraph">目前，这项技术主要针对经过LoRA微调后的模型进行检测。</p>



<p class="wp-block-paragraph">下一阶段，MIT团队希望进一步研究：</p>



<ul class="wp-block-list">
<li>能否适用于更多类型的大模型；</li>



<li>是否能够在模型微调之前，就识别其潜在危险能力；</li>



<li>如何进一步提升检测效率和覆盖范围。</li>
</ul>



<p class="wp-block-paragraph">研究团队认为，这项成果不仅能够帮助平台建立更加完善的AI安全审查体系，也有望为全球儿童网络安全保护提供新的技术支持。</p>



<p class="wp-block-paragraph">正如Marzyeh Ghassemi教授所说：</p>



<blockquote class="wp-block-quote is-layout-flow wp-block-quote-is-layout-flow">
<p class="wp-block-paragraph">&#8220;如今，我们终于拥有了一种能够真正解决这一难题的技术路径。希望未来能够借助这项研究，为保护更多儿童、推动人工智能安全发展带来积极影响。&#8221;</p>
</blockquote>



<hr class="wp-block-separator has-alpha-channel-opacity"/>



<h3 class="wp-block-heading">总结</h3>



<p class="wp-block-paragraph">生成式AI的发展离不开开放生态，但开放并不意味着放任风险扩散。MIT联合Thorn推出的这项新型AI审计技术，通过分析模型内部结构，而非生成违规内容，实现了对危险模型的精准识别，不仅突破了法律限制，也为AI安全治理提供了一种更加高效、可扩展的新思路。</p>



<p class="wp-block-paragraph">随着人工智能应用不断普及，类似的安全检测技术有望成为未来开源模型平台的重要基础设施，在保障技术创新的同时，也为数字世界构建更加安全、健康的发展环境。</p>



<p class="wp-block-paragraph">原文：https://news.mit.edu/2026/new-method-keeps-kids-safe-from-illegal-ai-generated-content-0713</p>
<p><a href="https://www.gugumao.net/p/5582">AI新技术助力保护儿童网络安全</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>AI比人类更容易被“带节奏”？最新研究揭示语言模型决策弱点</title>
		<link>https://www.gugumao.net/p/5541</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Sun, 12 Jul 2026 12:23:59 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5541</guid>

					<description><![CDATA[<p>人工智能正越来越多地承担替人做决定的任务，例如购物、理财、浏览网页和执行复杂操作。</p>
<p><a href="https://www.gugumao.net/p/5541">AI比人类更容易被“带节奏”？最新研究揭示语言模型决策弱点</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph" style="font-size:16px">人工智能正越来越多地承担替人做决定的任务，例如购物、理财、浏览网页和执行复杂操作。然而，一项发表在《美国国家科学院院刊》（PNAS）的最新研究发现，目前的大型语言模型在做决策时，比人类更容易受到外部信息的影响，甚至会因为一些看似不起眼的提示而偏离原本目标。这意味着，当AI被赋予更多自主权时，它的决策结果可能比想象中更容易受到环境操控。</p>



<p class="wp-block-paragraph" style="font-size:16px">如今，基于大型语言模型（LLM）的智能代理已经不仅仅局限于聊天，它们可以调用工具、执行任务，甚至自主完成一系列连续决策。不过，科学界对于这些模型究竟如何做出选择，仍然缺乏深入理解。</p>



<p class="wp-block-paragraph" style="font-size:16px">在人类行为研究中，有一个重要概念叫做“选择架构”，即信息和选项的呈现方式会影响最终决定。例如，把某个按钮设为默认选项、给予醒目标记，或者向用户推荐某个方案，都可能悄然改变人们的选择。由于人类的时间和认知能力有限，我们通常会借助经验和心理捷径来降低思考成本，这也是所谓的“有限理性”。</p>



<p class="wp-block-paragraph" style="font-size:16px">理论上，AI不存在疲劳、注意力不足等生理限制，因此不少人认为它应该比人类更加理性。然而，过去已有研究发现，大语言模型会因为提示词、排版方式甚至用户表达习惯的变化而产生不同回答。研究团队希望进一步了解，当AI面对现实世界常见的“引导”时，会不会也受到影响。</p>



<p class="wp-block-paragraph" style="font-size:16px">论文第一作者、麻省理工学院媒体实验室博士生Manuel Cherep表示，许多人默认认为AI代理在不确定环境下会像人类一样，甚至更加理性地做决定，但团队并没有接受这一假设，而是希望直接测试不同的信息呈现方式究竟会如何影响AI的行为。</p>



<p class="wp-block-paragraph" style="font-size:16px">为此，研究人员改造了一款原本用于测试人类决策能力的实验游戏。游戏中，一个数字网格代表多个隐藏奖品，参与者需要花费积分逐步揭示格子里的信息，再根据获得的数据判断哪一个奖品篮价值最高，从而获得最大收益。</p>



<p class="wp-block-paragraph" style="font-size:16px">玩家必须不断权衡：是继续花费积分获取更多信息，还是尽快作出决定，以获得更高回报。</p>



<p class="wp-block-paragraph" style="font-size:16px">为了让语言模型能够参与实验，研究人员将整个游戏转换成文本形式，并邀请来自多家科技公司的14款主流模型参与测试，包括OpenAI GPT系列、Anthropic Claude系列以及Google Gemini系列等。</p>



<p class="wp-block-paragraph" style="font-size:16px">研究团队针对不同模型进行了数百轮实验，总共消耗约20亿个文本Token，并分别测试了四种现实生活中常见的引导方式。</p>



<p class="wp-block-paragraph" style="font-size:16px">第一种是<strong>默认选项</strong>，系统预先勾选某个奖品，AI可以接受或主动修改。</p>



<p class="wp-block-paragraph" style="font-size:16px">第二种是<strong>推荐建议</strong>，在游戏早期或后期随机推荐一个奖品。</p>



<p class="wp-block-paragraph" style="font-size:16px">第三种是<strong>信息突出</strong>，降低查看某些信息的成本，使这些内容更加显眼。</p>



<p class="wp-block-paragraph" style="font-size:16px">第四种则是<strong>最优引导</strong>，提前公开最有价值的信息，理论上可以帮助玩家做出更好的决策。</p>



<p class="wp-block-paragraph" style="font-size:16px">实验结果显示，AI对于这些引导的敏感程度远远超过人类。</p>



<p class="wp-block-paragraph" style="font-size:16px">在人类实验中，大约88%的参与者会直接接受默认选项，而多个AI模型接受默认选择的比例高达99%甚至100%，几乎不会主动修改。</p>



<p class="wp-block-paragraph" style="font-size:16px">面对随机推荐，人类在游戏初期采纳建议的比例约为35%，而不少AI模型明显更容易接受这些毫无依据的推荐，即使这些建议并不会提高最终收益。</p>



<p class="wp-block-paragraph" style="font-size:16px">更有意思的是，建议出现的时间也会影响AI判断。对于后期才出现的推荐，人类仍有约25%的概率采纳，但部分AI模型的接受率却下降到7%至13%，说明它们更多是在响应提示本身，而不是分析建议是否真正有价值。</p>



<p class="wp-block-paragraph" style="font-size:16px">信息突出同样产生了明显影响。</p>



<p class="wp-block-paragraph" style="font-size:16px">当研究人员故意把价值较低的信息设置得更加醒目时，人类只有约57%的情况下会受到误导，而多数AI模型却有83%至100%的概率跟随这些错误提示，显示出极高的依赖性。</p>



<p class="wp-block-paragraph" style="font-size:16px">除了最终选择，研究人员还观察了模型收集信息的方式。</p>



<p class="wp-block-paragraph" style="font-size:16px">人类通常会在获取足够信息后停止探索，以较低成本完成判断。</p>



<p class="wp-block-paragraph" style="font-size:16px">相比之下，AI模型的行为却显得十分反常。有些模型几乎不查看任何隐藏信息便直接做出选择；有些则一次性打开整行、整列数据，浪费大量积分；还有一些模型表现出奇怪的搜索习惯，例如始终优先查看最左侧区域，或者沿着固定对角线逐格探索，而不是根据已有信息灵活调整策略。</p>



<p class="wp-block-paragraph" style="font-size:16px">即便研究人员加入了逐步推理提示，或者提供大量人类示范案例，这些不合理的搜索模式依然没有得到明显改善。</p>



<p class="wp-block-paragraph" style="font-size:16px">研究人员指出，如果只看最终得分，很容易误判AI的真实能力。</p>



<p class="wp-block-paragraph" style="font-size:16px">部分模型最终成绩与真人玩家相差不大，看起来似乎拥有不错的决策水平。但进一步分析发现，它们很多时候只是机械地服从提示，而不是经过真正的策略分析。</p>



<p class="wp-block-paragraph" style="font-size:16px">如果默认选项恰好是正确答案，AI自然能够获得不错成绩；但一旦默认信息具有误导性，模型同样会毫不犹豫地跟随错误方向，导致最终表现迅速下降。</p>



<p class="wp-block-paragraph" style="font-size:16px">Manuel Cherep表示，真正令人意外的并不是最终得分，而是不同模型之间的策略差异远比成绩差异更大。也就是说，即使多个模型取得了类似结果，它们内部的思考方式和信息利用策略却可能完全不同，仅依赖最终分数评估模型能力，很可能掩盖潜在风险。</p>



<p class="wp-block-paragraph" style="font-size:16px">研究团队随后测试了具备更强推理能力的新一代模型，并给予它们更多计算时间。</p>



<p class="wp-block-paragraph" style="font-size:16px">结果发现，这类模型在面对默认选项、推荐建议等引导时，表现得更加接近人类，不再盲目接受所有提示，而是会进行更多分析之后再做决定。</p>



<p class="wp-block-paragraph" style="font-size:16px">不过，这种改进并非没有代价。</p>



<p class="wp-block-paragraph" style="font-size:16px">为了完成一次决策，高级推理模型需要消耗数百个额外Token，计算成本显著增加。研究人员估算，如果希望AI代理在现实环境中保持更可靠、更稳定的判断能力，其运行成本可能比普通模型高出30至100倍，对于长期自动化任务而言，这意味着更高的资源消耗。</p>



<p class="wp-block-paragraph" style="font-size:16px">研究人员强调，这类问题与传统意义上的黑客攻击不同。</p>



<p class="wp-block-paragraph" style="font-size:16px">所谓“助推”并不一定来自恶意攻击者，它本身就是现实生活中无处不在的信息呈现方式。网页设计、商品排序、推荐内容、按钮位置乃至广告展示，都可能在潜移默化中影响AI代理的判断。因此，即使能够防范恶意攻击，也无法消除这些日常存在的信息引导。</p>



<p class="wp-block-paragraph" style="font-size:16px">当然，这项研究是在高度可控的文本实验环境中完成的，与真实世界的网页浏览、购物平台或复杂商业场景仍存在差异。不过，研究团队表示，他们已经开展了新的研究，并发现类似现象同样会出现在真实在线购物等实际应用中，说明AI对于环境线索的高敏感性并非实验室特有的问题。</p>



<p class="wp-block-paragraph" style="font-size:16px">研究人员认为，随着越来越多智能代理进入现实生活，人们不能只关注AI是否完成任务，更应该关注它究竟是如何完成决策的。如果这些模型过度依赖外部提示，那么第三方完全可能利用网页设计、推荐信息或其他环境因素，影响AI替用户做出的最终选择。</p>



<p class="wp-block-paragraph" style="font-size:16px">未来，打造真正可靠的智能助手，不仅需要提升模型能力，更需要建立一套完整的行为评估体系，深入理解AI如何思考、如何响应环境变化，以及如何在复杂场景中保持稳定、独立的决策能力。</p>



<p class="wp-block-paragraph">原文：https://www.psypost.org/ai-models-are-far-more-susceptible-to-misleading-nudges-than-humans-study-shows/</p>
<p><a href="https://www.gugumao.net/p/5541">AI比人类更容易被“带节奏”？最新研究揭示语言模型决策弱点</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>AI智能自行车成行业新希望</title>
		<link>https://www.gugumao.net/p/5432</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Mon, 29 Jun 2026 06:26:27 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5432</guid>

					<description><![CDATA[<p>在欧洲自行车贸易展上，多家厂商展示了最新的AI骑行技术，希望借助智能功能重新激发消费者的购买热情。</p>
<p><a href="https://www.gugumao.net/p/5432">AI智能自行车成行业新希望</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph" style="font-size:15px">经历连续数年的市场低迷后，欧洲自行车行业正将希望寄托于人工智能。随着AI技术不断成熟，它不仅开始应用于汽车和智能手机，如今也逐渐融入自行车产品，从动力辅助、安全防护到售后服务，智能化正成为行业转型的新方向。</p>



<p class="wp-block-paragraph" style="font-size:15px">在欧洲自行车贸易展上，多家厂商展示了最新的AI骑行技术，希望借助智能功能重新激发消费者的购买热情。</p>



<p class="wp-block-paragraph" style="font-size:15px">其中，电动自行车动力系统成为关注焦点。中国无人机企业大疆旗下品牌Avinox展示了一套智能电机系统，通过遍布车身的多个传感器，持续监测骑行者踩踏力度、骑行姿势以及道路坡度、路面状况等信息，再利用人工智能算法实时调整电机输出，让助力更加精准自然。</p>



<p class="wp-block-paragraph" style="font-size:15px">开发团队表示，这种动态辅助能够根据骑行环境自动优化动力输出，使骑行更加轻松，同时减少骑行者频繁调整模式的操作，提高整体安全性。</p>



<p class="wp-block-paragraph" style="font-size:15px">系统还支持连接心率监测设备。当检测到骑行者心率持续升高或体力下降时，AI会自动增加电机辅助力度，帮助减轻身体负担，让骑行过程更加舒适。</p>



<p class="wp-block-paragraph" style="font-size:15px">除了动力辅助，主动安全技术也成为展会的重要亮点。</p>



<p class="wp-block-paragraph" style="font-size:15px">德国自行车品牌Canyon展示了一套结合摄像头和毫米波雷达的智能骑行辅助系统。车辆能够持续监测周围环境，并提前识别骑行者可能没有注意到的潜在危险。</p>



<p class="wp-block-paragraph" style="font-size:15px">例如，当系统判断路边停放车辆存在突然打开车门的风险时，会立即发出预警，提醒骑行者提前减速或避让，从而降低碰撞事故发生的可能性。</p>



<p class="wp-block-paragraph" style="font-size:15px">预警信息不仅可以通过车架上的灯光提示，也能够利用车把震动反馈，甚至直接投射到智能头盔的显示面罩中，让骑行者无需低头查看设备即可获取重要信息。</p>



<p class="wp-block-paragraph" style="font-size:15px">Canyon还推出了一款配备大型透明面罩的智能头盔，能够实时显示导航、安全提醒以及其他骑行数据，也可通过语音方式向骑行者发送提示。不过，这些产品目前仍处于原型开发阶段，距离正式上市还有一定时间。</p>



<p class="wp-block-paragraph" style="font-size:15px">与此同时，Canyon正与大众汽车合作研发车联网系统，希望实现自行车与汽车、道路基础设施之间的信息互联。未来，当汽车准备转弯、变道或接近自行车时，双方可提前交换数据，从而减少交通事故。</p>



<p class="wp-block-paragraph" style="font-size:15px">不过，研发人员坦言，目前最大的挑战并非技术，而是道路上的绝大多数车辆尚未具备这种通信能力，因此整个生态系统仍需要较长时间才能建立。</p>



<p class="wp-block-paragraph" style="font-size:15px">人工智能不仅改变骑行体验，也开始重塑自行车行业的售后服务。</p>



<p class="wp-block-paragraph" style="font-size:15px">保险公司Linexo表示，到今年年底，约九成自行车保险理赔预计将实现全自动处理。AI能够快速识别普通理赔案件，自动完成审核和赔付，而复杂案件及涉嫌欺诈的情况则交由人工专家进一步调查。</p>



<p class="wp-block-paragraph" style="font-size:15px">企业认为，这种模式既能提高处理效率，也有助于降低运营成本，从而控制保险费用上涨。</p>



<p class="wp-block-paragraph" style="font-size:15px">与此同时，初创公司Wunderfix推出了一款智能维修平台。用户只需通过手机应用上传故障信息，AI便可帮助诊断问题，并指导用户自行完成简单维修；如果需要专业维修，平台还可直接连接附近的维修门店，安排后续服务。</p>



<p class="wp-block-paragraph" style="font-size:15px">据了解，今年该平台已经记录了约3000起维修服务请求，显示出数字化维修服务正逐渐受到消费者欢迎。</p>



<p class="wp-block-paragraph" style="font-size:15px">对于整个欧洲自行车产业而言，AI带来的不仅是产品升级，更是行业复苏的新契机。</p>



<p class="wp-block-paragraph" style="font-size:15px">咨询机构安永帕台农数据显示，2025年欧洲自行车市场销量连续第三年下滑，总销量下降4%，约为1520万辆。疫情期间形成的消费热潮退去后，行业一直面临库存积压、价格竞争激烈以及市场需求放缓等问题，许多企业承受着较大的经营压力。</p>



<p class="wp-block-paragraph" style="font-size:15px">不过，市场分析人士认为，行业最困难的阶段可能已经接近尾声。预计今年市场将逐渐企稳，并在未来几年恢复增长，到2031年欧洲自行车市场收入有望达到212亿欧元，重新接近2022年的历史高点。</p>



<p class="wp-block-paragraph" style="font-size:15px">业内普遍认为，除了持续改善骑行基础设施外，以人工智能、数字化管理和数据驱动产品为代表的新技术，将成为推动欧洲自行车行业下一轮增长的重要动力。</p>



<p class="wp-block-paragraph">原文：https://techxplore.com/news/2026-06-industry-smart-bikes-boost-sales.html#google_vignette</p>



<p class="wp-block-paragraph">封面图片：unsplash/Mikkel Bech</p>
<p><a href="https://www.gugumao.net/p/5432">AI智能自行车成行业新希望</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>AI设计出“更好吃、更健康、更环保”的汉堡？科学家让100多人试吃后，结果出人意料</title>
		<link>https://www.gugumao.net/p/5396</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Sun, 28 Jun 2026 05:42:40 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5396</guid>

					<description><![CDATA[<p>人工智能正在进入越来越多的领域，而如今，它甚至开始参与美食设计。</p>
<p><a href="https://www.gugumao.net/p/5396">AI设计出“更好吃、更健康、更环保”的汉堡？科学家让100多人试吃后，结果出人意料</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="has-medium-font-size wp-block-paragraph">人工智能正在进入越来越多的领域，而如今，它甚至开始参与美食设计。</p>



<p class="has-medium-font-size wp-block-paragraph">来自美国斯坦福大学的研究团队开发出一套名为 <strong>BurgerAI</strong> 的人工智能系统，希望借助机器学习重新定义汉堡配方。它不仅能够分析什么样的汉堡更美味，还能在营养价值、环境影响和消费者口味之间寻找最佳平衡。为了验证AI的成果，研究人员甚至把它设计出的汉堡搬进真实餐厅，让100多位食客进行盲测。</p>



<h2 class="wp-block-heading">AI如何“学会”制作汉堡？</h2>



<p class="has-medium-font-size wp-block-paragraph">传统研发一种新食品，往往需要厨师和食品科学家反复试验不同配方，既耗时又耗力。</p>



<p class="has-medium-font-size wp-block-paragraph">BurgerAI则采用了另一种思路。</p>



<p class="has-medium-font-size wp-block-paragraph">研究人员首先收集了2200多份真实汉堡食谱，让AI学习各种食材之间的搭配规律，包括肉类、奶酪、酱料、蔬菜、面包以及调味料的比例关系。经过训练后，AI并不是简单复制已有配方，而是建立起一种对“美味汉堡”的统计模型，并据此生成全新的组合。</p>



<p class="has-medium-font-size wp-block-paragraph">更有意思的是，研究团队还让AI尝试“还原”经典快餐汉堡。</p>



<p class="has-medium-font-size wp-block-paragraph">虽然系统从未接触过某知名连锁品牌的官方配方，但它依靠学习大量公开食谱，自主生成了一份与经典汉堡高度相似的配方，说明AI确实掌握了受欢迎汉堡背后的搭配规律，而不是死记硬背。</p>



<h2 class="wp-block-heading">真正的考验：让消费者蒙眼品尝</h2>



<p class="has-medium-font-size wp-block-paragraph">计算机模型是否真的有效，最终还要看消费者是否买账。</p>



<p class="has-medium-font-size wp-block-paragraph">研究团队邀请专业厨师按照AI生成的配方制作汉堡，并在美国旧金山一家餐厅组织了一场盲测实验，共有101名参与者参加。</p>



<p class="has-medium-font-size wp-block-paragraph">测试中，每位参与者都会品尝六款不同汉堡，其中包括AI设计的多种版本以及作为参照对象的一款经典快餐汉堡。整个过程中，参与者不知道自己吃的是哪一种，只根据口感、风味和整体喜爱程度进行评分。</p>



<p class="has-medium-font-size wp-block-paragraph">结果显示，两款以“美味”为目标优化的AI汉堡表现十分出色。</p>



<p class="has-medium-font-size wp-block-paragraph">其中一款在风味评分上超过了参考汉堡；另一款不仅风味得分更高，在整体喜爱程度上也取得了更好的成绩。参与者普遍认为，这些AI设计的汉堡更加多汁、烟熏味更浓，也更有肉香。</p>



<h2 class="wp-block-heading">更环保和更健康，并不一定更受欢迎</h2>



<p class="has-medium-font-size wp-block-paragraph">除了追求美味，研究人员还让AI分别设计了以环保和营养为主要目标的汉堡。</p>



<p class="has-medium-font-size wp-block-paragraph">其中一款以蘑菇为主要原料的汉堡，大幅降低了生产过程中预计产生的环境负担，其环境影响评分不到参考汉堡的十分之一，意味着如果广泛采用类似配方，可能有助于减少食品生产对环境造成的压力。</p>



<p class="has-medium-font-size wp-block-paragraph">不过，在实际品尝中，这款蘑菇汉堡的表现却没有那么理想。</p>



<p class="has-medium-font-size wp-block-paragraph">不少参与者认为，它在口感、风味以及整体满意度方面均逊于传统牛肉汉堡。</p>



<p class="has-medium-font-size wp-block-paragraph">另一款兼顾牛肉与蘑菇的混合版本，则在味道上基本能够与参考汉堡相媲美，但环保优势也随之减弱。</p>



<p class="has-medium-font-size wp-block-paragraph">研究人员还设计了一款以豆类为主要蛋白来源的高营养汉堡。</p>



<p class="has-medium-font-size wp-block-paragraph">按照健康饮食指数（Healthy Eating Index）评估，它的营养得分接近参考汉堡的两倍，同时环境影响也明显更低。然而，消费者普遍认为这款汉堡口味较淡、质地偏干，整体接受度仍低于传统汉堡。</p>



<h2 class="wp-block-heading">AI帮助寻找“最佳平衡”</h2>



<p class="has-medium-font-size wp-block-paragraph">研究人员认为，这项工作的意义并不是证明AI已经做出了世界上最好吃的汉堡，而是展示了一种全新的食品研发方式。</p>



<p class="has-medium-font-size wp-block-paragraph">过去，食品开发更多依赖经验和不断试错；未来，AI可以同时考虑美味、营养、成本、环境影响等多个因素，在庞大的配方空间中快速寻找更优方案，大幅缩短研发周期。</p>



<p class="has-medium-font-size wp-block-paragraph">研究团队表示，这种方法未来不仅可以应用于汉堡，还可能扩展到零食、饮料、植物蛋白食品，甚至个性化营养餐的开发。例如，根据年龄、运动量、健康状况甚至个人口味，为每位消费者定制更加适合自己的食品。</p>



<h2 class="wp-block-heading">研究仍存在一定局限</h2>



<p class="has-medium-font-size wp-block-paragraph">研究人员也指出，目前BurgerAI仍有不少限制。</p>



<p class="has-medium-font-size wp-block-paragraph">首先，它学习的数据主要来自西方汉堡食谱，因此对于其他国家或地区的饮食文化适应能力还有待验证。其次，AI目前主要分析食材及其比例，并未充分考虑烹饪方式、火候、加工工艺等对最终风味的重要影响。</p>



<p class="has-medium-font-size wp-block-paragraph">此外，这次试吃实验仅在一家餐厅完成，参与人数为101人，未来仍需在更多地区、更多人群中开展更大规模的验证，以确认研究结果是否具有广泛适用性。</p>



<p class="has-medium-font-size wp-block-paragraph">随着生成式人工智能不断发展，它的角色或许将不仅仅是回答问题或生成文字，而是逐渐成为科学研究和产品设计的重要工具。从设计汉堡到开发新材料、优化药物配方，AI参与创新的空间正在不断扩大，而BurgerAI只是其中一个有趣的起点。</p>



<p class="has-medium-font-size wp-block-paragraph">原文：https://studyfinds.com/burgerai-design-burgers-taste-health-planet/</p>
<p><a href="https://www.gugumao.net/p/5396">AI设计出“更好吃、更健康、更环保”的汉堡？科学家让100多人试吃后，结果出人意料</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>AI公司为何争抢哲学家？答案或许超乎你的想象</title>
		<link>https://www.gugumao.net/p/5387</link>
		
		<dc:creator><![CDATA[奥拉奥拉]]></dc:creator>
		<pubDate>Fri, 26 Jun 2026 07:18:23 +0000</pubDate>
				<category><![CDATA[人工智能]]></category>
		<guid isPermaLink="false">https://www.gugumao.net/?p=5387</guid>

					<description><![CDATA[<p>长期以来，人工智能的发展几乎完全由计算机科学家、数学家和工程师主导。</p>
<p><a href="https://www.gugumao.net/p/5387">AI公司为何争抢哲学家？答案或许超乎你的想象</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">长期以来，人工智能的发展几乎完全由计算机科学家、数学家和工程师主导。然而，近几年，一种新的招聘趋势正在全球AI行业悄然兴起——越来越多大型AI实验室开始聘请哲学家加入研发团队。</p>



<p class="wp-block-paragraph">在许多人看来，哲学似乎是一门远离现实的学科，但对于人工智能企业而言，它却越来越具有实际价值。</p>



<p class="wp-block-paragraph">原因在于，现代人工智能已经不仅仅是完成计算或回答问题那么简单。随着大语言模型不断进步，它们开始参与医疗、教育、法律、金融等多个领域，需要面对大量没有标准答案的复杂决策。这些问题往往涉及价值判断、伦理原则以及人与社会之间的关系，而这些恰恰是哲学研究了数千年的内容。</p>



<p class="wp-block-paragraph">例如，当AI面对多个方案时，应该依据什么标准进行选择？不同文化背景下，对“公平”“责任”“自由”等概念的理解存在差异，如何让AI在各种场景下做出合理判断，也成为研发团队面临的新挑战。</p>



<p class="wp-block-paragraph">这些问题无法单纯依靠代码解决。</p>



<p class="wp-block-paragraph">因此，不少AI公司开始邀请哲学家参与模型设计、推理评估以及安全研究，希望借助哲学中的逻辑分析和概念辨析能力，让人工智能拥有更加严谨、可靠的推理过程。</p>



<p class="wp-block-paragraph">除了伦理问题之外，哲学家还参与另一个热门领域——AI对齐（Alignment）。</p>



<p class="wp-block-paragraph">所谓AI对齐，就是让人工智能始终按照人类的目标和价值观运行，而不会因为理解偏差产生危险行为。</p>



<p class="wp-block-paragraph">看似简单的一句话，实际上涉及大量哲学问题。例如，人类价值观是否能够被精确定义？不同人的价值冲突应该如何平衡？如果AI拥有自主推理能力，它又该如何理解“善”与“恶”？</p>



<p class="wp-block-paragraph">这些讨论过去属于哲学课堂，如今却成为人工智能研发的重要组成部分。</p>



<p class="wp-block-paragraph">与此同时，哲学训练强调严密推理、识别逻辑漏洞以及分析复杂概念，这些能力也越来越受到AI企业重视。</p>



<p class="wp-block-paragraph">大型语言模型虽然能够生成流畅文字，但有时仍会出现推理错误、自相矛盾或逻辑不一致的问题。哲学家可以帮助研究团队设计更加严格的测试方法，发现模型隐藏的思维漏洞，并改进AI的推理能力，而不仅仅关注回答是否流畅。</p>



<p class="wp-block-paragraph">值得注意的是，这并不意味着AI公司只招聘哲学专业毕业生。</p>



<p class="wp-block-paragraph">事实上，这些企业更看重的是跨学科能力，希望哲学家能够与计算机科学家、语言学家、心理学家以及认知科学研究人员共同合作，从不同角度理解智能本身，并帮助构建更加安全、可信的人工智能系统。</p>



<p class="wp-block-paragraph">随着人工智能逐渐深入社会生活，人们关注的重点也正在发生变化。从最初追求模型“更快、更强”，到如今更加关注AI是否可靠、是否符合人类价值观，行业的发展方向正在不断调整。</p>



<p class="wp-block-paragraph">越来越多AI实验室开始意识到，打造真正可信赖的人工智能，不仅需要先进的算法和强大的算力，也需要来自哲学、人文学科等领域的智慧。</p>



<p class="wp-block-paragraph">或许未来最重要的AI团队，不只是程序员和工程师的组合，还会包括哲学家、伦理学家以及更多跨学科人才，共同决定人工智能的发展方向。</p>



<p class="wp-block-paragraph">原文：https://www.economist.com/science-and-technology/2026/06/24/why-big-ai-labs-are-hiring-so-many-philosophers</p>
<p><a href="https://www.gugumao.net/p/5387">AI公司为何争抢哲学家？答案或许超乎你的想象</a>最先出现在<a href="https://www.gugumao.net">咕咕猫</a>。</p>
]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
