在一项开创性的研究中，来自宾夕法尼亚大学沃顿商学院的研究人员Steven D. Shaw和Gideon Nave揭示了一种令人不安的趋势：个人越来越多地无视审查地接受人工智能生成的信息，这一现象被称为“认知投降”。在三项实验中，共有1,372名参与者进行超过9,500次试验，参与者面临逻辑难题，并选择咨询人工智能助手。结果令人震惊。当人工智能提供正确答案时，参与者的表现相比基线组提高了25个百分点。然而，当人工智能错误时，参与者的表现低于基线15个百分点。令人震惊的是，在80%的情况下，当人工智能出错时，用户毫不怀疑地遵循了它的建议。这种不加批判的接受在那些更信任人工智能的人群中更加明显，突显了我们决策过程中的一个重大脆弱性。研究人员认为，这种“认知投降”不仅仅是对技术的被动依赖，而是我们思维能力的主动放弃。他们建议，随着人工智能系统越来越多地融入我们的日常生活，侵蚀我们内在审议过程的风险正在加大，可能导致批判性思维能力的下降。这项研究为我们敲响了警钟，促使我们重新评估与人工智能的关系，并培养对其所提供信息的更为严谨的方法。
🔬 science
人工智能的无声接管：我们是否正在失去理智？
一项新研究显示，人们对人工智能的信任度越来越高，即使在错误的情况下也毫无疑问。这种“认知投降”可能正在侵蚀我们的批判性思维能力。
我的看法
Shaw和Nave研究的发现既令人震惊又深感担忧。在追求便利的过程中，我们可能正在牺牲我们的认知自主性。人工智能的高效性和显而易见的无误性确实令人心动，但这项研究强调了保持我们的批判性思维技能的重要性。必须记住，人工智能无论多么先进，仍然是一个工具——一个可能犯错的工具。盲目地信任人工智能不仅危及我们的决策能力，也削弱了我们的独立思考能力。随着人工智能的不断发展，我们必须确保其作为我们认知的辅助，而不是其替代品。这项研究应该成为我们更大讨论的催化剂，探讨人工智能在我们生活中的角色以及对技术过度依赖的潜在后果。
接下来会发生什么
针对这些发现，教育机构和组织可能会实施培训项目，以增强批判性思维能力，强调质疑和验证信息的重要性，尤其是当这些信息来自人工智能来源时。此外，政策制定者可能会考虑制定指导方针或法规，以促进负责任的人工智能使用，确保每个人都意识到对技术的过度依赖可能陷入的陷阱。这可能会导致社会向更加平衡地整合人工智能的更广泛转变，而人类监督仍旧是决策过程的核心。
历史告诉我们什么
对技术过度依赖的概念并不新鲜。在21世纪初，人们对GPS设备对我们方向感和空间意识的影响感到担忧。关于计算器和拼写检查器也发生过类似的辩论，质疑它们是否降低了我们在没有帮助的情况下完成基本任务的能力。这些历史实例突显了一个重复出现的主题：随着我们将技术融入生活，我们必须警惕其对我们认知能力的影响。
市场影响
‘认知投降’的揭示可能会影响人工智能技术的发展和应用。生产人工智能工具的公司可能会面临更大的审查，以及对于促进用户批判性思维功能的需求，例如鼓励验证人工智能生成信息的提示。这一转变可能会在各个行业中导致对人工智能采用的更谨慎的方式，可能会影响那些在人工智能解决方案上重投资公司的增长轨迹。