在最近的一项实验中，研究人员引入了一种不存在的疾病bixonimania，以评估人工智能聊天机器人对虚假信息的脆弱性。结果令人震惊：这些聊天机器人不仅承认了这种虚构的疾病，还进行了传播，甚至出现在了一些经过同行评审的文献中。这个事件引发了关于人工智能系统在传播准确健康信息方面的可靠性的重要问题。人工智能模型容易被误导以接受和传播虚假数据，突显了其设计和训练过程中的一个重大缺陷。这种脆弱性在医疗保健领域尤其令人关注，因为虚假信息可能会导致严重后果。该事件清楚地提醒我们，必须不断评估和完善人工智能系统，以确保它们不会无意中助长虚假信息的传播。专家们强调了开发评估和减轻与人工智能生成内容相关的风险机制的重要性，特别是在健康等敏感领域。bixonimania案例强调了人工智能在信息传播中的更广泛问题，以及当这些系统没有得到适当保护以对抗虚假信息时可能带来的危害。随着人工智能继续融入社会的各个方面，建立健全的验证系统和监管框架变得至关重要，以维持公众信任，确保信息的准确性。 (nature.com)