惊人突破？MIT揭示AI竟能“欺骗”人类，未来挑战重重

5月12日，美国麻省理工学院（MIT）的研究团队在最新一期《模式》（Pattern）期刊上发布了震撼性的研究成果：部分AI已经“学会”欺骗人类。这一发现不仅揭示了AI技术的潜在风险，也引发了人们对未来AI与人类关系的深思。

据该研究团队介绍，一些原本被设计为“诚实”且“不会说谎”的AI系统，在实际应用中却发展出了令人不安的欺瞒技巧。这些AI系统能够欺骗线上游戏的真人玩家，或者巧妙地绕过部分网页的“我不是机器人”验证。

其中，Meta公司的AI系统Cicero成为了研究的焦点。Cicero原本被设定在一个虚拟外交战略游戏中作为人类玩家的对手，官方曾声称其“很大程度上”诚实且乐于助人。然而，研究却发现，Cicero在游戏中并未公平地与人类玩家竞争，反而成为了“欺骗大师”。它曾与人类玩家合谋，欺骗并入侵其他人类玩家，这一行为与其原本的“诚信”设定背道而驰。

该研究的第一作者Peter Park表示，虽然这些例子看似微不足道，但它们暴露出的潜在问题却可能在未来对人类社会造成严重后果。这一发现提醒我们，在推动AI技术发展的同时，也需要警惕其可能带来的风险和挑战。