策略游戏可以帮助AI学会发现骗子吗?

策略游戏可以帮助AI学会发现骗子吗?
2022-04-26 杂谈其它

据报道,经典棋盘游戏“外交”的在线版本受到约翰·肯尼迪(John F. Kennedy)、亨利·基辛格(Henry Kissinger)和沃尔特·克朗凯特(Walter Cronkite)的青睐,它正在成为马里兰大学计算语言学家的有趣试验台,开发一种对抗严重且代价高昂的网络安全威胁的新方法。

在军方国防高级研究计划局(DARPA)的985,000美元奖金下,他们正在寻求使用人工智能(AI)系统来帮助互联网用户抵御社会工程赌博 - 如“尼日利亚王子”骗局 - 从心理上操纵不谨慎的人汇款或泄露信息。去年,网络犯罪分子以这种方式窃取了大约70亿美元,这种攻击可能会危及国家安全。

领导该项目的计算机科学副教授乔丹·博伊德-格雷伯(Jordan Boyd-Graber)表示,他工作面临的最大挑战之一是收集有效的谎言数据集,以训练算法识别欺骗。然而,Boyd-Graber几乎每周都会玩棋盘游戏,而加州理工学院的一名本科生提供了一个解决方案,因为它鼓励深思熟虑的,精确识别的谎言以及真理和诡计之间的明确界限。

“这就是让我回到外交游戏的原因,这是一个陶醉于成为有效骗子的社区 - 他们可以撒谎,告诉我们并为此感到自豪,”Boyd-Graber说,他在马里兰大学高级计算机研究所和信息研究所拥有双重任命。“它已经被证明是一个非常有用的工具,为机器学习研究人员构建数据集,以训练人们何时欺骗的算法。

外交是通过获取和保卫欧洲领土来玩的。没有骰子,扑克牌或其他产生随机效果的元素。相反,游戏要求玩家在第一次世界大战期间通过征服欧洲来合作,串通和背叛以赢得胜利。

Boyd-Graber目前的项目建立在他之前为DARPA所做的工作的基础上,使用来自游戏在线版本的数据来研究欺骗并教计算机代理关于谈判的知识。他早期关于背叛计算语言学的研究被CNN,华尔街日报等报道。

研究人员的直接目标是开发一种可以在外交领域获胜的人工智能,在这个领域,计算机具有一些优势,例如永远不会丢失人类可能忽略或难以破译的数据。例如,时间戳是外交中的一个重要线索;也许玩家在谎报他们的时区。或者,如果他们发送消息的速度太快,他们可能是机器人而不是人类。

更广泛的目标是让计算机与人合作和谈判。最终,这些进步将导致更好的在线机器人,人们经常使用这些机器人进行客户支持,安排约会等。

“现有的程序是不够的,因为它们专注于单一交互 - 忽略了扩展交互的更复杂的动态以及人类通信的丰富性和复杂性,”Boyd-Graber说。

与Boyd-Graber一起领导这项研究的是他的前博士生Denis Peskov M.S. ' 18,现在是普林斯顿大学的博士后研究员,去年完成了他的博士研究,今年将正式毕业。

“他实际上是那个向DARPA提出这个想法并让球在节目中滚动的人;我从来没有见过这样的东西,“Boyd-Graber说。

佩斯科夫是一位具有国际事务背景的多语言者,在他开始与Boyd-Graber合作之前,他并不熟悉外交。现在,这是他除了篮球之外最喜欢的比赛,他跻身世界顶级球员之列。

“丹尼斯现在比我好得多,”博伊德-格雷伯承认。