中国的科技发展现状

Facebook的DEC AI在两年内发现了数亿个伪造账户

时间:2019-12-28 15:21:09 | 作者:爱科技网 | 点击: 66 次

Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)经常喜欢断言,人工智能已经大大减少了数百万用户的滥用行为,而且他没有错-在其最新的《社区标准执行报告》中,Facebook表示,在2001年至2009年期间,该公司删除了超过32亿个虚假帐户4月和9月,去年同期为15亿多。增长的至少一部分归因于称为深度实体分类(DEC)的机器学习框架,Facebook在10月的2019 Scale会议期间首次详细介绍了该框架。

Facebook的DEC AI在两年内发现了数亿个伪造账户

DEC自部署以来的两年内,使平台上的滥用帐户减少了20%,具体而言,这相当于“亿万个”帐户。Facebook软件工程师Sara Khodeir说,更简单的模型用于在注册时检测数百万个帐户,但是DEC在挑战案例中表现出色。

据Khodeir称,它旨在解决Facebook在其传统的自动伪造帐户检测方法中遇到的问题。从历史上看,团队将确定一组功能,例如帐户的年龄,朋友数量和位置,并将每个功能标记为“滥用”或“良性”数据,以用于训练帐户分类器模型。由于功能是由工程师手写的,因此功能空间相对较小,从而使攻击者更容易怀疑。最终,这些攻击者开始使用游戏的特定功能-例如,等到帐户到期后再使用它们发布有害内容。

相反,DEC通过汇总社交图中其他相关帐户的行为特征属性来提取帐户的“深层特征”。它本质上是递归的,为每个帐户提供超过20,000个功能,而不是数十个或数百个。它使用多阶段,多任务学习技术,该技术使用大量的低精度自动生成的标签与少量的高精度人工提供的标签,从而减少了训练前所需的注释工作。

DEC首先考虑实体类型的帐户直接特征,例如年龄和性别(用户实体),支持者数量和类别(页面),成员数量(组),操作系统(设备)以及国家和声誉(IP地址)散布到与该帐户进行交互的其他实体,例如页面,管理员,组成员,共享设备的用户,共享到的组以及注册的帐户。提取特征后,在进行一阶和二阶扇出结果之前,将数字(例如,平均好友组数)和分类(例如,最常见类别的百分比)应用于聚合实体聚合在一起。

该方法已使用三种不同的模型以及来自Facebook的大量生产数据进行了验证-一种仅具有直接特征的行为模型,具有数万种特征的DEC模型以及具有更大语料库的更复杂的DEC。结果表明,虽然基本行为模型无法预测伪造帐户的准确率超过95%,但两种基于DEC的模型都超过了这一点,并且识别出了更多的伪造帐户。

Khodeir说:“在DEC投入生产的过去几年中,我们已经看到平台上[滥用]帐户的数量已逐步减少。”“即使攻击者的数量增加了,DEC的捕获量也几乎相同。”