包括Facebook，Twitter和Pinterest在内的社交网络都可以利用AI和机器学习系统来检测和删除滥用内容，就像LinkedIn一样。微软拥有的平台拥有6.6亿用户，其中每月有3.03亿活跃。今天，该平台详细介绍了其处理包含不当内容的配置文件的方法，从亵渎到非法服务广告。
正如软件工程师Daniel Gorham在博客文章中所解释的那样，LinkedIn最初依赖于阻止列表(一组违反其服务条款和社区准则的人工编写的单词和短语)来识别和删除潜在的欺诈性帐户。但是，对其进行维护需要大量的工程工作，并且列表往往无法很好地处理上下文。(例如，虽然“护送”一词有时与卖淫有关，但它也用于“安全护送”或“医疗护送”等语境中。)
这激励了LinkedIn采取一种涉及卷积神经网络的机器学习方法，卷积神经网络是一类通常应用于图像分析的算法，并接受了公开会员资料内容的培训。有问题的内容包含标记为“不适当”或“适当”的帐户，其中前者包括由于使用阻止列表和手动审核发现的不适当内容而删除的帐户。Gorham指出，只有每个帐户的“很小”部分都受到这种限制，这需要从整个LinkedIn成员库中进行下采样才能获得带有“适当”标签的帐户，并避免算法偏差。
为了进一步减少偏见，LinkedIn确定了造成大量误报的有问题的单词，并从包含这些单词的成员库中抽取了适当的帐户。然后，对帐户进行人工标记并添加到训练集中，然后对模型进行训练并将其部署到生产中。
戈勒姆说，滥用帐户检测器每天会为新帐户评分，并且该帐户检测器是在现有成员基础上运行的，以识别包含不适当内容的旧帐户。展望未来，LinkedIn打算使用Microsoft翻译服务来确保所有语言的一致性能，并完善和扩展培训集以扩大其能够在模型中识别的内容范围。
“检测和防止LinkedIn上的滥用是一项持续不断的工作，需要多个团队之间的广泛合作，” Gorham写道。“以有效，可扩展的方式查找和删除包含不适当内容的配置文件是我们不断努力提供安全专业平台的一种方式。”
LinkedIn对AI的使用不仅限于滥用内容检测。在2019年10月，它拉开了模型的帷幕，该模型会自动生成上传到LinkedIn的图像的文本描述，这是使用Microsoft的认知服务平台和独特的LinkedIn衍生数据集实现的。另外，其“ 推荐候选人”功能可学习给定角色的招聘条件，并在专用选项卡中自动显示相关候选人。其AI驱动的搜索引擎利用数据，例如人们在个人资料上发布的内容以及候选人进行的搜索以生成最适合工作和求职者的预测。