纽约大学研究中心AI Now Institute研究人工智能对社会的影响，他说，随着这些技术的广泛应用，负面影响开始显现。
研究人员写道，这份长达93页的报告审查了人们所关注的问题：“从支持AI的工人管理，对福利和社会服务的算法确定，对移民和代表性不足的社区的监视和跟踪”。
“显而易见的是，在不同的领域和环境中，人工智能正在扩大不平等，将信息和控制权移交给已经拥有权力的人，而进一步削弱那些没有权力的人的权力。”
研究人员说，“没有适当的保障措施或责任结构，” 人工智能系统正在医疗，教育，就业，刑事司法等领域中部署。
报告说，政府和企业应“在敏感的社会和政治环境中”停止使用面部识别，直到更好地理解风险为止，并且应禁止使用“影响识别”或计算机技术读取情绪这一子集。怀疑它是否有效。
报告称，“不应允许情感识别在有关人的生活的重要决定中发挥作用，例如，面试或雇用谁，工作，保险价格，患者痛苦评估或学生在学校的表现”。
它还呼吁科技工作者“有权知道自己正在建造什么，并有权反对其工作的不道德或有害使用。”
AI Now报告称，使用先进技术的医疗组织需要实施数据保护政策，并允许人们“肯定批准”机会退出研究或治疗，以及使用其医疗信息退出研究。
研究人员更广泛地说，人工智能行业需要做出“结构性改变”，以确保算法不会增强种族主义，偏见或缺乏多样性。
报告称：“人工智能行业非常相似，这在很大程度上是因为它对待妇女，有色人种，性别少数群体和其他代表性不足的群体。”
报告称，监管AI系统的工作正在进行中，但“被政府采用AI系统进行监视和控制的速度超过了”。
研究人员写道：“尽管越来越多的公众关注和监管行动，但是面部识别和其他危险的AI技术的推出几乎没有放缓。”
“全球范围内所谓的“智慧城市”项目正在以营利为目的的技术公司巩固对公民生活的控制权，使他们负责管理重要的资源和信息。”
