由北卡罗来纳州达勒姆市杜克大学的程序设计团队设计的照片编辑工具，不仅可以为数字演示文稿提供更清晰，更清晰的图像，而且还可以为老式视频游戏迷带来数小时的乐趣，他们现在可以为低矮的视频生成清晰的面孔。填充早期产品的像素字符。但是该工具也出乎意料地浮出水面，涉及在大规模机器学习项目中使用数据集的偏见。
DUL研究人员创建了PULSE(通过潜伏空间探索进行照片上采样)，以根据低像素源数据创建更逼真的图像。在今年早些时候分发的研究论文中，该团队解释了他们的方法与早期从8位图像生成逼真的图像的努力有何不同。
报告称：“ PULSE不是从低分辨率图像开始，而是慢慢添加细节，而是遍历高分辨率自然图像流形，搜索缩小到原始低分辨率图像的图像。”
这意味着他们用于构建逼真的面部表情的算法是从大量真实人物的图像数据集中提取的。
PULSE系统可以在几秒钟内将16像素x 16像素的图像转换为1024像素乘1024像素的图像。
连同他们的发现，团队将PULSE上传到GitHub并鼓励进行实验。
俄罗斯开发人员Denis Malimonov上周开发并发行了自己的应用，名为Face Depixelizer。随着用户上传他们自己的幽默作品，这些作品通常来自经典游戏，例如Minecraft的Steve和Creeper，Super Mario的Mario以及Zelda的Legend的Link，因此在Twitter上的反应迅速。
杜克大学团队认识到PULSE的娱乐价值，但指出在一个探索和研究程度更高的时代，PULSE应该在实践上和经济上证明是有用的。
报告说：“在这项工作中，我们旨在将模糊的低分辨率图像转换为清晰，逼真的高分辨率图像。” “在许多领域……由于成本，硬件限制或内存限制等问题，很难获得清晰的高分辨率图像。”
他们列举了医学，天文学，显微镜和卫星图像作为可以从他们的努力中受益的领域。
但是上周末，Twitter用户开始报告他们的实验趋势令人不安。一些报告说，当他们使用有色人种的图像时，重新生成的图像将它们转换为白色图形。前总统巴拉克·奥巴马(Barack Obama)，已故世界冠军拳击手穆罕默德·阿里(Muhammad Ali)，女演员露西·刘(Lucy Liu)和纽约州众议员亚历山大·奥卡西奥·科尔特斯(Alexandria-Ocasio Cortez)都通过这些应用程序被渲染为白人。
令人遗憾的结果应该不是完全意外的。随着机器学习和人工智能在研究项目中的越来越多的应用，对海量数据集的依赖也越来越多。但是近年来的报告警告说，一些最常用的数据集包含的信息不能代表整个社会。一份报告指出，一个常用的数据库包含的内容是男性占74%，白人占83%，这凸显了人们对性别偏见和种族代表不足的可能性的担忧。
在2018年，一种执法工具吹嘘肤色浅的男人的面部识别错误率低于1%，但是在确定肤色较深的受试者的性别时，却犯了35%的惊人错误。
微软，亚马逊和IBM最近宣布，他们将停止或限制向警察部门销售面部识别工具，部分原因是他们对依赖人工智能的种族，性别，种族和年龄偏见的担忧。
在录像带致命警察枪击事件和黑人嫌疑人窒息事件发生后的最近几周发生动荡之后，这种数据集偏差尤其令人担忧。
正如麻省理工学院研究生，2018年大学AI偏见报告的合著者Irene Chen所说：“算法仅与使用的数据一样好，我们的研究表明，更好的数据通常可以带来更大的变化”。她补充说，不是需要更多数据来纠正偏差，而是需要提供更具代表性的数据。
