雷锋网讯,为改善用户体验,发现Twitter很早就开始尝试用算法自动裁剪照片,推文使得最终生成的照片预览照片可以呈现整张图最有趣的部分。
不过最近,偏见Twitter正在调查为什么其照片预览似乎更偏爱白人面孔而不是用户预览有黑人面孔。用户发现,发现裁剪照片预览的推文算法存在问题。
几个Twitter用户在上周末对该现象进行了演示,照片并发布了含有黑人和白人面孔的偏见帖子示例。Twitter的用户预览有预览显示白人面孔出现得更为频繁。
例如,发现当将Barack Obama和Mitch McConnell的推文照片附加到推文上时,Twitter似乎专门突出了McConnell的照片脸。
实际上,当Twitter最早使用算法自动裁剪照片预览时,相关的机器学习研究人员在博客中解释了面部识别是裁剪图像的过程,但并未详述图像中对人脸的生成问题。
“以前,我们使用面部识别将视角聚焦在可以找到的最突出的面孔上。尽管这种启发式方法还算合理,但由于并非所有图像中都有人脸,因此该方法存在明显的局限性。此外,我们的面部识别系统经常会漏掉,有时甚至在没有人脸时会错误地检测到人脸。”
Twitter首席设计官Dantley Davis发表推文表示,该公司正在尝试改进算法,并对图像生成进行实验:
“尽管这次测试并不算科学,只是个个例,但它指出了我们接下来需要研究的一些变量。现在两个男人的西装都一样,手却被遮盖住了。”
Twitter团队的Liz Kelley周日表示,该公司已经测试了上述问题,但尚未发现的有种族偏见或性别偏见的证据。“很显然,我们还有很多工作要做。我们将开源这项工作,以便其他人可以审查和复现。”
Twitter首席技术官Parag Agrawal则表示,该算法模型仍需要“不断改进”,“从实验中学习。”
显然,为了真正评估该模型是否存在偏见,研究人员需要在各类情况下使用大量实例和样本进行研究。
不过,Twitter的工程师Zehan Wang提到,2017年该算法部署之前就被发现存在偏见,但并未达到“显著”水平。
2018年,Twitter发表的一篇博客中解释了算法是如何影响的照片预览的生成的。导致算法选择某一类图像的原因之一是具有明显的反差性,这可以解释为什么算法似乎偏爱白人面孔的原因。
雷锋网编译,via venturebeat
(雷锋网)
雷峰网原创文章,未经授权禁止转载。详情见转载须知。
(责任编辑:探索)
中国银行(03988.HK)拟赎回全部2.8亿股第二期境内优先股 每股面值人民币100元
科乐美新作《超疯狂节奏城堡》Steam页面上线 支持简体中文
PlayStation 6月下载榜 《暗黑4》霸榜PS5和PS4
大生农业金融(01103.HK)发布公告:年度公司持有人应占亏损11.25亿元
三季度基金代销机构公募基金保有规模前100强名单 银行C位不变