数据伦理和创新中心(CDEI)邀请提交的提交,以帮助在算法决策中审查在线定位和偏见。

在线定位

在线目标是指提供具有相关和有关内容,产品和服务的个人。通常,用户以在线广告或个性化的社交媒体饲料的形式进行定位。

CDEI由于所涉及的数据的复杂和不透明的流量而被确定为特定问题,这可能会破坏数据保护权。某些组织中的数据集中也可能对关键市场的竞争产生影响。 CDEI特别有兴趣确保在线目标不会从合法说服跨越非法操纵。

Cdei打算调查在线定位和对用户的过度影响的问题;特别是,在线定位在易受攻击的用户身上的效果以及用户自主在线瞄准的程度。首先,CDEI将分析在线目标的治理差距。然后,它将进行公共对话练习,以便在分析证据之前收集证据,并在提出治理建议的情况下发布报告。本评论的其他产出将包括公众参与的结果;治理框架分析;和政府,监管机构和行业的建议。

校准决策中的偏见

机器学习算法通常通过识别数据中的模式并相应地提出建议。虽然它们可能支持良好的决策并防止人为错误,但如果算法强化有问题的偏见,则可能会出现问题。这些偏差可能是由算法使用的底层数据集中的算法或偏差设计的错误引起的。这种偏见有可能造成严重伤害。 CDEI希望调查这是四个关键部门的问题,这些关键部门涉及决策制定,涉及对个人的影响很高,其中有偏见的历史证据:

  • 金融服务 - 特别是关于I)关于个人的信用和保险决定;和ii)消除金融服务公司雇用的技术偏见。
  • 特别是犯罪和正义 - 特别是在警察和司法机构决策中使用预测算法。
  • 招聘 - 历史数据集和实践通常包含嵌入式偏见,应识别和纠正这些偏差。
  • 地方政府 - 算法决策已被用来识别潜在的虐待儿童滥用和忽视的情况。鉴于敏感性,该领域的技术必须满足最高的道德标准。

CDEI建议首先通过与所确定的地区的相关利益攸关方从事相关利益攸关方来了解当前做法。然后,Cdei将产生各种产出,包括实践的操作守则,用于试验决策工具;偏见测试,公司用于减轻偏见;从技术提供者购买算法时,请遵循采购指南;和最后一份报告,总结了CDEI在每个部门的工作。

评论

这些评论将养成CDEI的两年 战略 论加强英国数据与人工智能的益处。这些领域的监管兴趣不仅限于Cdei,或者确实是英国;例如,请参阅英国政府白皮书上以前的TLD帖子,用于解决在线危害 这里 以及美国立法者提出的算法问责法 这里。如果您想提交证据,可以在I的审查中找到更多信息)在线目标 这里和ii)算法决策 这里。第一组答复的截止日期为2019年6月14日。