大数据时代引发“歧视”忧虑但不该就此因噎废食

大数据时代引发“歧视”忧虑，但不该就此因噎废食汇通网5月10日讯一一大数据越来越被视为一种战略性资产，它可以通过其强大的预测技 术来改造组织。据社会研究人员小组研究，大数据对公众和社会的影响，当涉及到帮助系统做出决定时，应用方 法可能并不总是公正的。最近，纽约大学组织的学生为社会刑事司法改革的活动，集中使用大数据在机器学习和数据 挖掘，以推动公共和私人部门的行政决定问题。其中包括政策研究人员、技术人员和记者，讨论在使用大数据的同时，抛开固有的偏见和歧 视，通过无意中设置的规则和流程来增加我们的决策能力。在这种情况下，使用规则的数学程序编码来实现特定的目标。批评者认为这些算法可能会延 续偏见和加强内置的假设。最近，政府机构开始仔细观察新兴领域。上周，白宫发布的一份报告警告称，如果没有正确 的应用数据收集可能会损害公民的权利。该报告呼吁，“如何最好的鼓励这些技术的潜力，同时 最大限度的减少对隐私、公平对待和其他美国核心价值的风险”。2014年的报告题为“大数据的不同影响”，普林斯顿大学信息技术政策中心的程序员梭伦 巴洛克斯指出，“数据挖掘算法技术的倡导者认为，他们是消除人类偏见的决策过程。但是，数 据的算法与它所使用的数据一样好。”巴洛克斯研究新兴的应用机器学习来提高道德认识问题的影响。他补充道，“数据挖掘可以 继承之前决策者的偏见或社会上持续存在的普遍偏见。”换句话来说，人类产生的机器学习系统上运行的数据是由人类设计的算法。因此，人类创造 的数据隐含偏见。在两年前的研究中，美国联邦贸易委员会(Federal Trade Commission)提出类似的问题。尽 管监管部门承认大数据所带来的好处，但滥用数据编译此类信息的公司存在歧视某些群体的风 险。数据歧视的指控哈佛大学的数据隐私实验室负责人Latanya Sweeny表示，大数据歧视指向几年前开展的一 项案例研究。此案涉及到谷歌在互联网上某些种类的搜索结果。Sweeny在她的研究中发现，出现黑人名 字的逮捕记录比例比白人多18%。谷歌已经解决了这个问题，尽管他们从未公开表示他们做了什 么来纠正这个问题。在过去几年中，大数据的扩散已经看到指控其他的不当使用和偏见。这些指控是五花八门的， 从网上的价格歧视和地理定位结果到犯罪预测技术，在一些公共工程决策中缺乏足够代表性的数 据样本。大数据的优势是可以平衡应用现代技术以解决社会问题的风险。然而，一些质疑者认为，民 主化数据在本质上影响着人们，从数据从业者到专家。大数据将停留在这里一些拥护者表示，问题不在于“大数据歧视”，但失败的数据会让专业人员曲解数据挖掘的 结果的风险和统计学习的核心。他们还补充表示，带来的好处远远大于担忧。纽约大学斯特恩商学院的分析中心主任Anindya Ghose说，“在我的学术研究和行业咨询中， 我已经看到了企业、组织和消费者使用数据驱动决策、利用数据科学和业务分析的巨大利益。”Ghose还表示：“老实说，我不理解这些人在大数据的运用中关于对数据分析影响的恐惧和 愤世嫉俗。她表示，兑愤世嫉俗者和我们自己的一些忠告是：“大家仍有必要处理好大数据技术引发的 这些伦理纠纷问题，否则大数据分析的应用层次就很难再进一步。”外汇投资：财经日历：