天津在线

首页> 资讯中心> 天津> 正文

分论坛“算法的隐形力量”:克服偏见 提升算法的公平

2018天津夏季达沃斯论坛主办城市网站

9月18日,一名与会者体验虚拟现实技术。 新华社发

算法在生活中越来越重要,它可以让我们更好地打车、看电影,帮助我们做一些医疗以及其他重要的决策。但对公众来讲,算法有时候是不公平的,甚至可能存有偏见。在19日举行的“算法的隐形力量”分论坛上,嘉宾们就如何克服偏见,提升算法的公平,如何更好地监管算法,展开热烈讨论。

来自英国巴斯大学的计算机科学教授乔安娜·布莱森认为,必须要有人为算法来负责,那就是谁生产谁负责。

乔安娜·布莱森说,我们可以用理论来描述某个算法是有偏见的,但是其实很多时候,我们可能不相信偏见,但是不自觉把偏见传递给下一代,这和个人的感知有关系。我们需要了解这个概念,就是如果数据是错误的,你可能会有偏见,但是如果你使用互联网的语言,使用所有这些数据你也可能是有偏见的。包括有一些AI可以预测到获得工作的人当中,有多少是女性,这是性别主义者,他们也会有这样的偏见,他们有可能有意识地把偏见的算法算到计算机的编程里面。

美国Pymetrics联合创始人、首席执行官Frida polli致力于解决人工智能面临的偏见的问题。他说,我们使用AI以便可以更公平地招募员工,不管对方是男还是女。还有一些科学家会去研究员工的风险偏好、回报偏好以及个性来进行预测,我们会综合使用这些数据,来评判一个人是否可以获得工作。当然,这需要确保收集到的数据是好的。另外,我们也会去研究工作出色的人,很多时候,不管是何种肤色与人种,都有权利获得同等工作条件和待遇,我们会根据它可能隐含的偏见,调整我们的算法,确保公平。

“很多的时候,你输入的这些数据本身就是有偏见的,然后我们要确保采用我们算法技术之后,整个章目的程序是平衡和公平的。” Frida polli说。

Frida Polli认为,每个人都是有偏见的,这是一个事实,但是算法其实就是个编程、编码,这个编码是可以变的,人的性格却是很难变的,所以我们可以通过改变算法,来帮助我们纠正自己的偏见,如果没有算法,单纯去改变每个人的心态的话,每个人的偏见就更难改了。

美国NetHope首席执行官Lauren Woodman认为,解决算法偏见,对于人类发展来讲是非常专业的问题。我们花费很多时间,非常乐观地在这方面进行钻研,首先要确定是否有偏见,第二个是确定这个偏见是否是由于我们使用的数据集产生的,如果是的话怎么减缓偏见。我们会去发现在我们数据集里面算法是怎么写的,以及我这个系统开发是怎么来开发的,这些都要看,这里面还有伦理考量的因素,都要考虑。

Robert Gryn,是来自波兰 Codewise公司的首席执行官,他所在的公司是迅速成长的一家做APP的公司。Robert Gryn说,未来发展算法,用机器学习是一个大的趋势,这当中有一个问题,就是提高意识普及问题。欧盟在这方面已经是前驱者了,但大多数欧盟国家的市民不知道他们现在有这个权利,可以去质疑自动化做的决策,他们也不知道哪些决策由机器自动化做出来的。所以,对公众的教育是非常重要的。

关于AI如何监管,监管到何种程度是合适的,Lauren Woodman认为,需要有一个问责的问题要解决,比如无人驾驶汽车遇到问题,要区分是制造商的问题,还是软件开发商的责任。

乔安娜·布莱森认为,我们应该有相应的能力来确保我们的代码是否合适。很长一段时间内,我们都把计算机当做一种玩具,我们应该考虑建立相关算法测试的流程、工具和标准,知道自己工作的出发点到底是为了利润还是为了别的什么。

Frida Polli认为,到底应不应该为AI增加相关的管制和机制,需要进行讨论。有些人甚至建议应该为算法建立一个监管机构。我觉得还是要建立一种机制,让社会和民众更好了解AI到底是什么,包括它的一些运作的方式。当然我并不是说一定建立一个监管的机构,它也不一定是非常必要的,但是我们的确需要一个有知情的教育方式和宣教的方式,让大家能够更好了解整个体制。

而Robert Gryn却觉得法律体系很难去处理AI相关的问题,因为AI发展速度非常迅速,立法永远落后技术发展,为了改变这个现状,我们就需要建立一种机制来防范这种问题。(津云新闻编辑刘颖)

版权声明

一、凡注明来源为"天津在线"的所有作品文字、图片、音视频、美术设计和程序等作品,版权均属天津在线或相关权利人专属所有或持有所有。

二、未经本网书面授权,不得进行一切形式的下载、转载或建立镜像。否则以侵权论,依法追究相关法律责任。

三、凡本网注明"来源:XXX(非天津在线)"的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。

四、转载声明:如本网转载作品涉及版权等问题,请在作品于本网发表之日起30日内及时同本网联系,否则视为放弃相关权利。

免责声明:本文仅代表作者个人观点,与天津在线无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

登载此文只为提供信息参考,并不用于任何商业目的。如有侵权,请及时联系我们删除:jubao@72177.com

今日天津