发表于|机器视觉

研究强调需要公众教育人工智能算法的效果

一组新的实验表明,人工智能(AI)算法可以根据暗示是明确的还是隐藏的,影响人们对可能的浪漫伴侣或虚构的政治候选人的选择。

潜在的日期吗?图片来源:Karras, T., Laine, S., & Aila, T.(2018)。一种基于样式的生成式对抗网络生成器体系结构。从http://arxiv.org/abs/1812.04948获取。

从西班牙毕尔巴鄂毕尔巴鄂的Universidad deutoy德斯塔德·德福托(Universidad Deusto),描述了在开放式学期间的研究结果《公共科学图书馆•综合》4月21日,2021。

从Facebook到谷歌搜索结果,人们每天都会体验人工智能算法。私人公司正在对其用户的数据进行广泛的研究,从而深入了解人类行为,而这些行为是不公开的。学术社会科学研究落后于私人研究,公众对人工智能算法可能如何影响人们的选择缺乏认识。

为了从全新的角度看待这一概念,Agudo和Matute进行了一系列实验,研究人工智能算法在不同背景下的影响。他们雇佣参与者与算法进行交流,算法会提供在线约会候选人或虚构的政治候选人的照片,并指示参与者指出他们将给谁发信息或给谁投票。

算法会优先考虑一些候选人,要么是明确的(例如,“90%的兼容性”),要么是秘密的,比如,与其他人相比,更频繁地显示他们的照片。

总的来说,这些实验表明,算法对参与者的选择有相当大的影响。在政治决策中,显性操纵对决策的影响很大,而隐性操纵则没有效率。在约会决定上观察到了相反的效果。

该团队推出了这些发现可能反映出人类对人类明确建议的选择,以至于约会的主观事项,而人们可以选择关于理性政治决策的算法建议。

代替研究结果,研究人员支持他们对旨在促进AI可靠性的倡议,例如,欧洲委员会的可信赖AI的伦理指南,并解释了来自DARPA的可解释的AI(XAI)计划。然而,他们警告说,需要更多的开源研究来理解对算法的人类脆弱性。

与此同时,该团队呼吁采取措施,教育公众对算法建议的盲目信任所带来的威胁。此外,他们强调有必要讨论为这些算法提供动力的数据的所有权问题。

作者补充说:“如果像我们这样的虚拟和简单的算法可以实现如此掌握的说明,而不建立实际定制参与者的配置文件(并在所有情况下使用相同的照片),那么更复杂的算法,例如人们在日常生活中互动的那些当然能够更强大的影响力。“

该研究从西班牙政府的Agencia Estatal deInvestigaCión的Grant Psi2016-788818-R收到了财务支持,并从巴斯克政府授予威尔士授予Helena Mattute的IT955-16。

期刊引用:

阿古多,U & Matute, H.,(2021)算法对政治和约会决策的影响。《公共科学图书馆•综合》doi.org/10.1371/journal.pone.0249454

来源:https://plos.org/

告诉我们你的想法

你有评论,更新或任何你想添加到这个新闻故事?

离开你的反馈
提交