给出指南针的建议:

•加拿大可能会成为道德人工智能领域的全球领导者,因为它在人工智能研究方面投入了大量资金。

•人工智能对地方政府有哪些潜在风险?研究如何帮助减轻这些风险呢?

•阅读更多关于为什么数字时代需要道德和法律准则?


加拿大在人工智能(AI)方面的研究专长导致了最近的重大投资。但用于这种新技术的治理、伦理或社会责任,留下了许多不同的地方倡议来尝试填补空缺

人工智能已经影响了我们的日常生活。在社交媒体上的每一次点赞、刷屏和评论,我们大多数人都已经在贡献数据——以改进在线推荐视频或帮助我们管理电子邮件的人工智能应用程序。

我们向智能手机提问的能力源于长期以来对如何利用计算机自动化人类劳动和提高决策能力的研究。更好的处理器、算法的进步,以及通常从我们的在线互动中收集的大数据,推动了人工智能的重大进步深度学习,人工智能的一个分支。

这些领域的进展已被宣布为全人类的净利益。

但是,认为人工智能本质上是好的,忽视了道德、安全和包容性应用所需的重要研发。糟糕的数据、令人费解的代码或仓促的部署很容易导致不值得庆祝的AI系统。

例如,自动化系统可以编程与偏见.ProPublica的一项调查显示,在美国用于评估犯罪风险评分的COMPAS项目存在风险天生对非裔美国人有偏见

这样的发现揭示了一个重要的现实:首先,人工智能的影响非常真实,影响着现实生活和家庭。其次,这正在发生——这些并不是未来可能发生的牵强附会。

评估后果

尽管存在这些风险,但加拿大乃至世界各地对人工智能的兴趣并没有放缓。

在加拿大,联邦政府去年在人工智能研究方面投入了大量资金。2017年的预算中包括1.25亿美元泛加拿大人工智能战略这将由加拿大高级研究所.魁北克关于人工智能和供应链研究的提案赢得9.5亿美元的联邦“超星系团基金”2月。

但是,如果不适当地向在新技术的社会、文化和政治后果方面具有专门知识的部门伸出援助之手,这些倡议可能会扩大科技公司和公众利益之间的差距并将研究与批判性反思分离。

幸运的是,人工智能的社会影响开始出现在联邦政府的雷达上。

加拿大财政委员会秘书处(TBS)正在就政府负责任地使用人工智能进行第一轮公众咨询。它与人工智能社区密切合作,试点了一个公开网上谘询这让我们其他人就后续的指导方针进行合作

该报告回顾了人工智能的许多潜在应用,比如聊天机器人帮助用户浏览政府服务和创建网站内容的项目。这一举措表明,联邦政府可以通过为自己使用人工智能制定强有力的指导方针来发挥领导作用。

这些具体而狭窄的应用表明政府了解其工作中自动化的风险。我们希望最终报告将产生强有力的指导方针,以保证透明度、问责制和公平性。

此外,加拿大全球事务部正在领导一项关于人工智能和人权的多所大学合作。例如,芬威克·麦凯维学院的研究生传媒政策研讨会康科迪亚大学的研究人员正在为广泛研究人工智能对人权的政策影响做出贡献。麦凯维的目标是将围绕人工智能的辩论与传播和文化研究的专业知识联系起来,这些专业知识长期以来一直在质疑媒体和技术的文化、社会和政治层面。

麦凯维的研究通过探索算法和人工智能对人类的影响,与这些倡议联系起来互联网管理而且宽带性能

Abhishek Gupta正在评估人工智能自动化对金融服务行业的影响以及如何调整大学课程,以更好地培训从业人员,以满足不断变化的工作需求。

古普塔还创立了蒙特利尔人工智能伦理小组在那里,对话的重点是发展《负责任发展人工智能蒙特利尔宣言》.该文件为人工智能如何尊重福祉、自主、正义、隐私、知识、民主以及其负责任的发展提供了明确的原则。

人工智能作为数据政策

人工智能战略不需要孤立地发展。

国家应对人工智能的方法应该从慈善和非营利部门围绕数据展开的新讨论中学习。蒙特利尔的数据驱动帮助领导了关于慈善组织和非营利组织如何能变得更多的重要对话数据驱动,并作为包容性和道德使用数据的典范

数据只是该行业整合的方式之一数字化创新进入运营并制定数字战略,帮助专注于任务。

要实现这种转变,就必须根据数字自动化重新评估不平等和歧视问题。的布鲁克菲尔德学院美国创新与创业政策研究所对中国的潜力进行了研究自动化对劳动力市场的好处和威胁.他们的评估表明,这些影响不会在加拿大各地平均分担,一些社区更容易受到裁员的影响。

但这些举措缺乏其他地方干预措施的规模和范围。

在美国,福特基金会和麦克阿瑟基金会资助AI Now研究所,由纽约大学主办。该组织发布了两份关于人工智能治理的主要报告,引发了一场关于人工智能应该如何开发和使用的国际辩论,并证明这些部门可以发挥重要作用。

AI Now的成功表明,慈善和非营利部门可以为人工智能的发展和应用提供信息。通过创建一个机构或致力于长期举措,这些部门可以确保制定一项人工智能战略,将其与有关日益平等、不稳定劳动力、数据歧视和协调的重要讨论联系起来。

加拿大领先

加拿大有明确的选择。它要么接受成为负责任人工智能领域领导者的潜力,要么冒着将缺乏道德、公平和正义的逐底竞争合法化的风险。

更好地指导研究人员如何加拿大权利和自由宪章与人工智能相关的研究和开发是很好的第一步。在此基础上,加拿大可以为研究议程建立一个公正、公平和稳定的基础,将新技术置于长期的社会机构中。

加拿大还需要一个更加协调、更具包容性的国家努力,优先考虑那些原本被边缘化的声音。这些磋商将是将加拿大定位为这一领域的灯塔的关键。

如果没有这些措施,加拿大可能会落后。欧洲已经在起草重要的数据保护新方法.纽约市今年秋天成立了一个特别工作组,以成为一个管理自动化决策的全球领导者.我们希望这能导致双方积极磋商城市机构、科学和人文学科的学者以及社区团体,从《黑人生活数据》到《描绘无家可归者》考虑算法影响评估

这些举措应该为加拿大制定自己的治理战略并付诸实施提供有益的背景如何将土著知识纳入其中

如果加拿大制定了强有力的跨部门和学科的人工智能治理国家战略方法,它就可以在全球层面发挥领导作用。

本文转载自谈话在创作共用许可下读了原文.The Conversation是一个非营利性的新闻来源,致力于将学术界的思想和专业知识传播到公众话语中。