|
作者：记者 倪伟波综合报道 来源： 发布时间：2018-4-10 12:51:41
| ||||
自1956年，人工智能的概念被提出之后，经历了跌宕起伏的62年。随着大数据、深度学习、算法等技术的快速发展、人工智能也开始呈现井喷式的发展。
如今，人工智能日益渗透到人们的日常生活中：帮助人们提高工作效率、提高生活品质，人们满怀欢喜地感受着科技的巨大变革力。
不过，我们如果就此将人工智能视为与生俱来的优秀，当然有失偏颇。事实上，人工智能涉及到的道德、安全和包容性应用所需要的重要研究和开发同样不可忽视。因为糟糕的数据、令人费解的代码或匆忙的部署常常导致人工智能系统陷入棘手的争论。
例如，自动化决策系统也会带有偏见。一项来自非营利组织ProPublica的调查显示，用于评估美国犯罪风险得分的COMPAS程序本身就对非裔美国人存有偏见。
通过对7000多名犯罪人的追踪，ProPublica发现，由Northpointe公司开发的犯罪风险评估算法COMPAS系统性地歧视黑人，白人更多被错误地评估为具有低犯罪风险，而黑人被错误地评估为具有高犯罪风险的几率两倍于白人。
这无疑揭示了一个重要的现实：首先，人工智能的影响是非常真实的，并影响到真实的生活和家庭。其次，这是现在正在发生着的事情——它们并非是遥不可及的未来可能发生的情景。
影响评估
尽管存在这些风险，世界各国对人工智能的兴趣并未降低。
在加拿大，人工智能已被置于国家战略层面。在过去的一年里，联邦政府对人工智能研究的投入更是引人注目。2017年的预算中包括将由加拿大高等研究所（CIFAR）管理的高达1.25亿加元投资的“泛加拿大人工智能策略”，用于开展人工智能领域的研究和实施人才战略。
今年2月，一项基于魁北克的人工智能和供应链研究提案，与其余四个项目组共同分享了9.5亿美元的联邦“超级集群基金”。魁省的这一提案侧重于定义全球AI平台，该平台将促进加拿大的人工智能和数据科学的发展，特别是针对零售、制造和基础设施三大领域。
如此慷慨的支持，让加拿大在人工智能领域快速崛起。加拿大的学界、业界、政府、以及个人企业家正合力在多伦多—滑铁卢、蒙特利尔和埃德蒙顿等城市建立超级人工智能中心（AI Superclusters ）。
然而人工智能研究的迅速发展，免不了带来与其相连的社会责任问题。如果不与那些在新技术的社会、文化和政治后果方面具有专长的部门进行适当地接触，那么这些举措很可能会扩大技术公司与公众利益之间的差距，并使研究脱离批判性反思。
幸运的是，人工智能的社会影响开始出现在加拿大联邦政府的“雷达”上。
目前，加拿大财政委员会秘书处（TBS）正在就政府负责任使用人工智能进行第一轮公众咨询。与此同时，TBS与人工智能社区紧密合作，通过开放的在线咨询，让人们得以就后续的指导方针进行合作。
与此同时，加拿大全球事务（GAC）正在领导一项关于人工智能和人权的多校合作。例如，在康考迪亚大学的Fenwick McKelvey的媒体政策研讨会上，研究生们正在对人工智能之于人权的政策影响进行广泛的调查研究。
该媒体政策研讨会旨在将围绕人工智能的争论与传播和文化研究领域的专业知识联系起来，其长期以来一直对媒体和技术的文化、社会和政治层面提出质疑。McKelvey的研究通过探索算法和人工智能对互联网治理和宽带性能的影响，与这些具体举措联系起来。
此外，加拿大麦吉尔大学人工智能领域的道德问题研究人员Abhishek Gupta正在评估人工智能支持的自动化在金融服务业的影响，以及如何调整大学课程以更好地培训从业人员以满足不断变化的工作需求。
作为“蒙特利尔人工智能道德聚会”的发起人，Gupta注意到，谷歌、微软、Facebook 、加拿大皇家银行等巨头都宣布在蒙特利尔注资，开发人工智能实验室，这推动了蒙特利尔在人工智能研究上不断向前，与此同时人工智能研究的快速发展，不可避免会带来与其相连的社会责任问题。
因此，Gupta和其他一些研究人员都希望，蒙特利尔不仅在 AI研究上要走在前面，而且还应该顾及到社会责任。
2017年11月，Gupta和蒙特利尔大学的研究人员协助撰写了《人工智能负责任发展蒙特利尔宣言》。该宣言为人工智能将如何尊重幸福、自主、正义、隐私、知识、民主和自身责任发展提供了明确的原则。
作为一种数据策略的AI
事实上，人工智能战略不必在孤立的状态下发展。
针对人工智能的全国性方法应该从慈善和非营利性部门围绕数据正在进行的新兴讨论中吸取经验。蒙特利尔的数据支持有助于就慈善组织和非营利组织如何成为更多的数据驱动领域进行重要对话，并为数据的包容性和道德使用提供典范。
数据只是该行业将数字创新融入运营和开发数字战略以助于锁定任务的方式之一。
这一转变，部分地需要根据数字自动化重新评估不平等和歧视问题。作为一个创新和创业政策研究所，布鲁克菲尔德研究所已经研究了自动化对劳动力市场的潜在利益和威胁。他们的评估表明，这些影响并不会在加拿大各地平均分布，有些社区的工作机会更容易受影响而随之减少。
但这些举措在其他地方缺乏干预的规模和范围。
在美国，福特基金会和麦克阿瑟基金会资助了纽约大学的AI Now 研究所。该所已经发布了两份关于人工智能治理的重要报告，引发了一场关于应如何开发和使用人工智能的国际辩论，并证明了这些部门可以发挥重要作用。
“大量的资金和精力都被投入到研究加速人工智能的代码中，这意味着，没有太多的精力去思考这些系统里社会、经济和道德框架，”微软研究院的首席研究员Kate Crawford表示，“我们认为，这些是迫切需要尽快地实现的。”
AI Now的成功表明，慈善和非营利性部门可以为人工智能的发展和应用提供信息。通过建立一个有长期举措的机构或委员会，这些部门可以确保制定一种人工智能战略，并与有关不稳定的劳动力、数据歧视和和解等的重要讨论相联系。
加拿大如何领先
在新一轮的人工智能浪潮中，世界各国纷纷摩拳擦掌，在技术开发方面使出了“洪荒之力”。
而对于加拿大来说，只能有一个选择。要么包含成为一个负责任人工智能领导者的潜力，要么冒着让道德、公平和正义缺席的竞争合法化的风险。
就研究人员而言，如何将《加拿大权利与自由宪章》与人工智能研究和开发相关联，以更好地指导科学研究则是首先要做的。只有这样，加拿大才得以为研究议程建立一个公正、公平和稳定的基础，从而将新技术置于长期存在的社会机制中。
当然，加拿大还需要一个更协调、更具包容性的国家方面的努力——优先处理其他边缘化的声音。这些与之相关的磋商将是把加拿大定位为该领域“灯塔”的关键。
如果没有这些措施，加拿大可能会落后。因为世界各国都已经开始行动。欧洲已经在起草重要的数据保护新方案；纽约市也成立了一个特别工作组，成为自动化决策管理的全球领导者。专家们希望通过这些努力可以与城市机构、科学界和人文界的学者以及社区团体进行积极的咨询，并且要对算法的影响评估充分考虑。
其他国家的这些措施或许能为加拿大制定自己的治理战略提供有益的背景，同时也能解决将本国文化纳入战略之中的问题。■
《科学新闻》 (科学新闻2018年3月刊 AI)
|
||||
| 发E-mail给： | ||||
|
| 打印 | 评论 |
| ||||
