全程干货（科技驾到）科技驾控，乌镇观察丨人工智能伦理风险

21世纪经济报道 记者郭美婷、诸未静 乌镇报道

早在2016年，AlphaGo就先后击败职业九段围棋高手李世石和排名世界第一世界冠军柯洁。近几年来，机器学习在无人驾驶、医疗诊断，甚至在写作、画画、作诗方面也都取得相当的进展。

以人工智能为代表的新一轮科技改变和产业变革正在重构全球创新版图，重塑全球经济结构，这既为世界各国创造了更加广阔的发展机遇，也带来了安全伦理时等方面的风险挑战。

11月10日，2022年世界互联网大会最后一场分论坛——“人工智能与数字伦理”在浙江乌镇正式召开。本次论坛以“人工智能的产业方向与伦理取向”为主题，聚焦人工智能的技术、应用和产业发展过程当中的安全风险治理与数字伦理建设。

人工智能的治理已迫在眉睫，如何促进安全、可信、可控、可靠和可扩展的人工智能技术研发？如何推动人工智能伦理体系建设和国际共识的达成？如何确保人工智能始终朝着公平、公正和有益于全人类的方向健康发展？这些问题的解答仍有赖于进一步的探索和追寻。

“远虑”已经成为“近忧”

1942年，在人工智能诞生之前，美国科幻小说家艾萨克·阿西莫夫在其小说中最早提出了机器人发展中可能存在伦理风险，并且预设了规避风险的方法，也即广为人知的“机器人三定律”。

这样的警示建立在机器智力已然超过人类的前提下。然而，发展至今，人工智能对比人类智能仍然如同“龟兔赛跑”中远远落后的乌龟。

清华大学人工智能研究院名誉院长、中国科学院院士张钹在论坛上指出，目前人工智能研究处于探索阶段，进展缓慢且存在多个难以解决的问题。制造超人类的机器并非易事，能否通过通用人工智能达到超智能的目标更一直存在争议。

但人工智能对伦理和传统规范的冲击却提前出现，“远虑”已经成为“近忧”。“本世纪初，基于大数据的深度学习在人工智能中崛起时，人们开始深刻地感受到人工智能的伦理风险就在眼前，治理迫于眉睫。”张钹说。

这一方面出于现阶段人工智能技术的固有缺陷。蚂蚁集团首席技术官倪行军指出，新一代人工智能由数据驱动，依赖的是机器的自我学习，而非人为信息和知识的输入，这就可能带来系统的不够鲁棒、不可解释、不够可靠等问题。在医疗、制造、金融等与社会生活息息相关的特殊领域，机器学习模型做出错误预测的后果往往是难以接受的。

另一方面，上述缺陷也给人工智能技术的恶意滥用带来了机会。例如，人们恶意利用算法的脆弱性，对算法进行攻击，导致基于该算法的人工智能系统失效，甚至做出相反的破坏行为；利用深度学习技术造假，制造出大量逼真的假新闻、假视频、假演说等，扰乱社会秩序，诬陷无辜的人。

张钹认为，无论是无意、误意还是有意滥用人工智能技术都需治理，只是两者的治理性质不同。前者通过制定相应准则，对人工智能研究开发和使用过程进行严格的科学评估和全程监管，并规定出现问题后可能采取的补救措施等；而后者则要靠法律约束和社会舆论的监督，带有强制治理的意味。

“从根本来讲，人工智能的研究、开发都需以人为本，从公正公平的伦理原则出发做负责任的人工智能，为此，我们需要努力去建立可解释的鲁棒人工智能理论，在此基础上才有可能开发出安全、可信、可控、可靠和可扩展的人工智能技术，最终推动人工智能的公平、公正和有益于全人类的应用和发展。这就是我们发展第三代人工智能的思路。”张钹倡导全世界不同领域的人员参与人工智能的研究和治理，通过全球范围的合作，共同制定出一套符合全人类利益的标准。

规则与技术的“组合拳”

人工智能治理依赖于规则与技术配合打出一套“组合拳”。在规则方面，数字伦理、人工智能伦理体系的构建，是除法律法规之外的重要抓手。

全国人大宪法和法律委员会副主任委员江必新将伦理建设的必要性归纳为“五个源于”，分别为数字技术和人工智能的二重性，数字网络的无边界性、跨国性、专业性和非透明性，法律规范的局限性、伦理道德对于人性人类的不可或缺性，以及网络安全对于发展，对于人类道德的依赖性。

在他看来，构建伦理体系应首先从人类的基本共识开始，求善、求真、求美，端正理念，全主体参与，将算法、数据等全要素纳入，进行全链条、全周期的规范设计，并以行业标准、技术指南、政治引领、技术破解等全工具保障。

目前，全球范围内已有相关实践。2021年11月，联合国教科文组织发布了《人工智能伦理倡议书》，从联合国组织角度，为人工智能治理提供了一个具有国际法性质的基础性文件。

世界工程组织联合会前任主席、中国新一代人工智能发展战略研究院执行院长龚克指出，这是迄今为止，联合国系统发布的唯一一份关于人工智能的国际准则性文件。该倡议书以国际法为基础，全球广泛参与制定，体现了非常重要的全球共识，首先从伦理上为整个人工智能治理奠定基石。

企业的自我约束同样发挥着至关重要的作用。例如今年，阿里巴巴集团也提出了科技伦理治理六项基本原则：坚持以人为本的价值导向，践行隐私保护，安全可靠，普惠正直、科技原则，且借助可信、可靠和开放共治的科技方法。

而在技术方面，之江实验室主任、中国人工智能产业联盟副理事长朱世强提出“以技术的标准框定未来的方向”。同时，围绕新一代人工智能，通过实施技术、知识的双轮驱动，改变其不透明、黑箱的现状；开发量子时代的密码技术、数据隐私平台等一系列工具遏制不良应用；突破关键技术保障网络安全，研制具备可演进的基础构架，灵活可定义的全维可定义网络等。

此外，全球IPv6论坛主席拉提夫·拉蒂德还关注到了人工智能带来的失业率和财富分配不均的问题，他建议反思改善教育体系，以让人们挑战更多的任务，以及进行更有创新性的工作。

更多内容请下载21财经APP