文| 司晓 腾讯研究院院长

过去几年，随着技术的发展，各种包含人工智能技术的产品走入大众生活的方方面面。从新闻客户端中越来越“懂你”的信息流，到开始尝试在封闭道路上自动驾驶的汽车。

但是，人工智能这个“仆人”真的忠诚么？又或者说，人工智能只需要遵守忠诚一条伦理么？

当越来越多的人工智能承担了原本由人类承担的工作，，人工智能伦理问题成为了技术行业、监管机构和大众最为关注的问题。

2018年12月3日，第七届北大-斯坦福互联网法律与公共政策论坛上，腾讯研究院院长司晓发表了以“为人工智能建立伦理框架”为主题的分享。

司晓重申了腾讯董事会主席马化腾在2018年世界人工智能大会上提到的人工智能的“四可”理念，即未来人工智能是应当做到“可知”、“可控”、“可用”和“可靠”。在本次会议上，他将“四可”翻译为“ARCC”（Available, Reliable, Comprehensible, and Controllable，读作ark），方舟让大家一下就想到保存人类生命火种的诺亚方舟，虽然他并不认同人工智能会威胁人类的生存，但以方舟的寓意来类比伦理对人工智能的重要性非常合适，他同时详细解释了“四可”背后的涵义。

司晓谈到，腾讯的愿景是通过“四可”这样的一个道德框架开始，去帮助AI开发者和他们的产品赢得公众的信任。一个新技术的诞生本身无关好坏，但通过伦理法律和各种制度设计确保这些技术能够成为“好的技术”是我们的责任。

—— 以下为演讲全文 ——

尊敬的各位领导，学者及来宾，大家下午好。

从刚才的嘉宾分享中，我们很高兴地了解到，已经有人认真考虑过机器与它的人类创造者对抗的可能性。

毫无疑问，知名作家艾萨克·阿西莫夫（Isaac Asimov）提出的“机器人三定律”已不能适应当今的人工智能发展。我们需要更加严肃、具体的方式来指导技术发展，并保护全人类的福祉。因此，我想从伦理的视角分享我对人工智能发展的一些看法——即“为人工智能建立伦理框架”。

当前的人工智能发展浪潮很大程度上受益于我们在使用互联网过程中积累的大量数据。

如今，互联网连接了世界一半以上的人口，仅在中国便有8亿网民。但互联网在带来便利与效率的同时，也带来了风险，尤其是在大数据和人工智能大范围驱动日常生活的时代。算法决定着我们阅读的内容，决定着我们的目的地以及出行方式，决定着我们所听的音乐，决定着我们所购买的物品及其价格。自动驾驶汽车、自动癌症诊断和机器人写作等新事物正前所未有地接近大规模商业应用。

因此，在某种程度上，将数据比喻为“新石油”，将人工智能比喻为“新钻头”并无不妥，而故障算法则可被比喻为由此产生的“新污染”。

但要注意的是，算法故障不等于有恶意。因为善意并不能保证算法不导致任何法律、伦理和社会问题。

在人工智能领域，我们有相当多这样的例子，例如由于技术意外、缺乏对问题的预见或技术上难以监控监督、责任分散导致的隐私侵犯、算法偏见和滥用等。此外，一些研究人员开始担心智能机器将取代人类劳动力，从而导致社会失业率上升。

很多人认为人工智能伦理还是一个科幻议题，但其实麻烦已经迫在眉睫。

最近几年，一系列涉及AI不端行为的新闻频频出现在新闻客户端；面部识别应用程序将非裔美国人标记为大猩猩，将国会议员标记为刑事罪犯；美国法院使用的风险评估工具对非裔美国人有偏见；优步的自动驾驶汽车在亚利桑那州撞死了一名行人；Facebook和其他大公司因歧视性广告行为被起诉；以及上一位学者提到的以杀戮为目的的人工智能技术。

而究竟如何为人工智能制定伦理，是全人类都没有遇到过的问题，我们正在向无人区航行，需要原则和规则作为指南针，来指导这次伟大的探险，而技术伦理则是这套原则和规则的核心。

在过去几十年中，对技术伦理的研究经历了三个阶段。第一阶段的研究主要集中在计算机上。在此期间，各国颁布了大量有关计算机使用、欺诈、犯罪和滥用的伦理准则和法律，大多数规则今天也仍然适用。第二阶段则集中在互联网领域，创建了规范信息创建、保护、传播和预防滥用的伦理原则和法律。现在，这个研究领域已经悄然进入了一个全新的第三阶段，我将其称为“数据和算法伦理”。未来，我们将需要有关人工智能开发和利用的伦理框架和法律。

当前，一些政府部门和行业协会已开始尝试建立这样的伦理框架，显著的例子包括阿西洛马人工智能原则，以及IEEE的伦理标准和认证计划。

今年九月，腾讯董事会主席兼首席执行官马化腾在上海“2018世界人工智能大会”上提出人工智能的“四可”理念，即未来人工智能是应当做到“可知”、“可控”、“可用”和“可靠”。我将“四可”翻译为“ARCC”（Available, Reliable, Comprehensible, and Controllable, 读作ark）。

马化腾先生的这项呼吁为进一步发展人工智能伦理框架奠定了基础。正如传说中数千年前拯救人类文明的诺亚方舟一样，人工智能领域的ARCC也将在未来几千年确保人类与机器之间友好、和谐的关系。因此，这四项原则值得我们深入探讨。

首先是可用（Available）。这一原则要求尽可能多的人可以获取、利用人工智能，而不是为少数人所专享。我们已经习惯于智能手机、互联网、应用程序带来的便利，而往往忘了还有半个世界被隔绝在这场数字变革之外。人工智能的进步应该解决这个问题，而不是加剧这个问题。我们应该让欠发达地区的居民，以及老人、残障人士回到数字世界中来，而不是将数字鸿沟视为既定事实。我们需要的人工智能应当是是包容的、可被广泛共享的技术，并将人类的共同福祉作为其唯一发展目的。只有这样，我们才能确定人工智能不会让部分人的利益凌驾于其他人之上。

以最近医疗机器人的发展为例，腾讯医疗AI实验室开发的“觅影”目前正与数百家地区医院的放射科医生合作。这种癌症预筛查系统目前已经审查了数十万张医学影像，鉴别出数十万个疑似高风险病例，并将这些案例转交给人类专家进行进一步判断。这项技术使医生免于繁重的影像判断工作，从而有更多地时间来照顾病人。让机器和人类各司其职，在这种情况下，医生与看似危及其工作的机器和平相处。