专访欧洲工商管理学院AI专家：如果没有监管，人们将不信任技术

自ChatGPT推向市场，人工智能（AI）能做什么，以及能做到什么地步，这些突破既使人们惊叹，也引发了人们担忧。

从对个人数据的囤积和信息泄露，到诈骗，再到损害企业竞争，这些风险的威胁让各方提高了警惕。近一个月来，从七国集团(G7)会议领导人到科技公司首席执行官，都呼吁为人工智能（AI）技术制定国际标准和更强力的法规。

但与此同时，实施监管的代价又是什么，创新的可能性会因此湮灭吗？

带着这些问题，第一财经记者专访了欧洲工商管理学院（INSAED）的决策科学和技术管理教授埃夫根尼奥（Theos Evgeniou）。他在机器学习和人工智能领域已深耕超过25年，也是经合组织和世界经济论坛等组织人工智能领域的专家成员或顾问。

埃夫根尼奥的主要观点是，在监管方面，我们很难“一次到位”，重要的是建构一个能够持续学习、不断适应、快速修复的监管程序与体系。

为什么要监管AI

第一财经：为什么随着ChatGPT等生成性AI的普及，AI监管的重要性更突出了？

埃夫根尼奥：我们要意识到三点。第一，生成性AI有多强大。我认为几乎所有人，包括生成性AI的开发者，都没有预想到其能力。

第二，生成性AI的行为方式如何。现在有一些关于突现行为（emergent behavior）的讨论，这种行为可能比预期更有影响。而且，生成性AI涉及人类语言和人类身份。而人类语言是帮助我们定义“我们是谁”和“我们做什么”的重要部分。因此，如果技术可以模仿那些能够定义人类身份认同的东西，就带来了新潜在风险和新可能性。

第三，像ChatGPT这样的生成性AI技术是所谓“根基模型”（foundation models）。人们可以在这种模型的基础上开发大量产品，并能够进行微调。换言之，它们不是单纯的产品，而是核心技术，是人们可以开发的产品之核心所在。这种核心技术本身已经非常强大，我们甚至无法预测人们将依靠它们开发出什么。我们也从未仔细考虑过如何管控和规范根基模型。这是一种新概念。

第一财经：意大利等国禁用了ChatGPT，当我们担忧AI带来的风险时，我们到底在担心什么？

埃夫根尼奥：有些国家或企业会禁用这些技术，可能是因为有潜在的风险，比如能泄露重要知识和信息，也可能因为很难控制这种AI能带来什么。

另一方面，一些国家禁用它可能是因为存在政治或健康风险，这可能关乎人们的国家认同。具体来说，这些生成性模型有点像“特洛伊木马”。基本上，ChatGPT在某种程度上浓缩了全球互联网。因此，如果针对一个特定的网站，禁止访问它很容易，但有了ChatGPT，你无法知道这些网站的内容是否从中暴露。

第一财经：近期，我们看到了一些AI诈骗的现象，例如模拟名人或熟悉的人的声音进行电话诈骗。我们应该如何监管这种行为？

埃夫根尼奥：首先，这些技术本身可以被应用于一些有价值的创造，改善人们的信息流。比如，企业可以用这种技术来优化广告营销信息或开发创意内容。在美国大选中，也可以以此来优化电子邮件活动。

然而，只有这种技术越界，就可能从“销售”或“营销”而变成“操纵”，比如通过电子邮件进行钓鱼或传播错误信息，甚至是对未成年的人进行诱骗。这是长期以来一直存在的东西，只是有了生成性AI后，好的和坏的方面都被放大了。

很明显，我们需要其中一些部分进行监管。要注意的是，我们要规范和监管的是内容审核的过程，而非内容本身。一些国家和地区已着手制定有关内容审核的法规。例如，欧洲提出《数字服务法》（DSA），涉及规范在线平台的内容。在我看来，这是一个很好的法规，因为它带来了一个公平和透明的内容审核程序。

总之，我们需要法规来规范如何公平和透明地审核内容，至于内容来自人还是来自人工智能，这在某种意义上并不重要。

欧美AI监管的异同

第一财经：欧盟即将对《人工智能法案》进行投票。你认为欧盟在AI监管上最侧重什么，与美国有何不同？

埃夫根尼奥：欧美在监管上有异同之处。从相似点来说，很多法规都是按照行业划分的。

举个例子，欧美航空领域的法规不会有太大区别。你在德国坐飞机或者在美国坐飞机，你应该不会询问其法规是否不同，因为他们最终都要保障安全。对AI技术也是如此，行业内很多事情在不同地区都是相似的。

但坦白说，没有任何人完全了解AI技术到底会如何影响人类的权利。因此，这里有一个关键问题是，管控风险的时机——你要现在就插手控制风险，并早早地设置限制和标准？还是要等一段时间，看看AI技术的发展和应用，然后再进行监管，出台一些限制？

欧洲通常是前者，而美国在这方面则更有耐心。美国喜欢的方式是“不要着急，让我们看看它会如何，我们先允许创新，等有问题时再去解决它”。这是因为美国在决定行动时往往也非常迅速。我们已经看到金融危机后，美国改变事情的速度有多令人惊讶。这也符合美国愿意放手观察的做法。

第一财经：美国的治理方式对商业更友好吗，这是否意味着反监管的立场？

埃夫根尼奥：我不认为如此，因为商业是需要监管的。总的来说，我认为没有人不需要监管。即使是科技高管也在说“监管我们”，最近美国参议院对OpenAI首席执行官阿尔特曼（Sam Altman）的听证会就是如此。他们知道，如果没有监管，人们将不信任技术，就有可能失去创新和进步。监管并不反创新，监管也可以支持创新，理解这一点非常重要。

但另一方面，监管的确也会减缓创新，当它增加了竞争难度，给一些小企业、投资和退出机制大大增加做事成本时尤其如此。例如，欧盟的《通用数据保护条例》（GDPR）导致了小企业成本骤增，其中大多是欧洲初创公司。这最终帮助美国大公司获得了竞争优势。从这个意义上说，这一结果与欧盟的目的恰恰相反。

关键之处在于，我们要理解，第一，没有完美的法规；第二，做事要平衡成本，这个成本可能是小企业的竞争，或是终端消费者的信任和安全。当你必须平衡各个因素，你无法一次得到最优解。你只能从某个地方着手，然后不断迭代更新、迅速响应。“边走边学”才是最重要的。

我们不能出于恐惧而监管，这是不充分的，也是不正确的。它应该是一个持续学习的体系，有一个能够快速吸收和修复的路径。

同样，监管中必须有不可跨越的红线。欧盟的《人工智能法案》中就规定了不可发展的部分，比如不可用于社会评分。