人工智能驱动的神经技术需加强全球监管，不仅在医疗，而且也在消费领域

人工智能驱动的神经技术发展如此之迅猛，联合国组织也在酝酿对其进行全球监管。

13日，联合国教科文组织（UNESCO）举办国际会议探索神经技术在解决难治性神经系统和精神障碍问题上的巨大潜力，并将开始制定针对神经技术的“通用道德框架”。

负责撰写UNESCO《神经技术伦理问题报告》的主要作者斯奎恰里尼（Mariagrazia Squicciarini）表示：“当你添加AI时，你就给神经技术注入了类固醇。”

神经技术，包括用于诊断和治疗大脑相关疾病的植入物，正在开始改善残疾人的生活，但对基于人工智能（AI）程序的投资增加，这些程序可以读取人们的思想并存储神经数据，这引起了人们对其使用的担忧。

为全球伦理框架奠定基础

神经技术可以帮助人类解决许多健康问题，但它也可能触及并操控大脑结构，生成与我们的身份、情感相关的信息。联合国方面认为，急需在全球层面为神经技术行业建立共同的伦理框架，此前UNESCO已经在人工智能领域完成了这一任务。

据悉，在13日举行的UNESCO国际会议上，各方将探索神经技术在解决难治性神经系统和精神障碍问题上的巨大潜力及其威胁。

该会议的最终目标是促进更好地理解与神经技术治理相关的伦理问题，为制定伦理框架做准备。该框架将由UNESCO的会员国审议并投票表决。有关程序将遵循类似于UNESCO为人类基因组（1997年）、人类基因数据（2003年）和AI（2021年）建立全球伦理框架的方法。

UNESCO认为，生成式AI有关最新发展，以及AI技术的普及和其对人类、民主和就业构成的风险，这些都证实了其制定的AI伦理全球标准的有效性和及时性。神经数据和AI的融合将带来更为严峻的挑战。

欧洲工商管理学院（INSAED）的决策科学和技术管理教授埃夫根尼奥（Theos Evgeniou）对第一财经记者解释道，生成性AI涉及人类语言和人类身份。而人类语言是帮助我们定义“我们是谁”和“我们做什么”的重要部分。因此，如果技术可以模仿那些能够定义人类身份认同的东西，就带来了新潜在风险和新可能性。

“譬如像ChatGPT这样的生成性AI技术是所谓‘根基模型’（foundation models）。人们可以在这种模型的基础上开发大量产品，并能够进行微调。换言之，它们不是单纯的产品，而是核心技术，是人们可以开发的产品之核心所在。这种核心技术本身已经非常强大，我们甚至无法预测人们将依靠它们开发出什么。我们也从未仔细考虑过如何管控和规范根基模型。这是一种新概念。”他解释道。

神经技术更是如此。神经技术涵盖任何用于“访问、监测、调查、评估、操纵和/或模拟动物或人类神经系统的结构和功能”的设备和程序。神经技术设备包括“可穿戴设备”，如智能手表和手环，以及非侵入式脑机接口，如机械肢体，及目前正在开发的用于治疗瘫痪等残障的脑植入物。

根据UNESCO给出的数据，全球每8人中就有1人患有精神或神经障碍，相关治疗费用占到发达国家总医疗支出的三分之一，在中低收入国家也成为日益沉重的负担。

世卫组织的数据则显示，到2050年，60岁以上人口预计将翻番，达到21亿，上述支出亦将持续增长。神经技术有降低癫痫、阿尔茨海默病、帕金森病和中风等神经系统障碍导致的死亡和残障的巨大潜力。

UNESCO认为，然而，如果没有伦理护栏，这些技术可能会带来严重风险，因为大脑信息可以被访问和操纵，威胁到基本权利和自由，而这些是人类身份、思想自由、隐私、记忆等概念的核心。

加剧全球不平等并产生新的不平等风险

UNESCO的数据显示，目前，50%的神经技术公司位于美国，35%位于欧洲和英国。由于神经技术可能引领新一代的“超级人类”，这将进一步扩大国家之间在教育、技能和财富方面的差距，使拥有最先进技术的人获得不公平的优势。

根据其研究人员估计，自2010年以来的10年间，对Onward Medical和马斯克的 Neuralink等神经科技公司的私人投资增加了二十多倍，到2020年达到73亿美元。到2027年，神经科技设备市场预计将超过240亿美元。

神经科学论文数量从2011年的57899篇增加到2021年的94456篇，而全球与神经技术相关的专利从2010年的418项增加到2020年的1531项。

纽约哥伦比亚大学神经技术中心主任尤斯特（Rafael Yuste）是一位领先的神经生物学家，也是“保护精神隐私”国际监管的倡导者。

他表示，在去年发表的四项研究中，并非所有研究都经过同行评审，“研究人员使用不需要神经外科手术插入的非侵入性设备，解码了人类志愿者大脑中的语音和图像”。

“所有四项研究都采用了先进的人工智能模型来解码大脑数据，”尤斯特说，“新算法将使人们能够解码高度敏感的信息，这使得保护心理隐私变得更加紧迫。”

他补充说，监管是必要的，因为“美国和加拿大的神经科技公司几乎无一例外地在其消费者用户协议中完全拥有客户神经数据”。

“我们需要保护精神财产——否则公司将开始储存大脑数据。他们今天可能无法解码它，但人工智能明天将使他们能够解码它。”他表示。

尤斯特自己的实验室已经解码并操纵了小鼠视觉皮层的神经处理，以便研究人员能够“植入幻觉”——让它们看到他们实际上没有看到的东西。

斯奎恰里尼表示：“我们并不反对神经技术或要求暂停研究，因为它具有减少神经系统疾病造成的死亡和残疾的巨大潜力。但我们需要一种全球协调的神经技术监管方法，不仅在医学领域，而且在消费市场。”

要看到的是，神经数据，即捕捉个体反应和基本情绪的数据，在消费市场上需求旺盛。与社交媒体平台收集的数据不同，大部分神经数据是在无意识状态下生成，因此无法许可其使用。如果敏感数据被提取，然后落入坏人之手，个体将承受其有害后果。

UNESCO并表示，在儿童或青少年仍处于神经发育重要阶段时植入脑机接口可能会干扰大脑的“正常”发育。它可能会改变年轻人的思维，影响人格塑造，并产生长期甚至永久的影响。