AI时代的“罪与罚”

近年来，随着人们对人工智能（AI）技术认识的提高和应用的广泛推进，AI技术也被不法分子利用，出现多种形式的诈骗活动，数量和规模均呈现出快速增长的势头。据不完全统计，仅在2022年，我国AI诈骗案件就达到了50万件，涉及金额超过100亿元。与此相应，随着AI技术的发展，警方也可以利用AI技术来提高犯罪预测和侦查的效率和准确性。进一步，AI可以通过分析大数据、视觉图像分析和识别、自然语言处理和语音识别等技术手段，发现隐藏在数据背后的模式和规律，从而提供重要的线索和证据，协助警方侦破案件，在司法实践中也发挥着重要的作用。

涉及AI犯罪的种类

AI被用作“恶意”犯罪的工具，目前可以将其分为三类：

一是使用AI的犯罪：指的是使用AI作为实施传统犯罪的工具，如盗窃、欺诈或伪造。犯罪分子可以使用AI创建虚假身份，又或是利用人工合成的身份信息进行诈骗。例如：在语音通话中利用人工合成的声音骗取信任实施诈骗。当你的声音被上传于互联网，则有可能被克隆，用来对你的亲友进行诈骗。在现代大数据时代，每段出现在互联网上的声音都有可能被用来合成进行犯罪行为。

二是针对AI的犯罪：是指对AI系统的完整性或可用性的攻击。这包括入侵AI系统以窃取数据或破坏其运作。2022年6月21日，大学生学习软件“学习通”数据库信息被公开售卖，其中泄露的数据包含学校/组织名、姓名、手机号、学号/工号、性别、邮箱等信息达1.7亿条。2022年7月初，某市公安数据库遭入侵，黑客在某论坛公开出售中国居民信息和警察案件数据，标价10比特币（合时价约美元20万或人民币134万）。这类数据泄露的案件对个人的隐私造成极大的侵犯，同时也提高了网络诈骗的犯罪率。

三是AI本身的犯罪：指的是AI自主系统在没有人类干预的情况下实施犯罪。现在，这仍然是理论上的猜测。但不可否认，自主系统可能被编程并从事犯罪行为，例如使用无人机进行非法监视或进行网络攻击。许多电影都对“AI毁灭人类”这一议题进行了预演，引发我们的思考。如《黑客帝国》《异形：契约》，都描述了人类与AI之间可能存在的战争。

AI用于反制犯罪

AI犯罪手段通常比传统手段更高明，更难以识别，从而增加了反犯罪的难度。AI用于刑侦和司法，可以增强反制犯罪的成功率。

1.AI用于刑侦。

通过对犯罪人员以往的数据分析和监控，警方可以使用机器学习算法分析犯罪数据，以识别犯罪模式和趋势，从而提前预警和防范犯罪，降低再犯率。如韩国针对有强奸犯罪前科的人员佩戴“电子镣铐”，既降低了广设监狱为社会带来的负担，同时为罪犯提前社会化打下了基础，也能够有效预防罪犯再次犯罪；在我国各大火车站、高铁站出站口广泛应用的“人脸识别”技术，也同样有助于识别和跟踪公共场所的有重大犯罪前科的嫌疑人。

同时，AI还可以通过视觉图像分析和识别技术，对视频监控画面进行分析，提取出关键信息，如人物特征、车辆类型、物品特征等，从而辅助犯罪侦查。例如，AI可以基于视频监控画面，识别出犯罪嫌疑人的面部特征、衣着特征等，与警方数据库中的人脸信息匹配，快速锁定嫌疑人。AI还可以通过车辆识别技术，快速识别出犯罪嫌疑车辆，并追踪车辆行驶轨迹，协助警方侦破案件。进一步，AI可以通过对视频监控画面的分析，识别出人物的行为特征，如走路姿势、手势、面部表情等，从而进行行为分析和预测。例如，AI可以根据犯罪嫌疑人的走路姿势和手势等特征，分析其行为特点，判断其是否有潜在的犯罪嫌疑，并预测其可能的犯罪行为。此外，AI还可以通过对监控画面的分析，检测出异常行为，如人员聚集、车辆拥堵等，快速发现和预警可能发生的异常事件，提高治安管理和应急处置的效率。

2. AI用于司法。

AI在司法审判过程中也可以起到多个方面的作用，如证据分析、判决辅助、案件调查等。在证据分析方面，可以利用自然语言处理技术对大量文本进行分析，帮助律师和法官发现潜在的证据和证词矛盾。在判决辅助方面，基于机器学习和数据挖掘技术，可以预测案件的胜负和判决结果，为法官提供辅助判断依据。在案件调查方面，可利用计算机视觉技术和大数据分析，快速搜集和整理相关证据和信息，帮助警方和律师快速锁定嫌疑人和证据。

但在确定AI在司法审判中的角色时，我们需要认识到AI并不能完全代替人类的判断和决策。尤其是在涉及人的生命和自由等重大利益的案件中，法官需要综合考虑多种因素，包括事实、法律和公众利益等，做出判断和决策。AI作为一种辅助手段，只能为法官提供更准确和全面的信息和数据分析，最终的决策还需要人类的判断和权衡。AI在司法审判中更适合处理具有一定规律和模式的案件，如知识产权、合同纠纷等。对于那些复杂、涉及人的情感和道德判断的案件场景，如何判决和量刑，AI的应用则较困难。同时，AI应用于司法，也可能存在人为偏见和不公平性，因为机器学习算法本身就会受到训练数据的偏差和人为主观性的影响。

3.AI用于监管。

除了审判过程，在犯罪人员服刑过程中AI也可以扮演其相应的角色，福柯在《监狱的“替代方案”》中讨论了监狱的历史和功能，并提出了一种“替代方案”，即通过社会控制和监视来代替监狱对罪犯的惩罚和控制。福柯认为，监狱的功能已经从惩罚转向了控制和纠正，但是监狱仍然存在一些问题，如监狱暴力、再犯率高等。他提出，通过使用现代技术手段如电子监管和数据分析等，可以更加有效地进行社会控制和监视，从而达到更好的控制罪犯的目的。这种替代方案的实现可能涉及一些AI技术手段，如电子监管、数据分析和面部识别等。

总之，AI技术可以用于犯罪预测和预防、犯罪侦查、审判、监狱管理等各个环节。AI应用于现代刑事司法系统是有启示意义的，它提醒我们应该更加关注罪犯的社会背景和环境，而不仅仅是犯罪行为本身，同时也提醒我们应该谨慎地使用AI和其他技术手段来进行社会控制和监视，以避免出现滥用和不当使用的情况。

不论是AI在实施犯罪行为，在司法审判中发挥作用或是用于预防和干预犯罪的过程中，对于AI实体的权责界定和对其能力的约束都十分重要。同时，在人类借助AI进行创造性或重复性工作时，有信誉且有能力的第三方对其行为的约束，都对可能存在的数据和技术滥用起到关键性的预防作用。在AI时代，犯罪和反制之间的竞争不再是简单的人力竞争，而需要利用技术手段。AI技术也可能被犯罪分子利用，从而加剧了犯罪的威胁。AI技术也可以帮助警方提高犯罪预测和侦查的准确性和效率，从而有效地防范和打击犯罪。因此，我们需要不断地加强对AI技术的研究和应用，提高其在犯罪反制方面的效果和质量，从而更好地维护社会的安全和稳定。

（李磊系南开大学经济学院、经济行为与政策模拟实验室教授，李阳系南开大学经济学院研究生。本文是国家社科基金重大项目“全球产业智能化对我国供应链安全的影响及对策研究”的阶段性成果）