警惕人工智能算法陷阱 消费金融领域呼吁加强监管反对歧视

4月25日，美国消费者金融保护局、司法部、联邦贸易委员会等部门官员警告金融公司和其他机构，使用人工智能（AI）会增加偏见和侵犯公民权利的风险，并表示正在监管市场以防止此类歧视。

随着人工智能工具的日益普及，美国、欧洲和中国的监管机构都在加强对使用人工智能技术的审查，并呼吁制定新的法律来控制该技术。

美国消费者金融保护局局长乔普拉（Rohit Chopra）表示，在金融领域，如果公司甚至不了解人工智能做出决定的原因，就不能合法地使用这些技术。

4月25日，上海交通大学安泰经济与管理学院教授，上海交通大学行业研究院“人工智能 ”行业团队负责人史占中在一场媒体沙龙上也提到了类似的话题。他对第一财经记者表示：“新的技术出来之后我们不能恐惧，更不能因噎废食；我们要积极、及时通过规则优化和有效监管，把它从挑战人类的最强‘对手’变成人类的最好‘助手’。”

史占中认为，人工智能是由算法推动的，而算法里面有算法的陷阱和算法的误导，Al算法和模型的偏见设计，如种族、性别歧视等等，将引发社会排斥；Al数据分析、存储及应用，可能引发造假造谣诈骗、信息泄露、隐私侵犯及数据滥用等，这些问题都将挑战道德伦理。

“人工智能更大的风险是，AI在治理架构、隐私保护以及风险设计等方面，会对未来的社会稳定、价值观、法律法规等，形成巨大的挑战。”史占中说道。

在谈到关于人工智能的决策如何定责的时候，史占中认为，人类智能和人工智能在协作过程中，谁处于指导地位，谁的权属更高一点。“现在法律上确实是一个空白地带，包括出现问题的时候谁负主要责任，以及AI责任由谁承担，这也存在法律法规的空白区。”他说道。

本周一，微软支持的技术倡导组织美国商业软件联盟（BSA）建议在美国数据隐私立法中制定管理人工智能使用的规则。BSA代表Adobe、IBM和甲骨文等商业软件公司。

BSA方面称，数字化转型是“经济议程的重要组成部分”，应该制定一个国家数字化转型议程，包括关于人工智能的规则、国家隐私标准和强有力的网络安全政策。

对此，上海交通大学安泰经济与管理学院经济系教授陈宏民表示：“数字经济发展是一个循序渐进的过程，现在所有的信息变成数字化，一秒钟的时间可以传千万里、送达亿万人，背后需要兼顾快速、便利和安全等问题。”

陈宏民认为，数字经济发展是参差不齐的，有一些行业和企业已经进入到数据驱动的阶段，但大部分行业和企业刚刚在数字化起步阶段，只有带着迭代思维不断学习进步，才能更好地应对不确定性的世界。