“灾难性风险”与“历史性机遇”并存,联合国安理会首次讨论AI安全
7月18日,联合国安理会举行首次人工智能会议,世界各国政府正在考虑如何减轻新兴人工智能技术的危险,后者或将重塑全球经济并改变国际安全格局。
英国本月担任联合国安理会轮值主席国,英国外交大臣詹姆斯·克莱维尔(James Cleverly)主持该次讨论,他称人工智能“将从根本上改变人类生活的方方面面”。
会上,来自15个成员国的代表听取了人工智能如何“给人类带来灾难性风险”,同时带来“历史性机遇”。其中,中国表示该技术不应成为“脱缰之马”,俄罗斯认为需要一个专业的、科学的、基于专业知识的讨论,美国警告不要将其用于审查或镇压人民。
詹姆斯·克莱维表示,人工智能为解决全球挑战提供了希望,如与粮食安全、教育和医药有关的挑战。自动化系统已经在帮助人们更有效地种植粮食、预测风暴路径和识别患者疾病,因此,如果使用得当,人工智能可以加速实现可持续发展目标的进程。但人工智能也有可能加剧威胁和加剧冲突,包括传播错误和虚假信息、放大偏见和不平等、加强恶意网络行动以及加剧侵犯人权行为。
克莱维尔表示欢迎开发和应用人工智能工具的努力,以改善提供人道主义援助的共同努力,为气候变化或冲突等各种问题提供早期预警,并进一步实现其他共同目标。
另外,联合国秘书长安东尼奥·古特雷斯、人工智能创业公司Anthropic联合创始人杰克·克拉克,以及中英人工智能伦理与治理研究中心联合主任曾毅教授也分别向这个由15个成员组成的委员会作了简要介绍。
古特雷斯支持部分国家建立新的联合国机构,以国际原子能机构、国际民用航空组织或政府间气候变化专门委员会为榜样,“人工智能的军事和非军事应用都可能对全球和平与安全产生非常严重的后果。”
曾毅教授呼吁联合国作为一个机构认真对待AI安全这一问题,联合国必须发挥核心作用,建立人工智能发展和治理框架,以确保全球和平与安全“人工智能可能会导致人类灭绝,因为我们还没有找到一种方法来保护自己免受人工智能对人类弱点的利用”。
克拉克称:更具有挑战性的是混乱或不可预测的行为问题。人工智能系统一旦部署,可能会出现在开发过程中没有发现的微妙问题。“我想提醒听众,不要把人工智能视为一种特定的技术,而是一种可以以计算机的速度进行买卖的人类劳动力,随着时间的推移,它会变得越来越便宜、越来越强大。”克拉克表示。
中国驻联合国大使张军将人工智能比作“双刃剑”,称北京支持联合国在制定人工智能指导原则方面发挥核心协调作用。张军表示,人工智能是好是坏取决于人类如何利用它,调节它,以及如何平衡科学发展与安全。应该关注人和人工智能,规范发展,“防止这项技术成为脱缰之马”。
俄罗斯驻联合国副大使德米特里·波利安斯基认为“我们需要的是一个专业的、科学的、基于专业知识的讨论,这可能需要几年的时间,而这种讨论已经在专门的平台上进行了。”他同时质疑负责维护国际和平与安全的安理会是否应该讨论人工智能。
美国驻联合国副大使杰弗里·德劳伦蒂斯(Jeffrey DeLaurentis)表示,各国也有必要在人工智能和其他新兴技术方面共同努力,以应对可能破坏和平与安全的人权风险。“任何成员国都不应该利用人工智能来审查、约束、压制或剥夺人民的权力。”
伴随ChatGPT的爆火,AI安全也逐渐引发关注,此前亚信安全首席研发官吴湘宁表示,“去年年底到今年年初,生成式AI带来了灯塔式的指引,从国家到所有的企业都在拥抱这次变革。”腾讯安全内容风控产品经理李镐泽对第一财经表示,AIGC的内容安全是一个全链路的问题,从模型训练、标注、应用到应用之后的舆情监控各个环节都可能引入内容安全的风险,因此在应用AIGC大模型时,也应从全链路进行内容风控。
江苏省委原副书记张敬华受贿案一审开庭
庭审中,检察机关出示了相关证据,被告人张敬华及其辩护人进行了质证,控辩双方在法庭主持下充分发表了辩论意见,张敬华进行了最后陈述并当庭表示认罪悔罪。2023年7月27日,湖北省武汉市中级人民法院一审公开开庭审理了江苏省委原副书记张敬华受贿一案。0000通威股份:拟以280亿元投建绿色基材一体化项目
项目总投资280亿元,包括年产50万吨绿色基材(工业硅)、40万吨高纯晶硅项目及配套设施。12月25日,通威股份公告,拟在鄂尔多斯市投资建设绿色基材一体化项目,项目总投资280亿元,包括年产50万吨绿色基材(工业硅)、40万吨高纯晶硅项目及配套设施。0000儿科医院普通病房一床难求、挂号排队一周:除了缺医生还有哪些问题待破解?
一些病情较轻的患儿家长接受了每天到医院挂号吊水的办法;一些病情较为严重的患儿家长更倾向于让孩子住院接受治疗,但目前儿科医院的普通床位仍然告急。近期,肺炎支原体感染占据了呼吸道感染中的大部分,而且感染大多为儿童,一些儿童还出现了白肺的情况,需要住院接受治疗。锤子财富2023-11-24 19:56:100000元宇宙迎重磅政策利好,将成为数字经济重要增长极
工信部表示,发展元宇宙产业将极大开辟数字经济的新场景、新应用、新生态,培育经济新动能。当前全球元宇宙产业加速演进。为抢抓机遇引导元宇宙产业高质量发展,工业和信息化部等五部门近日印发《元宇宙产业创新发展三年行动计划(2023-2025年)》(下称《行动计划》)。锤子财富2023-09-09 18:11:430000中医优势专科建设迎政策支持,中药板块大涨,关注这些细分赛道
机构指出,国内医药产业有望掀起并购重组浪潮,并购驱动成长将成为未来重要主线之一。12月12日,中药板块涨幅居前,截至发稿,香雪制药涨超13%,盘龙药业涨停,*ST吉药涨超7%,维康药业、昆药集团、大唐药业、长药控股等不同程度上涨。锤子财富2024-12-19 02:02:570000