OpenAI CEO:十年内超强AI系统或将诞生

6月10日,OpenAI联合创始人兼CEO,萨姆·奥特曼(Sam Altman)以视频连线的方式现身于中国北京举办的2023智源人工智能大会,这是Altman首次对中国观众发表演讲。
奥特曼表示,世界的注意力主要集中在解决当今的人工智能问题上,很多问题的解决非常迫切。人工智能能力正在迅速增长,现在需要负责任地将其应用到世界中去。
当下,人工智能变革正在迅速拓展人类的想象力,未来十年,奥特曼认为AGI将会超过90年代初人类所具备的专业水平,最终可能超过人类最大体量公司的总体生产力,潜在收益是巨大的。
与此同时,管理风险、共同努力实现预期目标也是必需的。随着越来越强大的人工智能系统的出现,全球合作的利益变得前所未有地重要。如果不做好规划,一个未对齐的AI系统可能会通过提供不平衡的建议来破坏整个集体系统。因此,奥特曼强调,推进AGI安全是行业寻找共同立场的最重要领域之一。
奥特曼表示行业必须为开发和部署可能引发的问题负起责任,其中最重要的两个领域是:一,建立起包容的国际准则和标准,并在所有国家对AGI的使用中建立平等、统一的防护措施;二,需要国际合作,以可验证的方式在全球范围内建立对越来越强大的AGI系统安全开发的信任。
奥特曼引用《道德经》称“千里之行,始于足下”,最有建设性的第一步是与国际科技界展开合作,推动增加AGI安全技术进展的透明度和知识的机制,发现紧急问题的研究人员应该与更多人共享研究成果。更加深入地思考如何在鼓励推动国际合作的同时尊重和保护知识产权,推动并引导与安全研究一致的投资。
聚焦眼下,奥特曼认为,要使AI系统成为一个有益和安全的助手,对应的是如何训练模型,使其在没有安全威胁的前提下发挥积极作用,主动应对AGI带来的潜在挑战,将未来灾难性后果的风险降至最低。
具体到GPT-4从完成预训练到部署,奥特曼称团队花了八个月的时间来研究如何前置预判风险并给出对策的问题,团队走在正确的道路上,GPT-4的对齐程度超过当前所有的代码。但对于更高级的系统来说,对齐仍是一个尚未解决的问题,需要新的技术方法以及加强治理监督,毕竟未来的AGI可能是一个十万行二进制代码的系统,人类监督者很难判断如此规模的模型是否在做一些损害的事情。
针对于此,奥特曼称团队正在投资新的方向,其一是可扩展监督,尝试使用AI系统来协助人类监督其他AI系统,例如训练一个模型来帮助人类监督员找出其他模型代码中的缺陷。其二是可解释性,更好地理解模型内部发生的事情,如用GPT-4来解释计算机的复杂状态。最终目标是训练AI系统具备更好的优化自身的能力,而美国、中国乃至世界各地的研究人员,在应对AI领域技术挑战上的合作存在巨大潜力。
在与智源研究院理事长张宏江隔空对话中,奥特曼表示,AGI时代可能很快就会发生,未来十年内,行业可能会拥有超强的AI系统,这种情况下,全球监管便非常紧迫。而AI安全是最新的技术,不仅需要考虑AI模型本身的安全性,还需要考虑整个系统的安全性。因此需要构建安全的分类器和检测器,来监测符合用户政策的情况。
至于OpenAI会否重新开放GPT源代码,奥特曼表示,目前OpenAI开源了部分模型,随着时间的推移,可以期望更多模型开源。未来随着模型变得越来越大,确保正确性将变得昂贵,开源一切可能不是最优路径。
消息称华为新合资公司估值高达2500亿元;拼多多市值逼近阿里,马云发声了;查理·芒格去世,享年99岁丨大公司动态
第一财经每日精选最热门大公司动态,点击「听新闻」,一键收听。【金融街】查理·芒格去世,享年99岁11月29日,伯克希尔哈撒韦公告称,当地时间11月28日上午,查理·芒格在加州一家医院安详地离世。据悉,芒格出生于1924年1月1日,距离他100岁生日只有一个月。赵长鹏辞去币安美国董事会主席职务,此前已辞任币安CEO0000金融强国路线图进一步明晰,央行、外汇局13篇专栏释放哪些政策信号?
自11月3日起,央行、外汇局接连刊发13篇文章,多个角度、全方位分析了金融高质量发展面临的形势,部署当前和今后一个时期的金融工作,勾勒出金融强国路线图,释放诸多政策信号。中央金融工作会议强调,金融是国民经济的血脉,是国家核心竞争力的重要组成部分,要坚持把服务实体经济作为根本宗旨。锤子财富2023-11-24 09:32:220000债牛背后藏风险!央行解释净值管理内涵,提醒公众投资者审慎投资
理财产品动态发布的年化收益率是当前时点的预期收益率,是按过去一段时期的收益率,线性推算出的未来一年收益率,投资者未来赎回产品时实际获得的收益率是不确定的。现在净值越高,意味着越是在更高的价格位置投资,未来的损失风险可能越大。8月9日,央行发布二季度货币政策执行报告,其中以专栏方式介绍并解释了净值管理内涵,提醒公众投资者审慎投资。0000富临精工:控股子公司与宁德时代签订业务合作协议
双方同意在锂电磷酸铁锂材料验证、生产方面建立长期合作的机制,共同开拓新能源市场。8月12日晚,富临精工公告,公司控股子公司江西升华新材料有限公司于近日与宁德时代新能源科技股份有限公司签订《业务合作协议》。根据双方战略合作规划及未来市场需求,双方同意在锂电磷酸铁锂材料验证、生产方面建立长期合作的机制,共同开拓新能源市场。0000住建部:加快推动保障性住房项目开工建设
会议要求,各地要充分认识保障性住房建设对惠民生、稳投资、促转型的重要意义,增强工作的责任感和使命感,明确时间表、路线图、责任人,加快推动项目开工建设,看准了就抓紧干。住房城乡建设部相关负责人日前表示,国家层面保障性住房的政策体系已经齐备,关键是抓好落实。各地要加快建立轮候机制,摸清工薪收入群体需求,以需定建,有力有效有序推进保障性住房建设。0000