9月7日,2023 Inclusion·外滩大会在上海黄浦世博园正式开幕。这场以“科技·创造可持续未来”为主题的大会为期三天,近20位“两院”院士、诺贝尔奖和图灵奖得主,全球超500位有影响力的科技领军企业和专家学者,将在此带来一场科技、人文和产业的思想碰撞。

在主论坛上,中国科学院院士、复旦大学副校长张人禾表示,科学智能(AIforScience)已经成为当今科技届最热门的话题。

张人禾认为,科学智能已经成为人工智能的重点发展方向,推动跨学科的交叉研究,激发创新突破。加速科技创新与产业变革的深度融合,推动产业转型升级。“科学智能是推动科学研究范式变革、实现科技原始创新策源的利器,拥有引爆产业创新核爆点的巨大潜能。”


(相关资料图)

“国内科学智能也在迅速发展,相继涌现出大量的科学领域大模型,但仍处在起步阶段。”张人禾表示,面对“AI时代”的来临,“单打独斗”已不适应大科学时代的科技创新,要进行“有组织科研”,最大的优势在于布局建设大平台。张人禾透露,近年来,复旦大学在人工智能领域进行了颇有成效的探索。学校承担“人工智能前沿基础理论与关键技术”、“脑与类脑智能基础转化应用研究”两个市级重大专项攻关国际首个全脑计算平台。多个团队在顶刊、顶级会议发表人工智能领域代表性论文成果。

而模型的通用能力让其能够应用到人类生产生活的各个场景中,可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题,如何解决这一隐患,中国科学院院士何积丰开出了他的“药方”:利用对齐技术为大模型戴上紧箍咒。

何积丰院士认为,大模型的安全问题主要是在未经同意的情况下,收集、使用和泄露个人信息。隐私问题既可能发生在训练过程,也可能发生在使用过程中,而大模型的生成能力则让“隐私泄露”的方式变得多样化,造成隐私保护更加困难。

“为了应对这些问题,我们需要大模型对齐技术。”何积丰说,“对齐(alignment)”是指系统的目标和人类价值观一致,使其符合设计者的利益和预期,不会产生意外的有害后果。

何积丰介绍,反馈强化学习是实现对齐的技术途径,目前有两种方式,一种方式是通过人工反馈给模型不同的奖励信号,引导模型的高质量输出;另一种方式,事先给大模型提供明确的原则,系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着,不仅智能系统需要向人类价值观对齐,人类的训练方法也要向价值观对齐。”何积丰说。

据了解,在此次大会上,“两院”院士、诺贝尔奖或图灵奖得主,科技领军企业代表和专家学者,以及来自孟加拉、马来西亚、尼日利亚等新兴市场国家的科技创业者,聚焦人工智能、大模型、抗量子密码、隐私计算、图计算、安全智能、区块链、Web3.0等前沿数字科技及产业实践,展开深度探讨交流,并与会发布最新科技成果。

“人文”这一关键词也将贯穿大会始终,在技术发展的大背景下,如何帮助社会更好地适应数字革命?大会设有“可持续发展篇章”,重点关注社会责任、风险应对、ESG、科技伦理、消费者权益保护、数据安全和隐私保护、就业和人才发展等话题,并将举办40家科技企业联合招聘会。

同时,外滩大会的科技展览和绿色集市,以沉浸式、场景化、线上线下联动的方式,为参会者打造好玩好逛的科技创新展、绿色生活方式展。

科技展览贴近市民生活,展示科技在金融服务、出行、政务办事、安全等领域的应用成果,体现可全国推广、复制的“上海科创样本”;绿色集市设有荒漠、森林、海洋、城市四大主题体验区,近30个绿色可持续品牌参与,展示新潮的绿色生活方式、丰富的低碳商品、有趣的公益环保互动。

今年,外滩大会升级了组织架构,清华大学、复旦大学、上海交通大学、同济大学、浙江大学、上海报业集团、外滩投资集团、蚂蚁集团等多家单位组建成立外滩大会组委会,以“开放的模式”更好推动金融科技和科技领域的交流与合作。同时,外滩大会还设立了国际化的学术顾问委员会,并首设高能级金融科技咨询委员会、科技人才交流会,进一步提升大会影响力和公共价值。

推荐内容