9月7日，2023INCLUSION·外滩大会在上海开幕。作为业界观察技术风向和产业机遇的重要窗口，其聚焦的议题也往往反映了行业关切的焦点。
　　《中国经营报》记者在大会首日现场注意到，包括丁奎岭、张人禾、何积丰等中国科学院院士，美国“三院院士”迈克尔·I·乔丹（MichaelI.Jordan），清华大学人工智能研究院副院长朱军，美国国家工程院外籍院士张宏江等学界和行业领军人物，均关注到大模型等AI新阶段产物可能为产业带来的巨大变化。
　　据蚂蚁集团CEO井贤栋现场披露，蚂蚁集团将在9月8日发布全栈式的自研大模型。
　　技术风暴开启万亿美元新赛道
　　今年1月的《财富》杂志将大模型突破带来的产业变革描述为人工智能的“iPhone时刻”。
　　7月末的一项机构调研数据显示，国内参数在10亿规模以上的大模型数量已达116个，百模大战正酣。
　　井贤栋在现场引用了电影《奥本海默》中的一句台词——正如发明原子弹“不是一种新武器，而是一个新世界”，大模型的出现，“不是一个新技术，而是一个新世界”。他说，iPhone时刻巨大的冲击，远远不是大屏幕变成小屏幕这么简单，而是通过小屏幕实现了用户“永远在线”，从而极大促进了人和服务、人和商品的整个连接。
　　麦肯锡研究数据显示，在高科技行业，生成式AI技术每年可以额外创造2400亿至4600亿美元价值；在零售和消费品领域，每年可达2400亿至3900亿美元；在整个银行业，每年可达2000亿至3400亿美元。
　　麦肯锡中国区主席、全球资深董事合伙人倪以南认为，生成式AI的技术风暴有望开启一场关系到未来8~10年的新一轮技术和产业变革。“AI对全球经济的潜在收益将达到25万亿美元，是当前所有企业最重要的赛道之一。”
　　这也引发了多路资本的布局。据金沙江创投主管合伙人张予彤透露，当前生成式人工智能创业与投资爆发，今年上半年投资额已超过去年全年水平。
　　需要注意的是，技术发展的最终目的是促进产业变革，并且急需走向高效协作的产业变革。当前，仍有许多产业从时间和空间上都有很长的链路，产业协作涉及多个参与方，环节众多、流程复杂。
　　在蚂蚁集团资深副总裁、数字科技事业群总裁蒋国飞看来：“信任问题是产业高效协作的最大障碍。”他认为，在物理世界产业供应链的背后，需要用数字科技构建一个围绕数据供应链的协作网络——比如，在数据生成环节，物联网可以实现数据源头可信；在数据流通环节，区块链技术可以进行数据确权，防篡改；隐私计算技术确保数据在流通与融合过程中“可用不可见、可算不可识”；在数据价值的挖掘环节，人工智能技术与场景结合，能够让数据价值释放出巨大潜力。
　　大模型也要戴上“紧箍咒”
　　在业界对大模型颠覆效应满怀期待的同时，也有学者对其保持审慎。
　　美国科学院院士、美国工程院院士、英国皇家学会外籍院士迈克尔·乔丹认为，ChatGPT没有办法对不确定性进行量化，如果无法应对不确定性，则不可能有好的金融科技。“我不认为有一种所谓的超级电脑会替代人，应该把技术看作是一个工具来赋能人类。”他表示。
　　大模型的通用能力让其能够应用到人类生产生活的各个场景中，也因此带来了新的安全隐私问题。中国科学院院士何积丰认为，应该利用对齐技术为大模型戴上紧箍咒。
　　何积丰认为，大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。隐私问题既可能发生在训练过程，也可能发生在使用过程中，而大模型的生成能力则让“隐私泄露”的方式变得多样化，造成隐私保护更加困难。
　　“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作《西游记》里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”
　　不过，对齐技术同样面临挑战。首先，对齐的基础，人类的价值观是多元且动态变化的，需要保证大模型为人服务、与人为善；其次，大模型的有用性与无害性之间目标也不完全一致。如何对错误进行有效纠正，设好大模型的“紧箍咒”也是挑战。
　　记者注意到，对于引导技术良性发展，行业已经开始探索行动。在外滩大会举行的《探索下一代安全智能》论坛上，世界权威国际产业组织“云安全联盟”（CSA）大中华区宣布成立“AI安全工作组”，中国电信、蚂蚁集团、华为、百度、字节跳动、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。该组织致力于共同解决AI技术快速发展所带来的安全难题。
（文章来源：中国经营网）