在外滩大会追问科技人文:如何让科技有伦理、可持续、有责任、有温度?

在外滩大会追问科技人文:如何让科技有伦理、可持续、有责任、有温度?

9月9日,外滩大会的最后一天,中环联合认证中心对外滩大会进行排放核查,并向外滩大会颁发《碳中和证书》。也就是说,通过践行绿色办会,外滩大会成功实现办会“碳中和”。

这不是3天外滩大会里唯一的人文细节。

2023年9月7日-9日,外滩大会在上海举行。三天的会议中,“人文”这一关键词贯穿始终。围绕各界关注的话题,大会设置了“可持续发展篇章”,重点关注社会责任、风险应对、ESG、科技伦理、数据安全和隐私保护、就业和人才发展等线家科技企业联合招聘会。在3天的会议中,我们看到科技可以有伦理、助推可持续发展、有责任、有温度。

科技有伦理:人类新角色是智能机器的“牧羊人”

ChatGPT的横空出世,让人工智能迎来iPhone时刻。

在欢呼大模型取得突破性进展的同时,外滩大会也在持续探讨、提醒要正视大模型的伦理问题——虚假信息、算法失控、算法滥用、偏见歧视、AI幻觉、隐私安全、有害信息等。

今年外滩大会的多场论坛中,“人机对齐”被频繁提及。中国科学院院士何积丰表示,应对大模型带来的安全和隐私问题,需要大模型对齐技术。“‘对齐(alignment)’是指系统的目标和人类价值观一致,使其符合设计者的利益和预期,不会产生意外的有害后果。如果把人工智能看作西游记里的孙悟空,‘对齐’就是唐僧的紧箍咒。有了紧箍咒,就可以保证技术不会任意使用能力胡作非为。”何积丰说。

在中国社会科学院哲学所科技哲学研究室主任段伟文看来,生成式人工智能这一非人类智能也可能具有一般或通用的理性能力,人的心智和理性不再是实现智能和通用智能的唯一基础。生成式人工智能可以帮助人类挤出知识的水分。除了人类通过观察生成式人工智能重新思考自己,生成式人工智能的错误也可以揭示它是如何工作的,一旦它完美地模拟了人类,人类就根本无法理解它了。

在复旦大学计算机科学技术学院教授肖仰华看来,未来AI大模型被广泛应用之后,最大的挑战是预防人类智力的,智能的必然引起人类主体性的丧失与文明的崩塌,因此必须重建大模型时代的新型人机关系,人类的新角色是智能机器的“牧羊人”,人最重要的能力是使用和驾驭AI的能力。

还值得注意的是,为了共同构建大模型伦理安全的未来,蚂蚁集团在外滩大会上发布了伦理共建计划,将对部分共建的伦理语料库、风险知识体系、数据集以及专家原则进行开源。

据了解,蚂蚁集团深入理解大模型伦理问题并积极寻求解决方案。首批伦理共建的成果包括了超过150部法律法规及司法解释的语料库,生成了超过2000条高质量样本,总结了超过80条专家回答原则,并识别了超过270类重点关注的风险领域。

科技有责任:给AI带上“紧箍咒”,护航数据安全和隐私保护

大模型等新技术掀起的AI浪潮仍在澎湃,随之而来的安全和隐私问题引发关注。如何让新技术安全可控、功能向善?在今年的外滩大会上,多位嘉宾开出了护航行业健康发展的“药方”。

蚂蚁集团首席隐私官聂正军建议,面对大模型带来的风险和挑战,企业可以从两个方面做好隐私保护工作。一是,在模型训练阶段可以使用匿名化的工具,防范未来模型本身带来隐私泄露或者个人信息被滥用的风险。二是,在大模型的商业化应用落地时,要把服务它方产生的数据和自营业务里使用到的数据进行隔离。

百度数据合规法务负责人徐全全呼吁,新技术、新应用的不断落地,给企业的隐私保护带来了很多的挑战,这就要求各个企业要“同呼吸共命运”。“在数字时代,每个企业一定不会也不能单打独斗,要和上下游的合作伙伴协同共治,一起参与到隐私保护、数据合规的工作当中。”徐全全说。

今年的外滩大会也展示了行业和企业共建负责任的科技的成果。

在8日的外滩大会上,行业首个平台生态数据安全标准发布。该标准从平台运营者数据安全保护、生态合作过程中的数据安全保护、数据防泄露和应急溯源、消费者数据安全保护四个方面,为企业如何搭建平台生态数据安全保护能力、履行个人信息保护和数据安全责任提出了指导和评价标准。

在另一场论坛上,IIFAA互联网可信认证联盟宣布升级,将联合行业共建以终端安全技术和密码技术为核心的“IIFAA分布式可信认证体系”。该体系在保护用户数据隐私的前提下,可实现身份信息的跨平台互认、用户自主可控、凭证可溯源等诸多创新。

中国法学会副会长姜伟表示,科学技术的每一次创新发展,都会带来新的治理难题,但也预示着管理的机遇和法治的进步。数字治理必须融合数字技术,借助数字化、智能化的监管方式,对数字运行过程进行全方位、度的合规指引和监测分析,实现违规风险预警,切实提高监管效率和治理效果。

“大模型的普及使得监管科技走向智能化,预期在未来的几年行业合规管理也将从数据化走向智能化。”蚂蚁集团首席合规官李臣预测。

科技可持续:技术创新为应对气候变化、推动普惠发展提供有效方案

社会和经济的繁荣发展,同时也在给全球不断地加温。联合国警告:全球变暖时代已经结束,因为全球沸腾时代已经到来。

挑战当前,我们应该秉持怎么样的科技观,让技术能始终为可持续发展造福?

上海市生态环境局党组唐家富说,生态环境保护、绿色可持续发展既需要全球的共同行动,也需要社会各界的齐心协力。可持续发展的协议林林总总,但“从协议到协力”,需要凝聚政府、社会、企业和每一个公民的力量。

联合国全球契约组织亚太区总代表刘萌则进一步表示,企业是促进经济、社会、环境、治理均衡发展的重要力量,也是推动技术创新和知识共享的主要推手。如何设计好、开发好、利用好科技这一工具,决定了人类的命运和未来。

与“科技创造可持续未来”这一大会主题相呼应,2023外滩大会展示了科技创新助力应对气候变化、推动普惠发展的探索实践。

在9月7日举行的2023INCLUSION·外滩大会开幕式上,世界自然保护联盟(IUCN)主席拉赞·穆巴拉克在线上演讲中表示,当前全球面临着气候变化日益加剧、自然环境恶化这双重危机,尽管公共部门和国际金融机构在其中发挥着重要的作用,但光靠它们无法承担有效应对这些挑战的财务成本。

“在这种背景下,金融科技可以提供一种前景广阔甚至必不可少的解决方案。”拉赞·穆巴拉克指出,金融科技不仅能帮助填补融资缺口,它对我们减缓和适应气候变化以及扭转生物多样性损失的努力至关重要。她称赞蚂蚁集团的蚂蚁森林项目展示了金融科技平台可以使个人能够直接参与到保护项目中,激励公众成为应对气候变化和生物多样性流失的积极参与者和变革者。

科技有温度:弥合数字鸿沟、关注人才发展

随着科技的发展,不同群体在在数字技术的获取和利用数字能力方面存在一定的差异。如何弥合数字鸿沟,让更多人享受到数字红利?2023年的外滩大会展示了科技创新助力老年人、障碍群体、县城女性享受“数字红利”的可能性。

泰康、博腾、支付宝等共同在大会展区现场搭建了一个老年人养老公寓。随处可见房间中的暖心设计:多处有扶手,圆角房间,暖色灯光,防滑卫生间等。泰康还提供了老年人拟态服,观众穿着拟态服后可以切身体会高龄人群的日常活动,以便更好地理解老年人的处境与感受。

科技发展还为女性群体提供了更多的就业机会。在展区,“人工智能训练师”这一职业吸引了很多人的体验。展板信息显示,这个项目是由中国妇女发展基金会和蚂蚁公益基金会等共同发起、面向中西部欠发达地区县域女性的就业帮扶项目,通过就业机会引入、技能培训、社会企业孵化等,帮助欠发达县域女性在地就业——她们身在小县城,却可以成为人工智能产业链上的一环。数据显示,相关数字就业中心年数据标注量过亿,多个中心也成为当地最大的用工企业。

有意思的是,大会三天,学者们一直在与“场外”网友的互动。这次从主论坛到分论坛,都设置了一个特别的环节:回答网友提问环节。

“很多人觉得自己的工作毫无意义,对职场充满厌倦,在人工智能时代,我

们的工作意义会变化吗?

据说AI最无法取代金字塔两端的工作,如果我考不上985,是不是上技校学手艺更有前途?

普通人对科技发展的关切,归根结底是如何让每个人的生活更好。今年,外滩大会首次举办科技人才招聘会,探讨不同领域人才发展需求及未来人才培养探索,也为科创企业与人才提供交流的平台,吸引了近40家企业参与,超5000人到现场参加应聘。