作者:谢贝宁 商汤智能产业研究院助理研究员
宫超 商汤智能产业研究院科技政策与伦理研究主任
编辑:张学睿 商汤智能产业研究院助理研究员
“面对元宇宙巨大的产业价值、科研价值和社会价值,以及潜在风险,我们更应该加快研究元宇宙伦理,构建立足当下、面向未来、有益人类发展的元宇宙伦理观。”2022年7月27日下午,商汤智能产业研究院院长田丰在“元宇宙伦理:平衡发展下的新时空”研讨会上如此讲到。
“元宇宙伦理:平衡发展下的新时空”研讨会由中国数字经济百人会、世界工程组织联合会创新技术专委会、亚洲科技促进可持续发展目标联盟、商汤科技和亚太经合组织中小企业信息化促进中心主办,日本元宇宙国际协会协办,来自中国、日本、新加坡的8位专家围绕元宇宙发展及伦理进行了主题发言与探讨,田丰以《元宇宙伦理:数字元生代的文化启蒙》为题发表主题演讲。
图:数字原住民和数字移民
田丰介绍,05后至10后的“α世代”是人工智能时代的数字原生代、数字原住民。70后、80后、90后的XYZ世代属于数字移民。数字移民群体认为从物理世界到数字世界存在数字鸿沟挑战,即个人的数字化转型,而数字原住民则天然认为只有一个虚实融合的元世界。
元宇宙中的消费、社交、学习和生活,对于α世代的世界观、价值观和人生观塑造很重要。反之,α世代对于元宇宙的发展也同样重要,因为数字原住民认知决定了元宇宙的未来。
田丰介绍,根据相关统计数据,63.6%的中国网民喜欢虚拟偶像,且越年轻的群体越喜欢虚拟偶像,但19-38岁的群体仍是虚拟偶像爱好者主要群体且具有自主消费能力,粉丝们的月平均收入在5000元以上的人占75%。
在元宇宙备受追捧的同时,田丰也提醒要注意防范元宇宙伦理面临的七大风险。
图:元宇宙可持续发展的伦理风险
第一,人类生产力陷阱风险。
元宇宙可能带来更泛化的脱实向虚:首先是娱乐时间陷阱,如果人类花费大量时间在虚拟世界娱乐上,而不是提升科研和生产能力,那将会是人类社会的倒退,不利于人类的生存与发展,尤其是对于老龄化和少子化人口结构的国家;其次是认知行为陷阱,在元宇宙中产生的错误行为会对现实世界造成反噬;最后是文化价值陷阱,在元宇宙中形成的错误价值观会反映到现实世界之中。
田丰认为,“元宇宙价值漏斗”可以帮助塑造正确的价值观,通过元宇宙的数字生产力、数字科研能力和数字治理能力,以虚助实,形成对实体产业、现实社会的实际价值。
图:元宇宙陷阱金字塔&元宇宙价值漏斗
第二,虚拟偶像的“负面引导”风险。
虚拟偶像的行为会对粉丝产生诱导,尤其是未成年人。商汤AI数字医生小糖教导未成年人如何抗疫、防疫、养成卫生健康的生活习惯,作为虚拟偶像起到了正向带动的作用。但是也会存在虚拟偶像“负面引导”例子。例如,某平台上一位虚拟主播宣称半年消失了是被拐卖了,这个对粉丝群体产生了很大的影响。
第三,数字替身Avatar作恶的风险。
玩家在虚拟环境中的自我认知有可能诱导现实中的行为和意识转变,潜移默化地改变人们原本的道德认知标准和决策理性,激化人性中的丑恶面。换言之,数字替身在虚拟环境中可能激发人性恶的一面。
第四,虚拟环境诱导风险。
环境本身不仅具有跟踪功能,而且具有诱导功能,这将致使人与环境的关系发生逆转,即虚拟世界中的行为变成现实世界的行为。田丰认为,如何利用虚拟世界产生正面的环境影响而非负面的环境诱导,是目前亟待解决的问题。
第五,Deepfake欺骗风险。
Deepfake技术换脸近年来引发大量骗局。例如,诈骗分子伪造了方舟投资(Ark Invest)CEO凯瑟琳·伍德、以太坊联合创始人查尔斯·霍斯金森等多位币圈名人推荐BitVex的视频。因此,如何保证该技术不传播错误信息,而是形成正向大众教育和正能量的输出存在挑战。
第六,“中之人”的生存困境。
“中之人”指由真人驱动的数字人和虚拟偶像。在日本,数字人和虚拟主播存在巨大收入差距;在中国,虚拟主播的高营业收入也与其背后的中之人的薪资待遇不相匹配。相比于屏幕前的虚拟形象,背后中之人的生活状态应获得更多的关注。
第七,虚拟群体“网暴”风险。
元宇宙中存在大量沉浸式体验和信息冲击可能会放大“网暴”带来的负面影响,法不责众心态会从互联网蔓延到元宇宙,且存在引发更严重“网暴”的可能。因此,元宇宙中的公共监督和社会治理显得极为重要。
纵观东西方伦理发展历程,田丰认为东西方伦理虽然内容不同,但共同强调人与外物之间的关系。在此基础上,结合元宇宙所带来的产业价值、科研价值和社会价值,以及潜在风险,田丰提出平衡发展的元宇宙伦理观。
田丰解释,平衡发展的元宇宙伦理观包含三个主要方面:
第一,可持续发展。元宇宙一定要赋能实体产业。
第二,以人为本。元宇宙伦理更加注重增强人民的幸福感。
第三,技术可控。即确保元宇宙相关技术的安全。
此外,田丰在圆桌对话环节指出,元宇宙原住民(05-10后)与元宇宙移民(05前)由于生长经济大背景不同,决定了两者之间消费观、人生观和世界观的不同。他表示,相比于元宇宙移民,元宇宙原住民更多注重精神、爱好和户外消费上,他们焦虑与进取共存,同时对于中国文化更加自信。最后,田丰强调,自然交互应用的普及和新一代数字技术的培训,以及智能技术在边缘群体上的医疗护理,将会成为未来重点发展方向。