加入星计划,您可以享受以下权益:

  • 创作内容快速变现
  • 行业影响力扩散
  • 作品版权保护
  • 300W+ 专业用户
  • 1.5W+ 优质创作者
  • 5000+ 长期合作伙伴
立即加入
  • 正文
  • 相关推荐
  • 电子产业图谱
申请入驻 产业图谱

商汤田丰:元宇宙伦理的七大风险防范

2022/08/03
1460
阅读需 8 分钟
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

作者:谢贝宁 商汤智能产业研究院助理研究员

  宫超  商汤智能产业研究院科技政策与伦理研究主任

编辑:张学睿 商汤智能产业研究院助理研究员

“面对元宇宙巨大的产业价值、科研价值和社会价值,以及潜在风险,我们更应该加快研究元宇宙伦理,构建立足当下、面向未来、有益人类发展的元宇宙伦理观。”2022年7月27日下午,商汤智能产业研究院院长田丰在“元宇宙伦理:平衡发展下的新时空”研讨会上如此讲到。

“元宇宙伦理:平衡发展下的新时空”研讨会由中国数字经济百人会、世界工程组织联合会创新技术专委会、亚洲科技促进可持续发展目标联盟、商汤科技和亚太经合组织中小企业信息化促进中心主办,日本元宇宙国际协会协办,来自中国、日本、新加坡的8位专家围绕元宇宙发展及伦理进行了主题发言与探讨,田丰以《元宇宙伦理:数字元生代的文化启蒙》为题发表主题演讲。

图:数字原住民和数字移民

田丰介绍,05后至10后的“α世代”是人工智能时代的数字原生代、数字原住民。70后、80后、90后的XYZ世代属于数字移民。数字移民群体认为从物理世界到数字世界存在数字鸿沟挑战,即个人的数字化转型,而数字原住民则天然认为只有一个虚实融合的元世界。

元宇宙中的消费、社交、学习和生活,对于α世代的世界观、价值观和人生观塑造很重要。反之,α世代对于元宇宙的发展也同样重要,因为数字原住民认知决定了元宇宙的未来。

田丰介绍,根据相关统计数据,63.6%的中国网民喜欢虚拟偶像,且越年轻的群体越喜欢虚拟偶像,但19-38岁的群体仍是虚拟偶像爱好者主要群体且具有自主消费能力,粉丝们的月平均收入在5000元以上的人占75%。

在元宇宙备受追捧的同时,田丰也提醒要注意防范元宇宙伦理面临的七大风险。

图:元宇宙可持续发展的伦理风险

第一,人类生产力陷阱风险。

元宇宙可能带来更泛化的脱实向虚:首先是娱乐时间陷阱,如果人类花费大量时间在虚拟世界娱乐上,而不是提升科研和生产能力,那将会是人类社会的倒退,不利于人类的生存与发展,尤其是对于老龄化和少子化人口结构的国家;其次是认知行为陷阱,在元宇宙中产生的错误行为会对现实世界造成反噬;最后是文化价值陷阱,在元宇宙中形成的错误价值观会反映到现实世界之中。

田丰认为,“元宇宙价值漏斗”可以帮助塑造正确的价值观,通过元宇宙的数字生产力、数字科研能力和数字治理能力,以虚助实,形成对实体产业、现实社会的实际价值。

图:元宇宙陷阱金字塔&元宇宙价值漏斗

第二,虚拟偶像的“负面引导”风险。

虚拟偶像的行为会对粉丝产生诱导,尤其是未成年人。商汤AI数字医生小糖教导未成年人如何抗疫、防疫、养成卫生健康的生活习惯,作为虚拟偶像起到了正向带动的作用。但是也会存在虚拟偶像“负面引导”例子。例如,某平台上一位虚拟主播宣称半年消失了是被拐卖了,这个对粉丝群体产生了很大的影响。

第三,数字替身Avatar作恶的风险。

玩家在虚拟环境中的自我认知有可能诱导现实中的行为和意识转变,潜移默化地改变人们原本的道德认知标准和决策理性,激化人性中的丑恶面。换言之,数字替身在虚拟环境中可能激发人性恶的一面。

第四,虚拟环境诱导风险。

环境本身不仅具有跟踪功能,而且具有诱导功能,这将致使人与环境的关系发生逆转,即虚拟世界中的行为变成现实世界的行为。田丰认为,如何利用虚拟世界产生正面的环境影响而非负面的环境诱导,是目前亟待解决的问题。

第五,Deepfake欺骗风险。

Deepfake技术换脸近年来引发大量骗局。例如,诈骗分子伪造了方舟投资(Ark Invest)CEO凯瑟琳·伍德、以太坊联合创始人查尔斯·霍斯金森等多位币圈名人推荐BitVex的视频。因此,如何保证该技术不传播错误信息,而是形成正向大众教育和正能量的输出存在挑战。

第六,“中之人”的生存困境。

“中之人”指由真人驱动的数字人和虚拟偶像。在日本,数字人和虚拟主播存在巨大收入差距;在中国,虚拟主播的高营业收入也与其背后的中之人的薪资待遇不相匹配。相比于屏幕前的虚拟形象,背后中之人的生活状态应获得更多的关注。

第七,虚拟群体“网暴”风险。

元宇宙中存在大量沉浸式体验和信息冲击可能会放大“网暴”带来的负面影响,法不责众心态会从互联网蔓延到元宇宙,且存在引发更严重“网暴”的可能。因此,元宇宙中的公共监督和社会治理显得极为重要。

纵观东西方伦理发展历程,田丰认为东西方伦理虽然内容不同,但共同强调人与外物之间的关系。在此基础上,结合元宇宙所带来的产业价值、科研价值和社会价值,以及潜在风险,田丰提出平衡发展的元宇宙伦理观。

田丰解释,平衡发展的元宇宙伦理观包含三个主要方面:

第一,可持续发展。元宇宙一定要赋能实体产业。

第二,以人为本。元宇宙伦理更加注重增强人民的幸福感。

第三,技术可控。即确保元宇宙相关技术的安全。

此外,田丰在圆桌对话环节指出,元宇宙原住民(05-10后)与元宇宙移民(05前)由于生长经济大背景不同,决定了两者之间消费观、人生观和世界观的不同。他表示,相比于元宇宙移民,元宇宙原住民更多注重精神、爱好和户外消费上,他们焦虑与进取共存,同时对于中国文化更加自信。最后,田丰强调,自然交互应用的普及和新一代数字技术的培训,以及智能技术在边缘群体上的医疗护理,将会成为未来重点发展方向。

商汤科技

商汤科技

商汤科技以“坚持原创,让 AI 引领人类进步”为使命,目前业务涵盖智慧商业、智慧城市、智慧生活、智能汽车四大板块。

商汤科技以“坚持原创,让 AI 引领人类进步”为使命,目前业务涵盖智慧商业、智慧城市、智慧生活、智能汽车四大板块。收起

查看更多

相关推荐

电子产业图谱

一切智能产业化,一切产业智能化.坚持原创,面向全球,推动AI,普惠未来.新技术带来新经济,新经济需要新治理.没有人是这个大时代的看客,都是参与者.商汤智能产业研究院,愿成为智能产业、智能经济、智能社会...