身份镜像 / Human′
未来网络身份伦理反思
未来网络身份伦理反思
《身份镜像》是一个交互体验装置,旨在通过AI换脸和H5技术,用采集的观者数据生成观者在未来网络世界中的多个『身份』,并使这些独立『身份』在移动端与观者进行对话,以反思大量个人信息被数据化采集并复制之后带来的技术伦理问题。
由于2019新冠疫情的原因,清华大学美术学院毕业设计展以云端展览的形式代替了往年的线下展出。目前,《身份镜像》正在清华美院线上毕业展中进行展出,在展览中,观者能够以『Lancy』的身份感受实体装置的场景与核心交互。
🏆 2020年,作品受清华大学美术学院官方网站、公众号报道。同年,作品获北京设计周“月桂奖”入围,并于北京设计博览会特邀展展出。
🏆 2021年,作品于北京科技周分会场“科幻世”科技艺术概念展览展出。
🏆 2022年,作品获北京市工程实践与创新能力大赛特等奖。
随着身份识别技术的广泛应用,越来越多的生物特征信息正在被数据化采集,并在网络技术的支持下被高速地传输、储存、复制于云端和各种各样的设备当中。在人类数据化的基础上,网络和人工智能的技术的牵引又催生了“人工智人”的出现。如今,不论是用逝者生前书信和语音创造的聊天机器人“Dadbot”,还是由真人面部声音特征与AI生成的性格行为结合生成的人工智人Neon,都证明了人类增强正在从科幻走向现实;而在未来网络的语境下,随着AI、嵌入式芯片、脑机接口等革命性技术的成熟,人类的感知、计算与表达将被增强,人类将直接成为物联网的终端,甚至脱离肉体的禁锢,意识上传并永生于网络世界中。
未来网络技术在给人类创造福祉的同时也带来了潜在的身份伦理问题。哲学家斯拉沃热•齐泽克(Slavoj Žižek)在对《黑客帝国》的解构中提到,删除或改变我们的数字身份可能会把我们变成“非人”;MIT教授Sherry Turkle认为计算机不仅改变了我们做什么,也改变了我们对世界和我们自己的看法。在未来网络语境下,人们在享受网络身份带来的便利和“虚拟化身”提供的自由、快感与想象力补偿的同时,还可能面临身份追踪、身份盗窃的风险,与身份认同、身份分裂、身份迷失的伦理问题。
对此,我希望在我的毕设作品中对未来网络身份伦理问题展开思辨:当个人信息越来越多地被数据化采集并复制,甚至在未来网络世界中出现了独立的意识和行为,生成了你的“身份”镜像,你是否会对你的“身份”镜像产生身份认同?你对身份决定因素的认知会是名字、形象、基因还是意识、情感或思想?你是否可能面临存在感或存在价值的消解与重构?
面向这些问题,我提出了《身份镜像 / Human′》的交互装置概念,希望通过交互装置向观者呈现身份伦理问题,促使观者反思真实世界和虚拟世界中交织的身份与人格问题,并搜集观者对身份伦理问题的答复。
《身份镜像》和《Human′》分别为作品的中英文命名。《身份镜像》顾名思义;《Human′》中的角分符号“ ′ ”引用了其数学含义:“在数学中,x′ 通常用于表示与 x 相关或派生自 x 的事物(旋转、平移、反射等)”,Human′ 代表现实世界中的 Human 在未来网络世界中的“身份”镜像。通过AI换脸技术,观者将在装置中看到自己在未来网络世界中的“身份”镜像——“ 观者′ ”,这些镜像拥有观者的部分身份特征,又因为人工智能的存在而拥有独立的意识,甚至会通过观者的手机主动和观者进行对话。
作品的第一个设计关键点是“身份”镜像的基础形象设计,镜像需要拥有现场获取的观者的部分身份特征,也要从视觉上体现未来网络对观者的影响。于是我划定了三个关键词——“未来”、“网络”、“换脸”——来进行基础形象设计。在对人工智能Neon、空山基插画人物、《机械姬》主角艾娃等艺术作品中出现的未来机器人形象进行分析,并经过了从大量的设计实践与迭代之后,“身份”镜像的基础形象方案诞生了。
我设计了三种形象来体现未来网络对观者的影响。
形象一基于意识上传、肉体消失的未来想象,随着技术的发展,未来的人类能够在网络中存储自己的一切数据甚至意识,人类的生命不再依赖于肉体这一短暂载体,而在网络中永恒;
形象二基于人体联网、人类数据化的未来推测。植入式芯片和柔性屏的成熟能够让人类也成为万物互联的终端,人类器官的一切变化都将可视化于网络之中,皮肤也将直接成为交互的媒介;
形象三基于性征隐藏、性取向自由的未来愿景。当肉体不再是人类生存于世上的唯一载体,生育不再是人类繁衍的唯一方式,那么性征和性取向也不再受社会伦理观念的禁锢,真正达到自由。
作品的第二个设计关键点是“身份”镜像的对话设计。镜像能够通过引导性对话,启发观者对身份伦理问题进行思考,并搜集观者的讨论和反馈。引导性对话本身不包含任何主观态度倾向。对话分为镜像主动设问和观者主动探索两种情况,镜像主动设问的意图主要为启发观者思辨——思辨身份同一性、思辨身份决定因素、思辨人性;观者主动了解的意图主要为探索,通过对话界面,观者可以主动了解镜像、作者和作品,也可以主动与其他镜像创建群聊对话。
以镜像主动引导观者思辨身份同一性的意图为例。镜像会通过询问“你觉得我们是同一个人吗?”或“我是你吗?”来获得观者对身份同一性问题的答复。不论观者的答复倾向与肯定、否定或模糊,镜像都会通过追问来尝试动摇观者的固有印象:“我们明明拥有同样的眼睛,同样的头发。”“可是我们的性格完全不一样。”经过追问,观者因追问而产生的答复倾向变化会被后台记录,用控制变量的方式探索观者对身份决定因素的看法。
作品的软件实现分为数据库、输入、处理和输出4个部分。
在设计阶段,我通过三维建模、绑定动作、生成视频的步骤制作了“身份”镜像的视频数据库,以用于在展览现场与观者进行换脸。为了保证良好的实时换脸效果,尤其对于亚洲人群的换脸效果,我尝试了AI三维重建、Blender手动捏脸的办法建立了自己脸部模型,在此基础之上制作了“身份”镜像的基础形象。按照原先的计划,镜像的动作将通过动作捕捉技术来合成,然而由于疫情的原因,动作捕捉的计划无法实现,所以我在Mixamo平台上,从1000多种开源动作中挑选出了5种满足需求的动作来合成镜像的行为,最终渲染为视频素材。此外我还构建了镜像的对话语义模型数据库。
在数据输入部分,观者被识别的身份数据主要为人脸数据、身型数据和昵称数据,分别通过摄像头和微信扫码授权采集。人脸和身型数据由摄像头采集,用于换脸和调整镜像比例,昵称通过微信扫码授权采集,用于生成镜像的昵称。为了给后台数据处理预留出时间,在交互尚未开始之时数据采集已经开始,处于常开状态的摄像头会实时检测并搜集“镜面”装置5米之内所有观者的身体和正、侧面面部数据,以便于后台提前进行换脸预处理。
在数据处理和输出部分,观者的面部数据通过Face++ Detect API进行识别,并筛选出合适角度的面部数据用于换脸;身体数据通过Face++ Human Body Detect API进行识别,根据矩形框坐标判断每个观者的身高,以生成合适体型的镜像;昵称数据需要进行添加角分符号的简单文本处理。镜像的形象由Face++ Merge Face API生成,现场搜集的人脸数据将与视频素材进行人脸融合,最终通过Processing处理输出视频,由投影仪投射于装置之上;生成的形象数据和昵称数据会被传输至H5页面中,属于每个观者的对话会通过观者微信扫码的行为呈现在观者手机之中。
新冠疫情给实体装置的测试和展出带来了很大的影响,面对未知的疫情走向,我也曾像很多同学一样,一度陷入是否要换题的迷茫与纠结,感谢我的导师吴琼老师的指点和鼓励,在我每一次摇摆不定甚至即将放弃之时帮助我坚定决心,完成了最初的构想;也要感谢Seeeklab以及福州金池装饰对场地物料的建议与支持,让我能够在疫情稳定的5月初,就近用有限的材料搭建了《身份镜像》的初步原型,模拟测试了体验流程,并完成了影像素材的拍摄。
其实很久以前我就开始思考毕设要做什么了。想要做交互装置的初心一直没变,因为在看过一届又一届的毕设展览之后,我发现在线下观展场景中体验最好的还是交互装置。但我的内心一直对“什么是好的交互装置”存有疑惑,我不明白给Arduino套件插上电源、外包装个美丽外壳,但既没有应用价值又没有思想深度的日常课程作业到底好在哪儿呢。直到在大四上学期上了张黎老师的《设计社会学》,学习了思辨设计、批判性设计和对抗性设计,我才明确了我想要做的毕设是什么样:我希望它在用上最新科技的同时,能有好的视觉和好的体验,除此之外更重要的是能拥有设计思辨,能够拥有思想的深度。
我的毕设灵感的诞生来源于19年夏天AI换脸应用ZAO的出现,它在大火的同时也引起了社会大众对于数据泄露的讨论。ZAO的出现让我很快就诞生了一个毕设idea,我想利用人脸识别的交互带领观者反思大数据与人工智能时代的数据泄露伦理问题。从初步确定方向到概念打磨完成期间,吴琼老师、冼枫老师和师丹青老师给我提了很多建议,吴老师建议我在作品中加入“身体的复制”,冼老师给我科普了AI的善恶伦理问题,师老师向我抛出了“能否创建一个未来的你”的问题,它们都给我的毕设带来了很大的启发,忠心感谢老师们的启迪。也非常感谢关琰老师的关心和鼓励,付志勇老师、徐迎庆老师的批评,让我及时认清错误,并拥有愈挫愈勇的力量。
毕业设计创作的过程中,我遇到了很多难题和挫折,在困难面前,我获得了很多亲朋好友的帮助和支持,万分感谢。感谢田力、李艺斌、吴晓文对场地物料的建议与支持,感谢王龙意学长、朱宏权同学、肖文博同学在建模与渲染方面的建议与帮助,感谢杨国炜学长、崔磊学长和陈苏鸿同学在开发方面的建议和支持,感谢陈灵炜同学对视频素材拍摄与经费管理的帮助,感谢楼长向丹姐姐在疫情期间帮忙寄回宿舍里的设备,感谢张泊宁同学对视频处理的帮助,感谢沈习远同学和李亚婷学姐在设计过程中提供的启发和建议,感谢张丰婕学姐安利的兼职,让我拥有了更多的毕设经费,感谢父母、亲人、男朋友一家在疫情期间对我无私的关爱和无微不至的照顾,感谢车队队友陈苏鸿、魏金浩、汤兰彬、顾雨欣、陈少杰、王韵章、吴楚欣的陪伴。也要感谢所有在我低谷时期给予了安慰、鼓励与精神支持的朋友们。
疫情给毕设的落地带来了一些遗憾,但我并不认为毕设节点的结束就代表了设计的结束,毕设不只是过去所学的总结,更是开拓新未来的开始。期待作品真正展出的那天。