■见证
用AI科技方式做情感疗愈者
尽管有越来越多人希望通过AI技术还原亲人的形象,但真正购买或使用过这项业务的还是少数。张裕强算了算,今年3月1日至今,600多位咨询者中,复刻成功的客户只有12位,“有的是对这种新兴的悼念方式摇摆、犹豫,更多的是受限于素材不足,没有办法为他们达到想要的‘复活’效果”。
面对这种情况,湖南一家AI工作室创始人禾柏选择用创建回忆录的方式,为逝去的人和生者搭建起情感的链接。
“我们是去年7月成立的小团队,主要通过手绘、访谈、电子AI形象等方式来为逝者制作人生纪录片,相比起单独构建一个并不算‘完美’的AI形象对话,这样能够让生者更好地重温与亲人相处的时光,并在这个过程中释怀,走向前方。”禾柏提供的“人生回忆录”有不同的主线选择——有专门展示被回忆人过去写的信件、日记,也有展现跟被回忆人相处的快乐的家庭欢聚时刻。但更多的人还是会选择按照时间线,“一步一脚印”地复刻出逝者的生平。“而这需要引导他们慢慢回忆。”最长的一单,禾柏花了一个月。最终呈现出来的效果,也更容易被人接受。
一次,一名委托人找到禾柏,希望能将自己孩子的故事通过电子AI形象重新呈现出来。“男孩7岁时不幸溺水身亡了,尽管后来委托人夫妇又生了一个孩子,丈夫和婆婆也一直劝这位妈妈忘记这段过去,但她一直在悲痛中煎熬着,几乎每天做梦都能梦到孩子。”
于是,禾柏向这位妈妈收集了男孩和家人的大量照片和资料,用AI技术复原了妈妈的梦境与孩子的形象。视频里,男孩化身勇敢而坚定的“黑珍珠号”水手,向家人分享着自己的“冒险”故事。禾柏还特意在最后安排了男孩和弟弟说话的情节,告诉弟弟要好好长大,保护妈妈。“在这里,AI数字复活的意义在于陪伴,疗愈人们在失去最爱后饱受折磨的内心。”
“经历过数字人的‘陪伴’后,大部分人都会清醒、向前看。”禾柏说,今年春节,有一位委托人要求用AI还原自己刚过世一年的母亲唱歌的样子。“她母亲热爱唱歌,每年都会在家族群里发一首歌庆祝新年。”当禾柏将成果视频发送给委托人后三天,对方回复了一段话:“唱得没有我妈妈好,但我能再听到她的声音,已经满足了……”
■争议
技术带来的问题,留给法律去弥合
“目前用AI‘复活’亲人的技术确实存在着不少争议,比如有人会质疑说会不会带来二次伤害?是不是有法律风险?”禾柏告诉今日女报/凤网记者,自己最开始也担忧过这个问题。“但从收到的反馈来看,大部分都是积极的,也会对我们表示感谢。”
“按照目前我所了解的AI水平来说,这项技术并没有大家认为的那么可怕,用肉眼是能够判断出究竟是真人还是AI的。”张裕强也表示,在确定接单前,自己会对对方提供的素材进行筛选,也会对目的进行把关,确保对方是真的想与亲人见面,而不是利用这项技术做坏事。“如果生前描述不具体、家庭信息对不上、声音素材显得不那么亲近的话,我们会主动拒绝。在底层代码方面我们也进行了设置,不去融合一些知名人物的形象。”
“每个人来咨询我,我都会做出详细的说明,告诉他们AI技术并不能达到以假乱真的效果。”朱志强说,当得到这样的回复时,大部分咨询者就放弃了,但也有坚持不懈想要“复活”亲人的。为此,他特意将自己用AI技术复刻形象的操作流程录屏,并搜集了一些制作工具,打包成一个资料包,售卖给有需要的人自己操作。
为了防止对方利用AI技术做不法行为,朱志强还在资料包内限制了次数以及素材的使用。“对于很多人来说,利用AI技术做出一段亲人形象的视频并不难,只是操作过程比较繁琐,如果真心想要‘复活亲人’,可以自己尝试。”
根据2023年7月颁布的《生成式人工智能服务管理暂行办法》,在生成式人工智能技术研发过程中进行数据标注的,提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则。
“但仍有很多相关AI‘复活’产品并未标注产品由A I制作,许多消费者也不了解相关规定。”作为从业者,张裕强也希望未来能有更清晰的法律、更明确的监督管理。“既保证技术的创新,也要保障人类的价值和尊严。”
(为保护隐私,文中委托者皆为化名)
■声音
技术能弥补遗憾,也要守住底线
王勇(中南大学自动化学院人工智能系教授)
如果能够获得逝者近亲属的同意,尤其是在那些生前留下的资料过少,或年代久远的情况下,用AI技术复刻逝去亲人形象,也许能够在一定程度上弥补死者近亲属内心的遗憾。
如果仅仅是满足个人的思念,没有用于商业甚至犯罪目的,就无需过度焦虑。然而,新技术的应用确实可能产生很多新问题。
首先是要充分尊重逝者本人的生前的意愿,也要充分考虑配偶、父母、子女等近亲属的合法正当利益和感受,即逝者及其近亲属利益优先。因为“复活”后的影像通常并非逝者在生前真实从事过的活动,公开传播可能导致引发隐私、名誉等其他侵害,甚至还有传播虚假信息的可能。以此博取“流量”的,也构成商业化使用,存在一定的侵权风险。
其次,基于人工智能技术构建的所谓的“数字人”其实只是真实人的浅层数字映像,并不能看作是真实人类的复刻,如果长期沉迷于与“数字逝者”的交互,也会对亲属心理产生非常负面的影响,这也是我们在开发和应用这项技术时就应思考的伦理道德问题。
目前,除了实现“复活”亲人、老照片复原等功能外,利用AI技术制作的虚拟数字人技术已在影视娱乐、直播电商等更多领域广泛使用。但无论技术如何发展,都应当以不牺牲公民的基本权利为前提,服务于人和社会。
针对数据隐私、伦理争议等问题,需要通过数据管理、立法、行业自律等方式化解风险。一方面,在算法设计、训练数据管理、模型生成和优化、提供服务等过程中,要采取必要措施保障数据安全。另一方面,应不断完善相关法律法规和制度,对技术产品的应用进行动态跟踪,保障知识产权、人格权益等不被侵犯。相关的行业领域也要保持自律,守住法律和道德底线。
■湘妹子评论
利用AI技术复活亲人:“数字生命”不能模糊生死边界
文/许梦萍 (西南科技大学)
在科技发展的今天,人工智能技术已经取得了巨大的进步。其中一项重要的应用就是通过模拟人类的思维和行为来创建虚拟人物或“数字生命”。“AI复活”就是依赖于AI技术,再现已故者的形象、声音和言谈举止,它也被称为“数字陪伴”或“AI数字永生”。
电影《寻梦环游记》中曾有这样一句台词:“爱可以超越生死,生命可以因为记忆而永恒。”死亡并不代表着生命的结束,被遗忘才是。
“AI复活”是对逝者的怀念,也是唤醒生者对以往记忆的一种方式。可能随着时间的流逝,逝者的音容笑貌会变得模糊,永恒的数字生命却以另一种方式保留在生者的记忆里。从这个角度来看,“AI复活”对于失去至亲的人来说极具意义。
科技是一把双刃剑,在带来积极意义的同时,它的弊端也不容小觑。制作AI数字生命是生者对死亡和分离痛苦的一种慰藉,“AI复活”的出现弥合了生与死的鸿沟,但其并不能模糊生死边界,它背后所带来的伦理问题和科技隐患仍亟待解决。
比如“AI复活”可能会带来现实的“失真”,让人过沉溺于虚拟的环境中而无法面对现实。除此之外,“AI复活”产生的数据所有权又归谁所有?生者是否有权去“复活”已故者的数据?这些问题涉及到许多伦理和现实问题,包括生死界限、自主性以及对机器人的道德责任等。
随着人工智能技术的发展,我们很可能会面临这样的情况:我们需要重新定义什么是生命,以及如何对待那些可能看起来像是生命的非生物体。需要注意的是,即使数字生命拥有高度的学习能力和自我意识,也不能改变其本质上是一个由代码控制的人造物的事实。我们不能否定“AI复活”对失去亲人的人带来的巨大心理慰藉,但对于这项处在探索期的新技术仍需要抱有审慎的态度。
总而言之,“AI复活”赋予了逝者永恒的数字生命,依托这项技术,让失去至亲的人重新见到自己的亲人,对于逝者来说是一种生命的延续,对于生者来说是一种情感与精神的寄托,但我们不能就此模糊生与死的边界,沉溺在虚拟的世界中。