AI“复活”的质量取决于数据量。 目前的“数字人”只是浅薄的、表面的数字图像。 尽管它们在模拟外观和声音方面取得了成功，但无法复制个体的情感和思维模式。 他仍然面临着巨大的挑战，离一个具有逻辑智能的真人还很远。从这个意义上说，“数字永生”是一个伪命题
人工智能“复活”的本质是与现实生活的一种相互排斥的竞争关系。 所谓的“数字永生”会与现实世界争夺有限的资源，也可能削弱我们的情感。
AI“复活”等短期利益只会暂时迷惑人心。 有一天我们仍然要面临选择，动态更新的关于死者的数据也会与某种逻辑联系起来，从而产生新的认知问题和遗忘问题
文字| 《望》新闻周刊记者 于雪 刘浩宇
只需一张照片和一段录音，死者就可以在数字世界中“永垂不朽”。 一段时间以来，曾经存在于科幻电影和小说中的情节——利用人工智能“复活”死者，似乎正在一些人的身边成为现实。
台湾音乐人包小白利用AI技术“复活”已故女儿，商汤科技已故创始人汤晓鸥的数字人“现身”公司年会上，网友纷纷“复活”李玟的死亡，张国荣、高以翔、乔任梁等名人……AI“复活”技术一时间备受关注。
由于乔任梁的父亲表示“无法接受、不舒服”，李敏的母亲和家人认为这给他“带来了巨大的心理影响和二次伤害”，并询问AI“复活”技术是否会被滥用以及是否会侵犯数据隐私等个人权利的讨论成为舆论焦点。
人们注意到，AI“复活”技术已成为各大电商、社交平台上的新业务。 它们通常被包装在温暖的外套中，利用名人来吸引目标顾客。 专业的代理商用专业的言语与客户沟通，然后专业的技术人员制作视频。 产业链初步形成，费用从百元到数万元不等。
尤其值得警惕的是，快速发展的生成式人工智能技术在很多方面已经超越了固有概念，正逐渐呈现出社会生活可能被彻底重置的局面。 在此背景下，AI“复活”技术为满足人们精神情感需求提供了新的载体，但也引发争议：死者能否利用AI技术实现“数字永生”？ “复活”背后隐藏着哪些风险？ 虚拟世界和现实世界的规则和秩序将如何碰撞？ 对于行业发展和社会进步意味着什么？ 尤其是现在新技术层出不穷，我们该如何面对新技术遇到的伦理挑战？
观众在安徽合肥举行的第五届世界声学博览会上了解“个性化3D虚拟人构建”产品（2022年11月17日摄） 张端/本报摄
AI“复活”技术的边界在哪里？
多位受访专家提出，AI“复活”是深度合成技术的应用场景。 AI“复活”技术目前尚不成熟，效果参差不齐。 短时间内大量企业进入游戏，规则不明确的情况下存在很多法律风险和安全风险。
《互联网信息服务深度合成管理规定》要求，提供人脸、语音等生物特征信息编辑功能的深度合成服务提供者和技术支持者，应当提示深度合成服务使用者依法通知被编辑个人，并取得单独的信息编辑资格。同意。
《民法典》规定，死者的姓名、肖像、名誉、荣誉、隐私、遗骸等受到侵害的，其配偶、子女、父母有权请求行为人依照《中华人民共和国民事诉讼法》的规定承担民事责任。法律。
这意味着如果被编辑者已经死亡，则应获得近亲属的同意。 这是现行法规中难以逾越的红线和底线。
“虽然已故明星是公众人物，但未经其近亲属同意‘复活’无疑是侵权行为，其近亲属可以依法追究肇事者的法律责任。” 中国互联网协会法律事务委员会副秘书长胡刚解释。
对于一些普通民众“复活”亲人的行为，浙江省公共政策研究所研究员高延东表示，应该从私域和公域两个方面来讨论。 在私人领域“复活”近亲不存在法律问题。 在公共网络空间，他人的“复活”需要得到死者近亲的同意。 如果死者生前与其个人信息做出了协议或安排，则其个人信息不能用于“重生”数字人。
在高延东看来，法律应采取“不分私用、严控公用”的思路，不干预人工智能在私营领域的“复活”。 只需要限制其使用，比如利用隐形水印等技术对“生成内容”进行“标记”，防止“复活”视频被用于诈骗等非法目的。 一旦进入公共网络空间，法律应从源头上防控其可能带来的隐私泄露、诈骗犯罪等风险，技术开发者和平台也应承担相应责任。
在具体操作层面，由于AI需要处理大量的个人敏感数据，如面部表情、语调等，目前还不知道个人信息、聊天记录等“数字遗产”是否以及如何处理。死者的财产可以继承。 明确法律规定。 谁有权使用、如何避免不当获取、使用时应遵循哪些规定等仍需进一步明确。
“我们不能让人工智能‘复活’成为一门没有规则、没有底线的‘生意’。我们尤其要保护可能对新技术普遍不敏感的中老年用户群体。” 中国法学会消费者权益保护法研究会副秘书长陈银江表示。
另据了解，虽然我国针对人工智能技术的治理出台了相应的法律法规，但由于互联网技术的快速衍生，在责任界定、隐私保护、流通盈利等方面仍存在问题。 AI“复活”等新技术应用。 空白的。 随着技术不断迭代升级，治理的最大困难在于技术发展的快速性和风险的不确定性。 未来还需要进一步规范和完善。
胡刚建议，新兴技术立法规范应遵循“快修、常修”的原则，尽快划定技术发展的红线和底线。 始终要求技术发展不能突破国家安全、社会公共利益和公共秩序良俗的底线，并根据技术发展阶段频频修订，让监管跟上技术发展的步伐。发展。
“数字永生”能否实现？
业内人士表示，AI“复活”技术根据所能达到的技术水平，规划分为数字孪生、数字原生和“数字永生”三个阶段。
数字孪生阶段的技术重点是精确复制角色的外观。 人工智能通过分析和处理个人照片、视频和其他视觉材料生成数字图像； 数字原生阶段重点关注特征提取、模型训练和角色声音生成。 这时，数字人开始具备一些“内在”的特征，比如声音； 而在“数字永生”阶段，它力求看起来和听起来像人类，其行为和思维也可以被人类高度模拟，达到类似于“永生”的状态。
中国社会科学院哲学研究所科学技术哲学研究室主任段伟文表示，人工智能“复活”的质量取决于数据量。 目前能够实现的“数字人”还只是一个浅薄的、表面的数字图像，虽然在模拟外观和声音方面已经取得了成功，但在复制个体情感和思维模式方面仍然面临着巨大的挑战，这还远远不够。来自具有逻辑智慧的真实人物。
中国人民大学哲学学院教授刘永谋认为，“数字永生”是一个伪命题。 他认为，人类大脑活动是宇宙中最大的谜团，“复制大脑”在技术上是不可能实现的。 目前所谓的“数字克隆”的原理，只是通过分析互联网和各种数字设备上记录的人的行为轨迹，生成能够在一定程度上模仿目标主体“数字人格”的数字模型。 事实上，它无法与真人相比。 身份证对应。
刘永谋提醒我们警惕基于“人工智能泛灵论”背景下的夸大人工智能宣传。 他解释说，目前有人故意夸大人工智能技术的可能性，利用人们对未知事物的恐惧来达到炒作的目的，以便在新一轮技术革命中各种关键技术的竞争中获得更多资源。 人工智能必须被消灭。 科技的神奇外衣让它回归本来面目，真正为人类服务。
在段伟文看来，当前人工智能的发展已经进入完全数据驱动的阶段。 通过对目标主体的各种数据进行精确分析，可以在一定程度上看到其行为、人格特征、价值取向等人格特征，甚至可以进行分析。 不同时空的人格流动，但这种分析是基于统计意义上的平均计算，只能粗略地勾画出目标主体的相对特征，无法模拟其在复杂情境下的自由意志，更谈不上人的主动性。
同时，我们也必须看到，人工智能技术正在重塑我们的生存空间和思维方式。 它创造了一种适应现实世界的新方式。 不能简单地以真假来判断，而应该更多地关注它带来的多重后果。 可能会推动我们重新定义和理解生命的本质。
尤其是在当前科技快速发展的背景下，我们的数据管理水平还处于起步阶段。 我们要尽快提升数据治理能力和水平，加快构建具有国际竞争力的数据治理体系。
北京师范大学哲学学院教授田海平认为，目前的技术方案主要是通过人类的反馈来训练和迭代人工智能系统，尚无法实现人类对规则的动态把握和自我颠覆。复杂的情况。 未来，人工智能系统“与人类共同行动”已是大势所趋。 这一“阶段和模式”的打造，必然需要提前制定具体的“机器人章程”，建立人工智能系统与人类的绑定关系。 ，让AI技术符合人类社会规律，不让AI产品逃脱人类问责体系。
从更广阔的背景观察，随着人工智能技术的跨越式发展，人类与“类人生物”之间的问题不断涌现，迫使我们质疑自己，审视和反思人类现有的规则体系，并更好地从长远的角度寻求人机合作的多种可能性。
高延东建议，要兼顾AI“复活”技术的发展和安全。 一是严格准入门槛，完善事前审批制度，严格控制使用。 二是建立数字人保存和销毁机制，防止数字人成为失控的“数字幽灵”。
徐军摄/本刊
技术如何与思想“保持一致”
AI“复活”技术的发展和应用，让个体身份变得更加复杂——当已故亲人以数字形式“复活”时，是否意味着他们真的“回来”了？ 这种“复活”是有助于缅怀死者，还是破坏对死者的尊重和怀念？ 很多问题正在挑战我们对“人”的传统理解。
上海交通大学马克思主义学院数字未来与价值研究中心教授严红秀表示，数字技术使人们的记忆和思维技术化。 在数字空间中，人类的记忆在一定程度上被提升到了超越时空的永久状态。 其次是超大容量数据存储的问题。
刘永谋表示，数字时代记住一个人并不难，而这种记忆注定与财富、权力等社会资源密切相关，从而呈现分层特征。 “也就是说，谁有能力购买更大的存储空间，谁就可能拥有更加真实的数字记忆，甚至在某种程度上接近‘永生’。随之而来的伦理问题，让人们不得不关注‘复活’的目的。”以及可能的影响。”
在刘永谋看来，这种“复活”的本质是与现实生活的一种相互排斥的竞争关系。 所谓的“数字永生”会与现实世界争夺有限的资源，也可能削弱我们的情感。 “遗忘本身也是人生的一道风景，过度沉迷于虚幻的数字世界，不利于我们在现实世界中寻求可能的安慰，体验生活的充实。” 刘永谋说道。
复旦大学科技伦理与人类未来研究院教授杨庆峰表示，人工智能“复活”技术让逝者再次被铭记。 这是一种想象力的投射和记忆的建构。 它可以让人再次唤醒沉睡的记忆，同时也会在形成新记忆取代旧记忆的过程中造成新的伤害。
严红秀认为，需要问的是，即使是出于善意的情感需要，生者是否有权复活已故亲人？ “复活”的数字人触动了传统的生活观念。 当时空成为数字化的魔幻现实，思念还有意义吗？ “这些短暂的礼物只是暂时迷惑灵魂。有一天我们仍然要面临选择，而动态更新的关于死者的数据也会与某种逻辑联系起来，从而产生新的认知困扰和遗忘问题。”
“95后”受访者小程表示，他从情感上无法接受用人工智能“复活”亲人的尝试。 “技术工具的冰冷无法创造情感上的温暖。虽然AI的‘复活’提供了一种新的记忆方式，但无论幻觉多么美丽，它仍然是一个梦想，珍惜眼前的东西就变成了现实。有时看到对事物、对人的思考只需要一张照片或一条信息，声音甚至可以是一片树叶，而刻意制造的似是而非的现实往往带来的痛苦多于美丽。”小程说。
忘记和放手从来都不是一件容易的事。 高延东表示，我们应该看到AI“复活”技术对于情感治愈的积极意义，以及它可能带来的负面影响。 过度依赖技术可能会削弱个人应对挑战的弹性，并导致社交和情感空间的异化。
段伟文表示，我们处在一个体验型社会，个体的情感价值被无限放大，拥有实现的可能性。 任何新技术都必须经历“魔法-技术-信仰-美学”的四个循环。 如今，人工智能已经从魔法走向实用技术，这必然会冲击现实与现实、生与死的固有界限。 他建议监管部门应在高风险技术应用领域建立伦理审查机制，确保数据隐私和安全，防范可能出现的伦理风险。
他特别提到，在地缘政治风险上升的背景下，人工智能技术在不同国家和地区将呈现完全不同的发展轨迹。 随着人与机器更加深度的纠缠和交互，我们必须以AI技术作为未来世界对接的重要支点，在越来越多的应用领域探索人机协作的新模式。
一个容易被忽视的悖论是，遗忘恰恰是渴望的必要条件。 如果没有遗忘，就没有渴望。 有些人一生都在与过去告别，但却忘记了，如果不抓住每一个现在，这些转瞬即逝的瞬间也将成为过去。
人类自诞生之日起，就一直在追求永生。 对永生的渴望就像追求自由和爱的本能。 它既令人陶醉，又必然带来痛苦。 所有美丽的事物都具有这样的二元性。 如果有机会让那些最珍贵的记忆成为外在存在，甚至成为智慧体本身，是否会改变原有的社会关系？ 换句话说，我想念的还是“他”吗？
从这个意义上说，思考是必要的，结论是开放的。 当记忆的世界以外在的形式向我们敞开时，我们最终会在认知的不断更新中找到内在的自洽。 ■
