当我们刚开始接受人工智能（AI）能模仿人的声音、形象，生成栩栩如生的数字人，AI已经开始学习人的知识、经验甚至思维方式，逐步将人的认知能力转变为新的生产要素。
(资料图片)
日前，在由上海市科协与华东政法大学共同主办的“科创无界法治有度”主题沙龙上，一个名为“人格蒸馏”的开源项目引发与会专家的热议——当AI从复制人的外在特征，发展到学习人的认知能力，并对传统社会权利体系形成挑战，我们该如何守护“人”的社会权利边界？
“人格蒸馏”挑战传统权利体系
“人格蒸馏”是运用人工智能技术，将一个人的知识、思想和行为风格提炼成skill（技能包）的开源项目。
上海交通大学人工智能学院执行院长王延峰指出，当下的科技工作者正在面临一种前所未有的身份悖论：他们既是人工智能技术的创造者，也可能成为被技术“复制”甚至替代的对象。“美国一些顶尖的科技公司正在通过‘蒸馏’算法，拿科研人员所有的思考和工作文档来训练AI，再用训练好的AI逐步替代算法工程师。”
这种做法正让工作成果、专业知识与个人信息之间的界限变得日益模糊，王延峰由此提出了一连串问题：员工是否拥有对自身数字分身的控制权？企业能否以提升效率为由要求员工贡献经验数据？当个人知识、经验乃至人格特征都能够被数字化复刻时，原创价值如何认定？劳动者权益如何保障？AI生成的成果又该归属于谁？
“科创无界法治有度”主题沙龙现场
王延峰提出的一连串问题，引发了现场热议。在上海科技大学教育、创新和可持续发展研究中心主任杨燕青看来，引发这些问题的根源在于AI的能力已发生了根本变化。她说，今年以来，AI已呈现出从执行指令的工具，逐步向具备自主规划和持续优化能力的智能体演进的显著趋势——这意味着新的规则需求正在出现。
在杨燕青看来，现在，知识、经验乃至人格特征都开始成为人工智能训练的重要来源，“当人的认知能力逐渐成为新的生产要素，传统权利保护体系也面临新的挑战”。王延峰表示，在这种情况下，真正需要被保护的或许不仅是数据和算法本身，而是创造这些数据和算法的人。
AI越“聪明”，治理越要走到技术之前
当AI开始尝试生成高度拟真的数字人格，那么它会成为法律意义上的主体吗？华东政法大学教授王迁认为答案很明确——人工智能现在没有人格，将来也不应当被赋予人格。
在王迁看来，法律主体除了拥有权利，更要能承担责任，而AI并不具备这样的能力。“无论AI发展到什么程度，其本质仍然是工具。”这意味着，责任最终仍然需要由开发者、运营者或使用者承担。
王延峰认为，今天的法律、伦理与治理体系，很大程度上建立在人类能够理解并控制技术的前提之上，而当AI变得越来越“聪明”，这一前提正在受到前所未有的挑战。正如数字分身和人格蒸馏等AI技术的发展，使人格权、知识产权和劳动者权益保护体系面临新的挑战。“AI领域的竞争，已不仅是算法和算力的竞争，更是制度设计与治理能力的比拼，而且治理必须走在技术发展的前面。”他说。
为更好应对科技创新不断向法律和司法提出的新挑战，上海知识产权法院自去年9月起成立了多个专项合议庭，其中就包括人工智能大模型专项合议庭。该院知识产权综合审判一庭庭长凌崧认为，AI技术虽能模拟人格表征，但不应动摇人之为人的法律主体地位，也不能逾越法律划定的边界。
商汤科技如影数字人项目总监廖虎介绍，目前商汤正与行业伙伴共同探索可信数字人的建设路径，逐步形成“可授权、可控制、可追溯”的治理原则。与此同时，平台企业也开始针对AI的合理应用发出倡议并付诸行动。小红书公共事务总经理袁世东介绍，公司已于近期发布“小红书AI治理主张”。截至今年5月，小红书已累计处置18万篇涉嫌AI造假的笔记，并对超过120万个由AI托管的矩阵账号进行系统性治理。
