 今年1月3日，腾讯元宝官方账号在相关帖子下致歉称：“非常抱歉给您带来了不好的体验，我们根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。”腾讯元宝表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误。元宝也启动了内部排查和优化，会尽量避免类似情况再次发生。“感谢大家的反馈与提醒，再次向您致歉！”而据公开报道显示，除元宝AI外，国内外多款AI聊天服务也曾出现在正常对话过程中突现异常回复的现象。 “AI迅猛的发展，带来的不仅仅是方便，同时可能也会伴随侵权的发生。”对于自身的遭遇，向先生认为，AI首先应当是保护人类的，这个主题无论AI如何发展都应是铁律。虽然AI不具有民事主体资格，但AI的开发商、运营商是具备民事主体资格的，且使用AI的用户是具有民事权利能力的活生生的人，其生命权、健康权、人格权等是受《民法典》及诸多法律保护的，这应当引起法律的重视和社会的思考。 律师说法：构成对人格尊严的直接侵害 华商报《法治周刊》专家库成员、陕西丰瑞律师事务所高级合伙人朱长江律师认为，AI骂人是一种因服务缺陷导致的即时性精神损害，AI生成辱骂性内容，不能简单类比为人与人之间的口角，而应将其界定为网络服务提供者因其提供的产品（服务）存在缺陷，而对用户造成的即时性、非物理性的人格权侵害。 首先，从侵害客体来看，这直接侵犯了用户的多重人格权。根据《民法典》第九百九十条，人格权是民事主体享有的生命权、身体权、健康权、姓名权、肖像权、名誉权、荣誉权、隐私权等权利。在本案中，AI将“你妈个X”这种带有强烈侮辱性、贬损性的词汇，与向先生的肖像结合生成图片。这一行为侵害了向先生的名誉权，虽然该图片尚未公开传播，但其生成行为本身是对用户个人尊严的一种直接侮辱；侵害了向先生的肖像权，《民法典》第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。向先生授权平台处理其肖像，目的是为了生成“拜年图片”，这是一个善意的、具有节日喜庆色彩的目的。AI在图片中加入侮辱性文字，使得肖像的呈现方式彻底违背了权利人的初衷，构成了对肖像的“污损”；侵害了向先生的人格尊严，《民法典》第一百零九条明确指出，自然人的人身自由、人格尊严受法律保护，人格尊严是人格权的核心，AI无故辱骂用户，是对用户作为“人”的基本尊重的践踏，构成了对人格尊严的直接侵害。 其次，从行为性质来看，这是一种因服务瑕疵导致的侵权，用户向AI发出指令，是一种接受服务的消费行为，AI的输出是服务的结果，当服务结果中包含了侮辱性内容，即可认定该服务存在质量瑕疵，这种瑕疵直接导致了用户的精神损害，虽然这种损害可能未达到《民法典》第一千一百八十三条所要求的“严重精神损害”才能主张赔偿的程度，但它明确构成了精神上的不利益，平台至少应承担停止侵害（修复漏洞）、赔礼道歉、消除影响（澄清原因）的责任。 不能以“小概率”掩盖管理的缺失 朱长江认为，腾讯元宝官方曾以“小概率下的模型异常输出”作为回应，试图说明这是偶发的技术失误。但在法律层面，这一解释并不能当然地免除其法律责任。 首先，网络服务提供者的安全保障义务是法定的。其次，“小概率”不能等同于“不可抗力”或“无过错”。平台方以“小概率”为由抗辩，试图说明这是技术不可控的偶然。然而，法律上的过错认定，看的是是否尽到了合理的注意义务。如果这种“小概率”事件是行业通病（如报道所述国内外AI均出现过类似情况），那么平台作为专业服务提供者，应当预见到这种风险，并采取更严格的预防措施，如建立更强大的内容生成前置过滤机制，对高危词汇进行拦截；在模型训练阶段，进行充分的对抗性训练，减少“越狱”或“异常输出”的可能；建立快速的用户投诉响应机制，一旦发生问题，立即核查、反馈并修复。 从本次事件来看，向先生在除夕夜遭遇侵权后，立即通过“意见反馈”投诉，但截至2月23日仍未收到任何回应，这种怠于响应的态度，进一步加重了平台方的过错。更何况，如果这已经不是第一次出现“骂人”情况，那就说明这是一个系统性的、可预见的漏洞，平台未能及时排查修复，其过错责任便无可推卸。根据《生成式人工智能服务管理暂行办法》第九条规定，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全监管义务。对于发现的生成内容违法或不当的，应当采取停止生成、停止传输、消除等处置措施，并进行模型优化训练。 |
