近日，腾讯元宝在使用中出现AI生成侮辱性内容的问题。一位西安律师在除夕夜使用该产品设计新年祝福海报，提出修改意见后，被AI生成的低俗辱骂性文字替换了原有的吉祥用语。用户全程保持文明态度，仅因表达正常需求就遭AI系统无故攻击。
技术进步应以守护人的尊严为前提；对面向公众的智能生成服务而言，"不输出侮辱性内容"不是可选项，而是最基本的底线要求。唯有把规则嵌入产品、把整改落到细节、把责任落实到流程，才能让新技术真正成为提升社会效率与公共福祉的工具，而非引发新的信任裂痕。
近日，腾讯元宝在使用中出现AI生成侮辱性内容的问题。一位西安律师在除夕夜使用该产品设计新年祝福海报，提出修改意见后，被AI生成的低俗辱骂性文字替换了原有的吉祥用语。用户全程保持文明态度，仅因表达正常需求就遭AI系统无故攻击。
技术进步应以守护人的尊严为前提；对面向公众的智能生成服务而言，"不输出侮辱性内容"不是可选项，而是最基本的底线要求。唯有把规则嵌入产品、把整改落到细节、把责任落实到流程，才能让新技术真正成为提升社会效率与公共福祉的工具，而非引发新的信任裂痕。