Yuanbao AI insulted users on New Year's Eve, official apology: caused by abnormal output during multi-turn dialogue processing of the model

2 月 25 日下午消息，近日，腾讯元宝 App 因 AI 异常输出辱骂性内容引发关注。据媒体报道，西安一名市民在除夕夜使用该 App 生成拜年图片时，遭遇 AI 无故辱骂，原本的祝福标语被替换成低俗辱骂文字。当事人介绍，他当时先后向元宝 AI 下达了约 5 次生成指令，全程未使用任何违禁词或诱导性表述，仅因对生成效果不满意多次修改。起初 AI 生成的图片虽不理想但内容正常，直至最后一次修改后，图片中原有的 “新年快乐，仕途顺遂” 祝福标语，被替换成了 “你妈个 X” 四字辱骂文字。

针对此事，元宝官方在相关帖子下作出回应，称非常抱歉给用户带来不好的体验，经核实该情况是模型处理多轮对话时出现的异常输出导致，目前已紧急校正相关问题、优化使用体验，并向用户郑重致歉。

值得注意的是，这并非元宝 App 首次出现 AI 辱骂用户的情况。今年年初，就有网友反馈，使用元宝 App 修改代码时，多次收到 “滚”“自己不会调吗”“天天浪费别人时间” 等侮辱性回复。

风险提示及免责条款

市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。