AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-18 20:03:35
风凌天下
月半貔貅 / 鼎定九天
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
榴莲{就酒}堪比头孢配酒?女《子榴》莲(就白)酒致呼吸衰竭,医生提醒
白宫{晚宴}枪手系酒店住客?曾捐款哈里斯25美元,被评“月度《最佳》教师”,FBI正搜家
刘(炜珊)官宣退出国乒!孙颖莎王艺迪多人【送祝】福名嘴:《只剩》何卓佳
外媒:中国“间谍船”跟[踪印]度“烈火-5”弹道导《弹试》射,核情报战持{续升}级
七连冠!国乒女{队逆}转日本队再夺《世乒》赛女团冠军
鲁疆协作找大矿!山东省地【矿局】28个[勘查]项目力争在新疆(实现)找矿新突破
总[书记]引领强国之路|把能源(饭碗)端得更牢
“洪(迪厄)斯”号《邮轮》疫情:发病者【增至】7人确诊增至2人
用了16年的学位证校方称从未授予,当事人自我举《报求》证真伪 (炒作)还【是确】有其事?
21岁双胞胎姐妹1死1重伤,凶手为妹{妹男}友,案发前数小时双方在派出所调解,家属起诉警方[失职];嫌犯作案当天发布动态:狠角色我只《扮演》一次
FIFA理事会正式官宣重(要决)定!事关2026年《美加》墨世界杯,引发热议
以官{员称}以方已[做好]重返战斗准(备正)待美“开绿灯”