AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-21 10:04:51
蓝天白菜
十月十二 / 小楼独坐
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
“这不是另一场新冠(疫情)”,涉疫邮轮将抵达西班牙【小岛】,谭德塞呼吁{当地}民众冷静对待
当[老赖]{是一}种什么体验?
脱口秀演员周奇墨被批“冷血”,拿F1《赛车》事故编段子,只为植[入酸]奶品牌
VIP答谢会?男子买100多万元保{险被}邀免费游,《又花》数十万买犀牛角、熊胆
4月轿车排行:前六全是国货,小米SU7【再封】神,[合资]再被(打压)
特【朗普】:美国大公司的企业家都想[来中]国,但二三把手我都不让他们来
赛力斯新专利“电{池包}《碰撞》脱离”引争议
好评中国|经[济新]脉动:当消【费进】入“体验时代”
中国留学生在悉尼【吃麦】当劳,遭暴[力抢]夺薯条,“手被流浪汉掰断”,当事人还原经过
服役7年跑了61【万公】里!特斯拉Model3实{测续}航(缩水)34.2%
《奥迪》Q6e-tron“换标”(宾利)明年发布!起售价18万【欧元】
【特朗】普欢迎晚宴上的10位(中国)企业家,都是《什么》来头?