AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-20 11:41:14
黯然销魂
大雪崩 / 吃地瓜变法师
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
《孙杨》回应“妈【宝男】”标签:谁见过事业这么成功的妈宝男
天津一女高中生被男同学偷拍私密视{频并}传播致遭[霸凌](抑郁)?家长称警方已行政立案,校方回应
广西[一公]交车与另一车{发生}事故后坠桥,伤亡情况暂不明
MCN离职员工称盲人主播赛道已经很饱和,(公司)招[募盲]人主播女【孩优】先
长城汽车《出征》2026中国(环塔)【国际】拉力赛
李想:理【想全】新5C增程系统将解决长《假充》电“一桩难求”难题
《充电》像加油一样快!{特斯}拉(多全)品牌开放1400+站点:15分钟可补能250公里
《特朗》普带来17位CEO,给AI【牛市】再添{一把}火
舟《山小》李【买了】107箱茅台,全(是假)的!
联《合利》华:受中东战事影响,公司成本上涨,决【定上】调产品价格
足协杯:朱骏率队晋级,与[海港]迎同城德比!【点球】大战,亚泰出局
拖了35年(才上)映,[首日]仅393万,我感慨:《票房》之王也救不了港片