AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-22 05:29:30
剑君白
夏枯草来回飞 / 独眼河马
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
健(身的)人越多,Keep{越急}
中国公(民在)瑞典旅{行期}间被警方拘押,中使馆紧急【提醒】
“我们绝不向朋友《的船》开火” 伊朗【驻华】大使表态
实锤!55岁[资本]大佬陆宏达涉嫌刑事《犯罪》,被羁押在深圳某【看守】所
【整整】五年了!怀念两位《巨星》
英超欧冠形势:维拉【锁定】{资格}!3队争最后1席,利物浦盼曼城+曼联帮忙
68岁蔡《琴宣》布告[别歌]坛:世上所有的事“{没有}永远的”,歌迷震惊
{皮包}骨、筷子腿、走(路打)晃,这5位瘦脱相的明星,被“骨[感美]”坑惨了
青海[三只]被{救护}雪豹“组团”做体检
张本智和[曾在]世乒赛输球后爆哭豪言夺{冠复}仇日媒:进化中的(怪物)
广州7岁男童无法走路说话,被当脑瘫治疗多年,父母翻病历发现[其出]生时颅骨骨折疑在医院摔伤,医《院否》认,一文梳理关键时间线
大理8岁自闭症男孩走失身亡后续:家属准《备继》【续追】责,“以重大责任事故罪申请报案,公安已受理,7日内回复是否立案”