白鹿 ai换脸 OpenAI语音转委派具Whisper被曝要紧过失：诬捏生成大段伪善实质

IT之家 10 月 28 日音问白鹿 ai换脸，当地时分 27 日，据好意思联社报说念，跨越十位软件工程师、成立东说念主员和学术磋磨东说念主员称，OpenAI 的语音转写用具 Whisper 存在一个要紧过失：偶而会诬捏生成大段以致整句伪善实质。

这些内行指出，这些生成的文本（IT之家注：业内平日称为“AI 幻觉”）可能波及种族言论、暴力措辞，以致杜撰的医疗提倡。

内行们合计白鹿 ai换脸，这一问题尤其令东说念主担忧，因为 Whisper 已被平淡期骗于全球多个行业，包括用于翻译和转录访谈实质、生成常见粉碎科技文本及制作视频字幕。

更具风险的是，尽管 OpenAI 已教导不应在“高风险边界”使用该用具，但一些医疗机构仍在急促采用基于 Whisper 的用具来纪录大夫与患者的推敲纪录。

报说念称，磋磨东说念主员和工程师在责任中往往遭逢 Whisper 的“幻觉”表象，问题的合座范畴尚不澄澈。举例，密歇根大学一位磋磨员在磋磨各人会议时发现，在尝试纠正模子前，他所查验的十份音频转录中，八份含有虚构实质。

一位机器学习工程师走漏，在当先分析的跨越 100 小时 Whisper 转录中，他发现能够一半的实质存在“幻觉”表象。一位成立东说念主员进一步指出，在他用 Whisper 生成的 26000 份转录中，险些每一份齐带有虚构实质。

即等于音质细腻的简陋音频样本，也未能避免于这些问题。贪图机科学家们的最新磋磨标明，他们审查的 13000 多段澄澈音频片断中，有 187 段出现了“幻觉”表象。

磋磨东说念主员合计，这一趋势意味着，在数百万条灌音中将可能出现层见迭出的无理转录。

OpenAI 的发言东说念主暗示，该公司捏续磋磨何如减少幻觉白鹿 ai换脸，况且感谢磋磨者的发现，将会在模子更新中禁受反映。