AI画六根手指问题被量化AI数错手指的原因
扩散概率模型（diffusion probability models，DPMs）在图像生成任务上取得了卓越的成就，但它们仍频繁产生与现实世界知识相悖的“幻觉样本”（hallucinations），例如生成有六根手指的手掌或者漂浮在空中的多余物体 。
尽管这类问题普遍存在，社区却一直缺乏系统性量化这些事实性错误的方法，这阻碍了下一代高可信度生成模型的研发进程。
为填补这一空白，来自阿德莱德大学、美团和上海交通大学的研究团队，首次对扩散模型中的一类特殊幻觉——“计数幻觉” （counting hallucination）进行了系统性的研究 。
