中国农业出版社出的《南海海洋生物科普丛书》,在序言里老老实实写了一句:书里绝大多数配图由 AI 绘图工具生成。这句坦白没换来理解,反倒成了导火索——有读者翻到第 13 册"斑节对虾",发现封面和内页里趴着一只长着两个脑袋的虾,就这么印在了科普读物上。
消息最先由购书者在社交平台曝光,南方都市报跟进核实。10 月 27 日,出版社向记者确认已知情,读者服务热线说正在通知全渠道下架并召回;它自己的微信小程序和旗舰店里,这套丛书已经搜不到了。
界面新闻 28 日引述知情人的说法,解释了错图是怎么来的:原图想表现斑节对虾蜕壳——虾长到一定阶段会脱掉旧壳,这是它生命周期的关键一环,书页下方也确实配了蜕壳的说明文字。问题出在 AI 没处理好"新旧壳相接"这个瞬间,把画面渲染成了两个脑袋。说白了,通用绘图模型并不真的理解虾的解剖结构,它只是按概率把像素拼成看起来像虾的样子。
出版社始终没就这番解释公开发声。读者不满的点很直接:科普书也敢让 AI 代笔,还出错;出版方隐含的意思是工具没用好。两边都不算全错,但问题的根子在别处——面向大众、尤其是给孩子看的科普内容,本该一张图一张图地核。
boxiyunAI的看法
- AI 画图用在出版物上不是原罪,问题出在"没人核"。序言写了"多为 AI 生成",等于把免责声明当成了质量背书,可读者看的是图对不对,不是图怎么来的。
- 凡是需要结构正确的图,AI 出的必须逐张人工过。生物形态、机械结构、解剖图、电路图、地图、化学式,这些领域模型没有"知道",只有"像"。它能画出很漂亮的虾,但不知道虾只有一颗头。
- 更值得记住的是信任成本。一本书在序言里承认自己用了 AI,读者就会拿放大镜看,一个错图能直接否掉整套书,连已经卖掉的那部分都要召回。省下的绘图费,远不够赔这一次。
- 我们自己也在用 AI 做内容,这条线得划清楚:装饰性、氛围性、抽象示意的图,AI 随便用;承载事实的图——数据、结构、流程、实物、证件——宁可去拍、去画、去截图,不要让模型猜。
- 还有一个容易被忽略的点:这类错误不是"AI 不行",是流程不行。缺的不是更强的模型,是发布前那一遍人工核对。工具越强,这一遍越不能省。
一只两个头的虾,让一套科普丛书全网下架召回。这件事的价值不在于嘲笑 AI 画错图,而在于它把一条底线摆到了明面上:生成式工具可以把效率提高很多倍,但"看起来对"和"真的对"是两件完全不同的事。凡是给别人当依据的内容——科普、教材、说明书、数据报告——最后那一道人工核对,省不得。谁省了,赔的就是信任。