今天,上海交大一名学生用 AI 伪造收据、私吞竞赛奖金的事情冲上了微博热搜。
事情是这样的,上海交大一名学生和同学组队参加全国“AI+能源”大学生科技创新竞赛并获奖,赛后却在奖金分配上出了问题。
奖金 5000 元到账了,但涉事学生一开始称奖金未发,后来又说只有 2000 元,还提供了一张假的银行收据。右下角标注“豆包 AI 生成”。

图源:网络
事后学校通报,这名学生存在伪造收款记录、瞒骗奖金金额等不诚信行为,给出的处理是:严重警告处分、调整出入党积极分子队伍、终止相关培养计划资格、取消校内转专业拟录取资格。
这事当然首先是诚信问题,学校已经按规处理,后续该赔付赔付、该处分处分。
网上AI生成的假图片、假视频满天飞,已经可以用很低成本地生成图片、收据、截图、聊天记录。再比如有买家用 AI 伪造商品问题图申请仅退款。

图源:央视新闻
本来AI生成假图片没什么好说的,但是这几件事都和钱有点关系,关于交易。
银行收据、转账截图、发票这些图都是出现在交易链条里的,银行、支付宝、微信支付这些信任系统里,大家都会默认不会造假。
但是现在都轻轻松松低成本造假了。如果右下角没有豆包AI生成的标注呢。
当然现在也有很多鉴别AI生成的工具,比如今天国家反诈中心 App 上线了“AI 内容鉴定”功能,支持上传图片、视频、音频或文本,用来检测 AI 生成痕迹。腾讯朱雀AI也有类似功能,结果太不靠谱。。用AI鉴别AI,还是慎重。

我不是想说技术问题,前有政策,下有对策,技术永远解决不完技术问题。这件事最该引起重视的是,这些电子凭证太日常了,如果AI生图开始进去支付流水、银行记录、订单号、平台后台截图这些交易链条里,辨别的成本真的更高了。
大家也尽量抹掉“默认是真”的基础,不要相信有图有真相。越是有法律效力的文件越要慎重,比如合同、收据、证明、发票。

