中大本科生反AI逆向项目走红：让黑客Token账单暴涨300倍

中山大学本科生团队开发的这个反AI逆向项目，核心思路是把传统安全防御中「防守方买单」的成本结构翻转过来。项目通过三步实现反制：第一步是投毒，在模型可被探测的输入路径中埋入诱导性内容，让攻击者的自动化探测工具误以为找到了有效入口；第二步是耗尽预算，利用攻击者反复调用、试探的行为特征，触发大量无效但计费的模型调用，使对方的Token消耗急剧上升；第三步是诱导误判，让攻击者的工具链在错误方向上持续投入，进一步放大其调用成本。最终效果是攻击者的Token账单暴涨300倍。 这一项目之所以值得关注，是因为它触及了AI应用安全领域一个长期被忽视的痛点：提示词注入、模型滥用等攻击的防御成本几乎全部由防守方承担，攻击者只需极低的调用成本就能反复试探。而该项目提供了一种「以攻代防」的低成本反制思路——不追求彻底阻断攻击，而是通过抬高攻击者的经济成本来改变其收益预期。对于中小型AI应用开发者而言，这种思路尤其具有参考价值，因为它不依赖昂贵的安全基础设施，而是利用模型调用本身的计费机制形成威慑。 当然，这种反制方式也有其适用边界：它更适用于按Token计费的API调用场景，对于本地部署或包月订阅的攻击者效果有限；同时，投毒和诱导策略需要精心设计，避免误伤正常用户。但无论如何，该项目表明AI安全防御正在从「被动拦截」向「主动成本施压」演进，为行业提供了一种可复用的思路。