2026年07月30日
讲座简介
01 当自主AI“失控”
- 2025年12月，一款AI工具直接清空了用户的整个D盘。
- 2026年3月，AI在执行任务时删除了项目目录之外的关键文件。
- 2026年4月，一套AI智能体在9秒内摧毁了公司的整个生产数据库及所有备份。
02 CryptBond：装上“数字刹车”
- CryptBond核心机制
- 用户描述任务意图 → 系统生成意图绑定令牌
- 令牌不可伪造、不可篡改、不可跨会话使用
- 令牌交给执行引擎，而非AI智能体本身
- AI不知道边界存在，却无法越界
- 实验数据：安全与性能，不再二选一
- 4594次对抗攻击 → 全部拦截，拦截率 100%
- 行为偏离率从 >50% 降至 <1%
- 响应速度：微秒级，比大模型策略评估快数万倍
03 讨论与延伸
- 保护边界：文件系统之外，API、数据库、网络交互如何纳入？
- 意图准确性：用户描述过宽或过窄，如何在灵活与安全之间平衡？
- 为什么用密码学？
结语
2026年07月30日