人工智能正在快速走进银行的核心业务，从写报告、做分析到放贷款、搞营销，大模型的身影无处不在。

但能力越强，风险也越不容忽视，它可能“胡说八道”，也可能被恶意攻击，甚至因“黑箱”决策让银行和客户都措手不及。

6月18日，中国农业银行董事长谷澍在2026陆家嘴论坛上表示，从大模型运行机理来看，模型风险是一种客观存在，“我们需要做的是如何既发挥其作用，又认识到其局限性，不追求风险的绝对消除，而是要建立与风险共生的治理体系。”

“除了模型黑箱、模型幻觉，模型自主思考与决策带来的不确定性也难以控制。”‌谷澍‌具体分析称，随着大模型能力的不断进化，系统已能够自主思考与决策，这放大了过程不可控、结果不可知的风险。

他结合农业银行的实践，就如何防范大模型应用风险提出几点建议：

首先是不同场景，不同管法，给大模型“分级定规”。‌谷澍‌称，对于信贷决策等强监管场景，采用模型蒸馏技术，让大模型在数据合成、归因分析和决策式模型生成等方面提供助力；对于投研分析等高认知场景，强化思维链（CoT）设计，构建清晰的“思考推理”轨迹，增强决策过程的透明度；对于产品营销等创意类场景，可充分激活模型的随机性来激发创新活力。

为了防止大模型“信口开河”，‌谷澍‌提到，设定一定的标尺约束控制模型幻觉，同时强化人机互补的约束机制。

“比如，我们应用AI赋能信贷调查报告智能生成，通过建立业务标尺、模型互检、模型反思、业务数据校准等方式，对模型生成的内容进行自动校验。但信贷方案、用信条件等关键内容审核要由人力主导，确保结果可控。”‌谷澍‌称。

风险应对方面，‌谷澍‌提到了以AI对抗AI的防御思路，包括部署专门的安全监测模型、建立全链路可信验证与准入机制、强化数据隐私保护，通过提示词注入防御、多租户会话隔离、输出内容拦截等措施，防范模型推理过程中的敏感数据泄露。

具体到银行内部AI治理体系，既要划清红线，也要留足试验田。

‌谷澍‌认为，一方面要健全“权责明晰与风险包容并重”的银行内部AI治理体系，确保AI既用得好、又管得好。另一方面，要明确责任边界，留足创新空间，建立分层的容错机制，防止未经充分验证的AI能力直接面客。