本演讲主要探讨了大模型在金融知识和作业密集场景中的挑战与实践，包括近期发展、应用场景、面临挑战及解决措施，以及大模型应用效益闭环和AI文化建设成果。大模型在金融领域的应用为提升业务效率和客户体验提供了新的途径，但也面临一些挑战，需要不断优化和完善。

1. 大模型近期发展介绍

能力树与发展方向：大模型具备多种能力，如Summarization、QA、Translation等，近期发展方向包括模型效果提升、多模态模型发展、上下文长度增加、性能优化、语音接入、调用价格调整等。

国外AI巨头发布：OpenAI、Claude、Google、Meta等公司发布了新的模型或功能，如search-gpt、claude 3、gemini 1.5 pro等。

2. 在金融知识和作业密集场景的挑战和实践

知识密集型应用 - ChatBI

功能与场景：ChatBI是基于聊天界面的商业智能系统，具备自然语言处理、机器学习、数据分析与可视化等功能，可应用于客户服务、内部沟通、决策支持、生产监控、预测性维护、个性化营销等场景。

问题与优化：存在数据相关问题（如库表信息缺失、SQL复杂）、性能瓶颈（GPT服务性能问题）、敏感信息“泄露”和花费较高等问题，后续将优化数据/数仓基础信息、缓存瓶颈查询、分类处理敏感信息、优化模型选型等。

作业密集型应用 - 智能客服Agent

功能与优势：为呼叫中心座席人员提供个性化辅导和实时协助，包括流程导航、话术推荐、标签提醒、情绪识别、知识库等功能，优势有自动化程度高、提升关键绩效指标、降低欺诈风险等。

提效成果与技术**：在智能会话摘要、工单分类、SOP流程导航等方面有显著提效成果，主要涉及Prompt Engineering、SFT、RAG、Rerank、Retrieval等技术提升大模型性能。

3. 大模型应用效益闭环

AI文化培养：包括管理层战略对齐、开展各类AI活动与培训、利用虚拟数字人宣传、建设GPTLab和智能体中心等。

效益闭环成果：大模型赋能数据处理，提升模型准确度和策略效果，优化业务标签定义，提升人工标注准确率，发现运营问题并反推业务优化。

免责声明：我们尊重知识产权、数据隐私，只做内容的收集、整理及分享，报告内容来源于网络,报告版权归原撰写发布机构所有，通过公开合法渠道获得，如涉及侵权，请及时联系我们删除，如对报告内容存疑，请与撰写、发布机构联系