中关村科金CTO李智伟:我们还处于+AI的时代

2024-11-27

中关村科金CTO李智伟.webp.png


AI大模型赋能企业转型的浪潮中,作为技术创新的前沿阵地,中关村科金今年升级了“得助智能”全系产品,重磅推出了“多模数据增强的新一代智能交互产品体系”。在应用中,电销大模型、公安反诈大模型、医保大模型、企业知识大模型等多款领域大模型应用开始为企业及政府机构赋能。


企业被AI赋能的同时,人们会担心被AI替代人工。那么AI到底是打工人的好助手还是竞争对手?中关村科金CTO李智伟博士,为我们深度剖析大模型在To B赛道的最新应用与未来趋势。


问:大模型在 To B 赛道目前的应用效果已经达到什么样的程度了?


李智伟:


根据早前的实践经验,我们认为大模型最先被应用的可能是一些通用的模型能力,并在细分场景中取得一些成果。但随着实践的深入,我们发现其实细分场景的模型训练变得极为重要,尤其是在 To B 赛道。在非常专业的细分场景中,如果使用通用模型,其效果通常只能达到60-70分,然而实际业务需求往往需要80-90分的效果,所以针对每个细分的领域场景都需要进行一定的模型训练和知识注入。


从技术角度而言,场景划分得越细分,业务效果自然会越好。但实际上还需要兼顾实施难度和成本。倘若每个细分场景都进行监督微调,成本是相当高的。


当一项新技术出现时,大企业由于具备较强的资金实力,也拥有强大的研发力量,所以能够很容易地采纳这些新技术。但对于中小企业来说,在技术发展的初期,落地的成本过高,则性价比未必理想。


中关村科金公司开发的大模型工具链平台,通过无代码、可视化的方式,简化了大模型从训练到上线到优化的全过程,大大降低了实施难度和成本,使得企业能够更加高效、低成本地利用大模型技术,实现业务的优化和提升。这些进展表明,通过合理的策略和技术应用,即使是中小企业也能够克服成本和性价比的挑战,充分利用大模型技术带来的机遇。


问:公司的大模型解决了实际工作中的哪些问题?


李智伟:


中关村科金的大模型技术在实际应用中解决了多项问题。以某金融机构营销外呼场景应用电销大模型的项目为例,传统的营销外呼需要依赖大量的人工坐席,耗费巨大的人力资源。随着智能外呼技术的发展,许多金融机构开始尝试用智能机器人替代人工进行电话外呼和客户回访。然而,这些早期的智能机器人大多基于小模型,它们在处理简单询问时表现尚可,但在进行持续性对话和复杂问题解答时能力有限,导致与客户的沟通效果瓶颈明显。


引入大模型技术后,情况有了明显改观。大模型在营销外呼中展现出更高的智能水平,特别是在问答准确率和多轮对话能力上。在实际应用中,相较于传统的机器人外呼,大模型与客户的沟通轮次提升了83%,平均通话时长增加了50%,显著提升了客户体验。客户更愿意与能够提供流畅对话和有效解决问题的大模型进行互动。该金融机构单日最大外呼量1200万通,其中80%以上是由大模型完成的,剩余部分由人工坐席承担。这不仅极大提升了工作效率,也优化了资源配置。


然而,我们也意识到智能外呼并不能完全取代人工服务,特别是对于那些有更广泛诉求的高净值客户,人工介入和个性化服务仍然是必需的。在这个过程中,大模型起到了智能筛选的作用,识别出需要深度服务的高净值客户,而这部分客户的服务则由人工完成。这种人机协同的模式不仅提升了服务效率,也促进了人工坐席的专业能力提升。面对大模型的挑战,人工坐席开始加强学习,提升服务质量,以防被智能化替代,形成了一种技术与人工相互促进提升的良性循环。


尽管长尾和重复性的需求正逐渐被智能化技术所替代,但我认为人工服务在未来仍将有其不可替代的价值。人的存在和个性化服务为商业交易增添了不可量化的价值,如果所有服务场景都被机器人取代,那种独特的购物和交流体验可能会消失。因此,人工智能和人工服务的结合,将是未来发展的最佳路径。


问:你是如何看待大模型不能替代掉人的什么部分?


李智伟:


我认为在智慧决策方面难以取代人类。智慧决策是人类自主意识的核心,大模型若取代了这一部分,可能会影响人类的根本特质。


此外,尽管大模型在情感理解方面,精细化和拟人化处理能力有所进步,能够模拟更加细腻的情感反应,但人类情感的深度和复杂性是机器难以完全捕捉的。因此,大模型技术在情感赛道上虽有潜力,但不能完全替代人类的同理心和情感共鸣。


问:大模型还是会出现答非所问的情况。中关村科金研发的大模型应用是服务企业客户的,如何处理幻觉问题?


李智伟:


大模型在不同应用场景中对幻觉的容忍度是有差异的。在金融服务领域,模型输出的内容必须严格遵守监管规定,避免过度承诺或提供错误信息。因此,中关村科金在大模型应用中设置了严格的”围栏”,以确保其在规定的边界内运行。


首先是知识增强训练。在大模型的初始训练阶段,通过知识增强训练注入金融行业的正确知识体系,确保模型从一开始就建立在正确的行业知识基础之上。


其次是引入防幻觉技术。在训练过程中引入防幻觉技术,明确告知模型哪些内容是禁忌的,哪些是违反规定的,从而将规则性知识嵌入模型中。


最后是建立敏感词库。我们的团队对行业性知识体系进行梳理,建立敏感词库,对经常出现的幻觉错误和违规问题进行外挂式屏蔽。一旦模型生成的内容触发了敏感词库,相关内容就会被自动筛选掉,从而最大程度地减少幻觉现象的发生。



问:随着大模型推动人工智能技术的快速发展,我们是否已经迈入了AI+时代,还是说我们仍然处于+AI的阶段?


李智伟:


目前,尽管大模型技术为中关村科金的产品基础架构带来了显著的升级和革新,我依然认为我们当然处在+AI的时代。大模型被视为一种技术性的增强,它为企业的服务提供了额外的智能化优势,但并非彻底改变服务方式和服务本质。


To B领域,我们的客户拥有非常成熟且丰富的IT资产。在向他们推荐新技术时,不能期望他们为了新技术而彻底更换现有的基础设施,这样做的成本和代价是巨大的。相反,科技公司应该更好地利用客户原先积累的数据、数据治理成果以及IT系统的原子化能力。中关村科金的目标是将大模型的能力嵌入到客户的IT核心中,与现有系统协同工作,共同发挥最大的价值。


AI+时代则代表着一个全新时代的跃迁,对企业而言,这意味着需要进行根本性的重构。这不仅是一项挑战,也对现有资产的再利用提出了难题。当前,大模型的到来并不意味着所有企业都需要因此而重新开始,而是应该在现有基础上,逐步融合和利用大模型技术,以实现平稳过渡和持续创新。




分享
写评论...