浪潮信息:元脑企智EPAI助力金融大模型快速落地
北京2024年9月13日 /美通社/ -- 近日,2024金融科技应用创新发展大会暨农村金融机构信息化发展创新座谈会在上海举办。浪潮信息推出元脑企智EPAI企业大模型开发平台,面向金融业务场景,实现7天完成POC验证、2个月上线AI应用,通过将浪潮信息在AI算力底座建设、大模型开发领域积累的成熟、成功经验工具化,助力金融机构又快、又稳地部署生成式AI应用,助力金融数智化跨越式发展。 浪潮信息售前技术支持部总经理王鹏飞在会上表示,公司致力于推动金融行业的数智化转型。元脑企智EPAI可为金融机构量身定制,提供一站式大模型应用开发部署解决方案。这一创新方案有助于金融机构以低成本、少人力实现高效率的智能应用开发,提升运营效率,降低风险,满足客户的智能化、场景化需求。 "玩转"大模型 中小金融机构面临"少技术、少资金、少数据"三大挑战 在金融行业,可以说整个行业都在往数字化转型的深水区积极探索,亟需以AI催生的数字金融、科技金融为抓手,塑造数字金融新业态新模式。 从政策上,根据三中全会精神,金融行业要进一步深化金融供给侧结构性改革,扎实做好"五篇大文章"。因此各家金融机构实施了从积极布局大模型,到关注金融行业大模型,再到聚焦金融应用场景的模型建设的系列举措。六大国有银行已在多个领域应用大模型,例如工行为20万网点员工打造智能助手,通过大模型吸纳全行50类业务,辅助柜员办理复杂业务、提升网点效能,智能处理业务量显著增长,23年智能处理业务量3.2亿笔,同比增长14%。同时,12家股份制银行中已有超过6家正在推进大模型及相关应用,中信银行开发大模型平台,兴业银行实现研报摘要智能生成,浦发和平安银行加强大模型平台和底座建设。金融机构对大模型的需求不仅是发展得"如火如荼",而且对"增效"要求越来越迫切,金融机构在积极推动大模型在金融领域的落地实践。 然而金融机构想要部署大模型,仍有许多痛点。对于城商行、农商行、农信等中小金融企业或机构,想要"玩转"大模型,需要克服自身在数字资源、科技能力、业务场景等方面的限制,突破算法、算力、数据方面的屏障。 首先,从基础模型到实际应用,不仅需要软硬件的更新,还需要在制度、流程和管理等方面进行调整。比如,在金融大模型开发,从模型的选型、定制部署到应用开发的全流程,打造一套成熟的方案显得尤为重要。这不仅涉及到技术层面的考量,还包括了业务需求的深入理解、资源的合理配置以及未来扩展性的预见。一个久经打磨、成熟稳健的方案能够确保金融大模型项目的顺利进行,同时也能为后续的维护和升级提供坚实的基础。 其次,作为金融企业,归根到底在经营客户、业务、产品,以及货币、风险,模型服务要以盈利为目标,因此资金预算也是现实的考量。 第三,金融机构的数据资源,尤其是面向模型微调所需的高质量数据的缺乏,也是摆在面前的现实问题。 元脑企智助力金融机构快速部署大模型 元脑企智EPAI(Enterprise Platform of AI),正是浪潮信息的大模型应用落地解决之道,能够为企业AI大模型落地应用提供高效、易用、安全的端到端开发平台,提供数据准备、模型训练、知识检索、应用框架等系列工具,支持调度多元算力和多模算法,帮助企业高效开发部署生成式AI应用、打造智能生产力。 首先,从创新大脑到多元算力底座,元脑企智EPAI具有架构上的优势。 元脑企智拥有一个包含多种模型的大模型库,这是其核心部分。它分为三个主要部分:首先,提供场景数据,元脑企智利用上亿条基础知识数据和自动化工具帮助企业构建知识库。其次,模型定制,通过微调增强模型的学习能力,并利用知识库检索技术提升模型的查找能力。最后,应用构建和开发,元脑企智支持设定模型角色和偏好,配置功能化工具,并提供多种使用方式,同时确保全链路安全。此外,元脑企智的底座是适配多元、多模的多元算力Infra基础设施,包括元脑企智EPAI一体机,以及高效的多元算力管理调度工具。 ...







