自從ChatGPT橫空出世之後,AI大模型的命運齒輪開始轉動。乘著大模型“風火輪”,國內掀起了轟轟烈烈的“百模大戰”。
在大模型時代,沒有一家企業能夠置身事外。已經深耕AI領域近十年的百融雲創基于深度學習Transformer框架,結合NLP(自然語言處理)、智能語音等技術,打造出場景驅動的産業大模型――BR-LLMs。百融雲創自主構建了大模型預訓練、微調、推理工程優化、應用開發套件等一整套技術棧。
百融云创CEO张韶峰介绍,随着模型算法的不断优化,推理性能的持续增强,在大模型基座之上运行的Voice GPT已经可以实现低于 500 毫秒级的响应,这一反应速度基本接近真人,在业内几乎找不到竞争对手。
在大模型搭好台之後,接下來有沒有創新的應用成爲了國內外關注的焦點。
张韶峰表示,AI 2. 0 时代最 大的产业看点是在实现模型能力提升的同时,如何与应用进行有效衔接。“大模型企业竞争的核心是要有自己的特有场景,在场景里不断优化模型,并产生领域专属算法和数据。”
在张韶峰看来,尽管在把大模型推廣到千行百业的过程中,算力是极其重要的一环。但是对于行业大模型来说,需要警惕陷入“博算力”的误区。他表示,在算力成本的控制上,除了可以寻求国产替代,还可以依托行业Know How去解决若干工程问题。
“要寻求算力参数、用户意图与实时反馈之间的平衡。”张韶峰认为,在垂直场景中,模型之大并非万物,“提升模型的响应速度、适度压缩算力成本,反而可以求得推理能力最 优解,从而形成数据迭代、模型更新及用户响应的闭环飞轮。”
经过前期LLMs的军备竞赛,进入 2024 年之后,如何让AI赋能应用成为各界共识。但相比C端而言,AI应用在B端的推进速稛嵩相对偏慢。
针对上述问题,张韶峰表示,要区分市场来看,中外的AGI生态环境不同,海外企业天然具备为技术付费的基因,但中国企业此项意愿并不浓烈,更熱衷于为硬件付费、降本增效及收入分成。
以百融云创AI技术应用最为广泛的金融领域为例,张韶峰介绍称,百融云创主要做了两件事:第 一,识别用户风险,即通过决策式AI的机器学习算法帮机构做好KYC(know your customers)和KYP(know your products)。第二,创造增量价值,根据垂直行业特定业务流程和需求,提供融合决策式AI和生成式AI技术的一站式端到端解决方案,并实现资产运营成果转化。
上述“兩件事”構成了百融雲創MaaS(模型即服務)+BaaS(業務即服務)的業務服務內核,也是百融雲創實現模型+技術的價值閉環及與商業機構形成利益共同體的關鍵所在。
张韶峰介绍,百融云创Voice GPT每天通话可达 3000 万通,相比于人工客服而言降本效果显著,且对于客户意图的识别准确度可达人工 4 倍。通过Voice GPT可助力机构直接促成资产交易,完成其核心KPI,并按最终效果收费。
盡管中外AGI生態環境存在差異,但是隨著AI大模型技術演化,既往一個場景只能對應一種模型的固有定制思維正在打破,一項新的行業共識正在形成:適用于多個垂直行業的通用AI應用場景將進入舞台中央。
(推廣)