为了解AI大模型能给国产SaaS带来哪些改变，铅笔道联合知乎与容联云创始人兼CEO 孙昌勋、容联云AI研究院院长刘杰、容联云产品中心副总经理＆诸葛智能创始人孔淼三人做了深度交流。
孙昌勋对大模型给行业带来的机会很期待：“大模型将彻底改变SaaS服务，包括软件生产、服务流程、服务价格、合作方式等各个环节。未来SaaS行业的竞争，很可能会是大模型能力的竞争。”
本文来源铅笔道、知乎
独家发布于知乎“AIGC 入局者”栏目
01、大模型将重塑SaaS的服务流程
铅笔道：作为国内SaaS领域的头部企业，容联云感受到大模型技术对SaaS带来了哪些冲击？
孔淼：当大模型技术刚出来时，我的第一反应是完了，因为大模型第一个能力是AGI（通用人工智能）能力。
从桌面互联网到移动互联网，其实都是GUI编程（即图形用户界面，用户使用鼠标等输入设备操纵屏幕上的图标或菜单选项，以选择命令、调用文件、启动程序或执行其它一些日常任务）。在GUI架构下，很多理解性工作只能靠人完成。而AGI能力让机器有了理解人类自然语言、理解人类问题的能力，软件生成的逻辑就会从底层发生变化。原来是人类通过学习计算机语言，编写代码生成软件，而现在机器能够理解人类语言，软件生产就可以通过大模型实现流程自动化，从而减少人力成本。
SaaS本质上是通过软件提供服务，如果连软件生产都被大模型改变，其后的一系列服务流程也会改变。
铅笔道：AI助力Saas不是新话题，SaaS有哪些痛点是可以用大模型解决的？
孔淼：我们做to B企业服务讲究一个内外兼顾。内是提高办公效率，外是提升获客效率。但无论内外，其本质是一个开放场景。
上一波15年左右的AI公司，都是基于神经网络的任务型AI模型。任务型AI是封闭的，本质是不断靠训练师对模型进行微调，最终逼近预期结果。
但由于to B是开放场景，同样一项业务，客户可以换10种表达来咨询。同样一个to B服务产品，用户的操作路径也稀奇古怪。这意味着微调是无止境的，当要解决开放问题时，为了精确只能无限叠加产品，不断增加训练师，不但边际成本极高，而且服务效果也会打折扣。
而通过AI大模型，比如容联云推出的“赤兔大模型”，机器可以真正理解客户的开放问题，并匹配相应回答，而不用人工进行大量微调。
铅笔道：赤兔大模型开发后，大模型会在未来整个公司的业务中会居于核心地位，还是相对侧重辅助地位？
孙昌勋：未来AI大模型和SaaS的具体形态，我们很难预测，但很可能是“你中有我，我中有你”。我觉得当前不应该宽泛地去定义AI大模型，而更应该聚焦到行业，聚焦到客户需求。
现在大家对AI大模型还都在早期探索阶段，看似大模型技术会对每个行业、每个应用方向产生颠覆性变革，但是如何用好这个武器，还是要从客户的需求中来。
铅笔道：所以容联云还是更专注于开发行业垂直大模型？
孙昌勋：相比于大厂的通用模型，容联云更强调要专注到某一个行业。
大厂的通用模型，更多是在对标OpenAI，争夺未来的话语权。而对于SaaS服务厂商来说，目标还是服务好垂直行业。
比如在服务金融行业客户时，其对数据的安全性、准确性、可控性要求非常高。大模型有一个优势在于，能生成非常丰富的内容，而且很具有创意性。但是在准确性、内容匹配度，以及合规性要求上，存在较大风险。最明显的例子是大模型经常“幻想”和“答非所问”。要解决大模型的“幻想”问题，就需要用大量行业数据进行预训练，配合一些专门的算法。
相比涉及各领域的通用大模型，企业其实更需要专精于某一领域的行业大模型。对于SaaS厂商来说，也就意味着更现实的市场机会。
02、好的行业大模型：一满足需求，二成本可控
铅笔道：具体到赤兔大模型，作为行业垂直大模型，它最大的特点是什么？
刘杰：赤兔大模型最大的特色是采用多层次设计思路。
首先，容联云团队构建了通用模型架构，通过开源和公开数据让赤兔大模型获得基础能力；其次是依托容联云长期积累的金融、营销等领域数据构建领域模型，以解决特定行业的问题；在为业务和流程提供智能化服务时，基于业务数据和行业知识，赤兔大模型又能构建高质量的业务模型。
不同层次的模型会配置不同的参数规模，相应的成本和能力也会不同。在实际落地场景中，客户更多使用十亿级参数规模的模型来完成服务。
铅笔道：GPT-3都已经有1750亿参数，参数规模过小是否会导致模型训练效果打折？
刘杰：一个很有意思的现象是，我们发现GPT模型只要有十亿到百亿级的参数进行训练，它在语言的生成能力上就已经足够好，在参数规模超过百亿之后，对话质量的提升曲线反而接近平缓。
不可否认，更大规模的参数会给大模型更高的天花板，但在实际的to B应用场景下，十亿级到百亿级区间的大模型反而性价比更高，更适合客户进行私有化部署。
铅笔道：所以参数规模并不是越大越好？
孙昌勋：的确如此，其实相对来说堆参数规模反而更简单，但是SaaS服务的本质是算账。不论是软件还是服务，客户最看重的是投入产出比。
以智能客服领域为例，基于赤兔大模型，容联云生成式一体化智能客服平台，可以为客服人员提供文档智能问答/抽取、用户语料、金牌话术、流程类方案建议自动生成、销售话术自动提炼等服务。根据内部测算，容联云智能客服平台能将知识生产效率提升70%，对话构建成本下降80%，让客户服务效率翻倍。
行业大模型不是无限制地攀登技术高峰，而是在满足客户需求的前提下，尽可能节省成本。
铅笔道：随着大模型技术持续发展，行业大模型赛道也有越来越多企业正在涌入，容联云有哪些竞争壁垒？
孙昌勋：最主要是先发优势和提供行业解决方案的能力。
先发优势很好理解，作为云通讯领域老兵，容联云早在大模型火热之前，就在探索智能化道路。2017年，容联云发布了语音+文本机器人，并持续探索人工智能产品和解决方案的产业落地；2021年，容联云收购了客户关系管理软件服务商过河兵科技和数据智能服务商诸葛智能。
行业解决方案的能力，则是指容联云形成了“通讯+数据+智能”的综合技术能力。通讯相当于沟通的物理通道，各类数据在通讯过程中传递，容联云基于数据训练模型，进行智能化产品研发，最终能形成内部的技术闭环。
特别是在金融领域，由于各块业务、系统间数据不互通，往往需要SaaS厂商提供成型的解决方案。
03、做垂直大模型要找离钱近的行业
铅笔道：所以尽管提到了很多大模型赋能SaaS的想法，但实际上赤兔大模型，还是选择扎根金融领域。
孙昌勋：对，在选择赤兔大模型的应用场景时，我们优先考虑的还是匹配客户需求以及商业化空间。
首先，容联云从2013年到现在，在金融行业积累了十年，服务了超过上万个客户。
针对不同客户群，容联云专门提供客服和营销服务的软件产品，在服务过程中积累了大量行业数据，对客户需求的把握也更加精准。作为行业大模型初入局者，容联云希望将大模型应用的立足点放在自身优势行业。
同时，金融机构的业务链条虽然复杂，但数据严谨、数字一体化管理系统成型，行业壁垒较高，与大模型结合的几率更高。另外，金融行业有强需求且有较强付费能力，有助于持续开展产品研发与优化。
铅笔道：银行、证券等金融行业的数据很难获得，容联云是如何获得的？
刘杰：我们获取金融行业的数据来源分为几个方面。
一是公开的数据源，构成赤兔大模型的基础数据库。
二是在以往操作项目过程中，从研发、执行、产品应用到与客户的沟通过程，容联云沉淀了大量行业数据，这些构成了赤兔大模型的私有数据库。
三是与客户的共创，当前容联云已经挑选了数家标杆性客户进行联合共创，每家客户都专门派了团队，和客户一起做大模型之下的行业应用、产品迭代和更新。
容联云在股份制银行、城商行、农商行、证券保险等泛金融行业，都有客户资源，覆盖面广。因此在未来，我们在客户共创方面有着天然的优势。
铅笔道：现阶段金融客户与容联云共创大模型的热情如何？
孙昌勋：目前不少头部金融客户正在与我们接洽。
自从上个月赤兔大模型刚推出，不少金融行业的头部客户就主动与容联云寻求合作，目前我们与一些核心客户群一起提出了“泛服务”的概念。
容联云为企业提供一体化工作空间——对外可以应用于客户的服务营销场景，对内可覆盖内部员工的各类服务、运营流程。同时我们也会融合大模型的能力，在通用大模型基础上，还会整合产业垂直领域以及企业私有场景的数据，来训练专有大模型，前期会有一些应用，而当算力越来越强，算力单位成本越来越低的时候，还会持续打造更多泛服务场景下的应用。
而且金融行业很特殊，头部带动效应尤为明显。根据以往的经验，金融行业超过50%的中腰部客户，都会跟随头部厂商改变。
通常来说，头部厂商注重的是模式，中小厂商看重的则是产品。只要头部厂商率先将范式打好，中小厂商就能以此为参照，迅速判断产品的适用性与价值，并决定是否有采买的必要。
铅笔道：所谓的“泛服务”有哪些实际应用案例？
孙昌勋：前面提到，企业可以借助赤兔大模型，对内实现降本增效，对外打通客户一体化需求。
举例来说，在以往，为了给客户提供更加全面的服务，金融机构需要在线上线下都设置专门服务人员，而一旦信息流通不及时或渠道不畅通，客户就会重复获取相关信息，影响沟通效率和整体体验。但如今赤兔大模型可以打通数据信息系统，优化人员成本和客户体验，既保证体验，同时降低成本。
另外再举一个例子，大家都有打电话咨询，从AI客服转到人工客服，问题需要重复多次的经历。在金融行业，不少机构也会存在这个问题，导致重要信息割裂，间接造成客户流失。如今借助赤兔大模型，可以生成一套金牌话术，帮助企业避免此类问题的发生，提高交易成交率。
当然客户的敏感业务，比如交易类业务；或对用户体验要求极高的，例如投诉类业务，都对模型服务提出了更高要求，要把每个场景做得更完整，还需要更长的周期。
