导读本文将共享文心大模子在构建贸易智能助手中的探索与实践，重心申诉其在爱企查中提高贸易收益和用户体验的应用。文中将先容利用大模子代码生成智力，和学问图谱，优化数据库查询效用，并通过加入表结构和样例数据提高代码生成准确率，还将先容怎么利用图形可视化进一步提高数据分析效用。

主要包括以下五大部分：

1. 贸易信息查询先容

2. 文心大模子构建贸易智能助手的几种模式

3. 文心大模子赋能贸易智能助手进阶

4. 贸易智能助手的翌日预测

5. 问答方法

共享嘉宾｜叶汇龙 百度研究院 资深工程师

剪辑整理｜王红雨

内容校对｜李瑶

出品社区｜DataFun

01

贸易信息查询先容

率先来先容一下贸易信息查询的应用场景。

销售展业：快速获取主义企业的有用接洽方式，加快业务激动。

本钱限制：通过了解供应商的本钱结构和心绪底价，应用博弈战略优化采购价钱，扫尾本钱爽朗。

奢华决策：“作事闭店东说念主”泛滥，如安在办理多样奢华卡时幸免踩雷。

投资答理：怎么聘任股票，幸免被“割韭菜”。

以上场景中，有些是当代贸易决策的要害，有些则与咱们个东说念主糊口息息关联。要贬责这些问题，决策之一等于去查询这些企业的信息，其投资相关、供应链相关，这等于贸易信息查询。

贸易信息查询是一个职场多边手，不祥助力咱们的一些要紧决策。

大部分贸易信息查询干事，如天眼查、企查查、爱企查等，主要通过整合来自公开渠说念、第三方平台和官方记载的海量数据，为用户提供全面、精确的信息干事。这些平台辘集包括企业注册信息、财务数据、法律诉讼、行业动态等多元信息，将其家具化，以欢腾不同用户需求。

干事对象泛泛，既面向 B 端企业，匡助企业进行市集调研、竞争敌手分析、风险评估等，也惠及 C 端个东说念主用户，在奢华决策、投资答理、作事策划等方面提供数据救援。以百度旗下爱企查为例，其效果权贵，为用户提供了高效、简短的贸易信息查询体验。通过这些平台，用户不祥快速获取所需信息，作念出更贤慧的贸易和糊口决策。

咱们在旧年底运转利用 Copilot 来助力爱企查转型升级，改造交互体验，提高贸易效用。Copilot 的中枢功能在于精确匹配供需两边，既欢腾买家的采购需求，又确保卖家的优质供给，通过高效撮合，促进了两边的深度交流与合营。

至本年 3 月，Copilot 系统展现出权贵成效，具体领悟为：

对话满足度提高 52%：通过智能匹配，对话质料权贵提高，用户反馈愈加积极。

对话启齿率提高 54%：系统精确推选，有用提高了两边相易的针对性和效用。

日均留资量提高 329%：这一贸易打算的大幅提高，意味着系统不祥权贵增多用户的活跃度和粘性，关于爱企查这么的通用平台而言，这意味着从免用度户到付用度户的滚动率得到了权贵提高。

Copilot 通过优化匹配机制，不仅提高了用户对话的满足度和效用，还径直促进了企业的收益增长，增强了用户体验。这一效用讲明，Copilot 是企业数字化转型的有用用具。通过 Compiler，企业不祥愈加精确地触达主义客户，提高滚动率，扫尾贸易主义的同期，也为用户创造更多价值。

02

文心大模子构建贸易智能助手的几种模式

接下来先容咱们怎么利用文心大模子构建贸易智能助手。

1. 检索增强技艺（RAG）

第一种模式等于利用检索增强技艺，即检索一些文档用作念学问增强。然则，单纯依赖 RAG 在贸易场景下的局限性平安知道，尤其是在面对雄伟贸易学问库和复杂企业相关时，径直的辘集文档检索时常无法提供准确、深切的信息。这恰是爱企查等贸易信息查询平台存在的价值，它们领稀有亿条企业数据和数十亿条贸易学问，远超普通搜索引擎的隐敝范围。

挑战与局限在于：

会通深度与广度的缺失：举例查询企业接洽方式，RAG 时常复返客服电话，而关于销售或商务合营，这显豁不够精确。再如腾讯投资案例，RAG 可能列出好意思团、拼多多，却忽略了这些公司与腾讯的障碍投资相关，以及腾讯里面复杂的投资架构。

推理智力的局限：查询腾讯雇主投资的公司，RAG 给出的已经腾讯径直投资的企业，未能会通“腾讯雇主”指代的是马化腾，且马化腾的个东说念主投资与腾讯公司投资存在互异。

为克服上述挑战，咱们忽视了一种交融企业自建学问库与文心大模子的贬责决策。

率先，对用户查询进行深度意图识别，明确查询主义是特定企业及所需属性（如电话、法东说念主等）接着，利用企业学问库进行精确查询，将查询驱逐反馈给文心大模子，由其生成最终的、高度个性化的回复。

举例，查询腾讯的接洽电话时，咱们先识别出查询意图，然后在学问库中以“腾讯”为 key，“电话”为 value 进行查询，将驱逐交由文心大模子处理，生成精确回复。关于腾讯投资的公司，模子不再局限于名义关联，而是揭示了如华谊昆季等与腾讯有履行持股比例的复杂相关。

又如，查询腾讯的法东说念主投资了哪些公司。这时的意图识别变得愈加复杂。为了贬责这类复杂查询，咱们忽视了学问图谱检索决策。

在查询时，不再是不祥地通过写一些规定去查，而是利用大模子的代码生成智力，生成 SQL 查询语句。然则径直生成代码的准确率初时较低，约莫在 10% 傍边，这主如若由于模子对具体数据库结构会通的不及。

为提高代码生成的准确率，咱们采纳了以下两步优化战略：

注入表结构学问：率先，咱们向模子中注入数据库的表结构（schema）信息，匡助模子会通数据库字段，减少字段匹配诞妄。这一举措权贵提高了代码的正确性，准确率可提高至 40% 傍边。

样例学习：进一步，咱们利用大模子的学习智力，通过提供具体场景下的样例查询，让模子在履行应用中学习和优化。这种 in-context learning（高下体裁习）战略使得模子不祥证明样例调治生成战略，准确率可进一步提高至 70% 到 80%，扫尾了质的飞跃。

然则，大模子高下文窗口是有驱逐的，当查询触及多表、多字段的复杂数据库时，径直将总共表结构（schema）信息镶嵌 prompt 中变得不切履行。为贬责这一问题，咱们领受了 schema linking 战略：

动态 schema 提真金不怕火：率先，证明用户查询内容，动态识别所需查询的表及字段，幸免一次性加载一都表结构。

缩减与优化：通过分析查询需求，仅将关联表的 schema 信息镶嵌 prompt，扫尾对高下文窗口的有用利用。

最终，这一战略不仅贬责了高下文窗口驱逐，还提高了查询效用，确保了大模子在复杂数据库查询场景下的履行可用性。

旧年相貌启动时，咱们对零样本（zero-shot）和少许样本（few-shot）学习的效果进行了初递次研，比较了文心 ErnieBot、ChatGLM、ChatGLM 精长入 LLaMA-Chinese-alpaca 精调的领悟。调研驱逐标明，尽管这些模子在干事效用上领悟出了初步的实用性，但与履行应用落地的高条目比较，仍有不小差距。这一发现促使咱们深切研究模子优化战略，极端是怎么通过样例学习（in-context learning）和大模子的反念念智力提高模子性能。

咱们发现，通过给定特定场景下的样例，模子不祥学习到更具体的查询模式，从而权贵提高查询准确性。然则，模子在生成代码（如图数据库的查询语句）时，仍可能出现诞妄，这激勉了外界对大模子智力的质疑。值得精采的是，大模子具备自我反念念与修正的智力，这一特色为提高举座准确率提供了新的蹊径。

咱们让模子在生成查询语句后，进行自我检查与修正。以图数据库为例，模子生成的图查询语句（GQL）可能包含边向性（in/out）诞妄，或存在点与边的匹配诞妄。通过让模子反念念并修正这些诞妄，查询的准确性得到了权贵提高。举例，查询“腾讯有哪些高管？”时，模子不祥识别并修正边的向性诞妄，将诞妄的“out”改为正确的“in”。相同，关于“查询马化腾在腾讯的职位？”这一问题，模子不祥识别并修正点到点、边到点的匹配诞妄，确保查询的准确性。

这一战略的应用，使得模子在复杂查询场景下的领悟大幅提高，最终线上准确率超越 90%。

关于障碍投资相关的查询，模子展现了刚劲的通用性。举例，查询“小米公司障碍投资了哪些公司？”时，模子不祥跟踪复杂的多层投资链，揭示小米通过 A 公司障碍投资 B 公司的相关，而无需依赖特定模板。这一智力仅通过大模子的代码生成与反念念智力即可扫尾，展现了在复杂学问图谱游走与查询方面的刚劲后劲。

03

文心大模子构建贸易智能助手进阶

在许多场景中，我但愿谜底通过图形可视化地呈现。

咱们领受了开源用具 Apache ECharts。这一用具提供了许多不同种类的图表，其中的相关图特等契合贸易信息查询的场景。

咱们设想了一套利用大模子生成可视化图表的决策。率先，模子被定位为图表内行，而非传统的数据库工程师。用户忽视需求，模子给与查询驱逐数据，终末生成图表。这一决策取得了特等令东说念主满足的效果。

咱们正在探索大模子在更深档次的应用——企业风险分析。这一范围神色企业的可靠性，评估其是否会一会儿断绝运营。通过辘集主义公司过甚法定代表东说念主的信息，麇集关联公司状态，咱们不祥进行详尽风险分析，为用户提供全面的公司评估。这一分析过程不仅触及企业基本信息，还深切覆按法定代表东说念主的信用景色，包括是否被列入失信名单，以过甚名下其他公司运营情况。通过整合这些数据，咱们不祥提供一个详尽风险评分，匡助用户判断企业合魄力险。

由于此类深度分析触及高等贸易数据，日常属于 VIP 干事范围，咱们面前家具的定位为干事于总共用户，因此这一高等功能尚未雅致推出。尽管如斯，咱们已奏效在其他场景中应用了这套风险评估系统，考证了其有用性和实用性。

04

贸易智能助手的翌日预测

预测翌日，大模子的最终价值在于应用，尤其是怎么切实提高咱们的职责效用。

以会议场景为例，翌日的智能助手将在会议上扫尾即时数据分析与市集调研，为决策提供数据救援。同期，它能主动念念考会议中忽视的问题，识别潜在贸易契机，评估风险，为酌量提供详确数据，权贵提高会议效用。

这一愿景展现了大模子在日常糊口与出产中的最大作用——匡助企业提效。通过智能助手的介入，咱们能将更多元气心灵干涉篡改与决策，让技艺确切干事于东说念主，推动企业与社会的赓续跳动。

以上等于本次共享的内容，谢谢人人。

05

问答方法

Q1：刚才先容的应用，除了在爱企查，还有拓展到其它场景吗？

A1：除了爱企查这一场景，大模子的应用在企业里面数据料理中也展现出广袤出路。基础职责围绕相关数据库伸开，通过 SQL 查询，扫尾对里面复杂数据的高效料理。这一用具在公司里面得到泛泛使用，不管是家具司理（PM）照旧研发东说念主员（RD），在面对临时的数据查询需求时，都日常依赖这一用具。然则，由于触及里面明锐数据，无法公开演示，但其背后的方法论与爱企查场景相似，即通过将当然说话查询滚动为 SQL 代码，扫尾精确的数据检索。

Q2：Prompt 是依靠特定的模版吗？

A2：大模子的高效应用依赖于专科的 Prompt 工程。百度强调，翌日的职责将从径直编写代码转向设想 Prompt，即怎么将当然说话滚动为大模子能会通的输入形态。这条目工程师具备将专科范围学问融入 Prompt 的智力，以确保大模子不祥准确乎践复杂任务，如数据分析、市集调研等。Prompt 设想成为结合东说念主类需求与大模子智力的要害桥梁。

Q3：里面应用的效果怎么？

A3：在企业里面使用大模子进行数据料理，效果权贵。用户反馈标明，关于企业用户而言，问答体验的提高达到了 50% 以上，权贵增强了数据查询的效用和准确性。此外，这一用具的应用还为企业带来了本色性的贸易滚动提高，滚动率增长超越 30%，体现了大模子在企业里面数据料理与决策救援中的巨大价值。

大模子在企业里面的应用不仅限于爱企查等公开场景，其在里面数据料理与决策救援中展现出的刚劲智力，为企业带来了权贵的效用提高和贸易价值。通过专科的 Prompt 工程，大模子不祥会通并实践复杂的数据查询任务，扫尾与学问图谱的深度交融，为企业里面数据的高效料理提供了全新的贬责决策。

Q4：咱们最运转在去同步通盘数据效果的时刻提到了对话满足度是 52%，这个满足度是何如算出来的？通过什么方式监测出来的？

A4：满足度评估基于用户体验，如查询驱逐的准确性，无法回复的查询被视为不悦足。现在，评估大模子效果主要依赖东说念主工，通过当场抽样数据进行东说念主工检查，以标签形势给出满足度打算。尽管自动化评估是研究标的，使用大模子评估大模子的效果存在可靠性争议，东说念主依然是最可靠的评估者。面前的评估打算虽尝试利用大模子进行自我评估，但这种方法的自动化扫尾靠近挑战，可靠性尚待考证。东说念主工评估仍为确保大模子性能和干事质料的要害技巧。

Q5：对话启齿率是什么样的一个打算？反应的是什么问题？

A5：对话启齿率反应用户与机器东说念主互动的意愿，被视为用户留存的打算。百度研究院与爱企查平台合营，领受此打算评估用户满足度。若用户首次查询得到满足回复，次日可能再次互动；反之，不悦足体验将镌汰再次发问的可能。通过量化对话启齿率，可侧面反应问答效果，手脚东说念主工评估的补充，障碍斟酌大模子的性能与用户接纳度。

Q6：如果把样例放到 prompt 里面，会不会形成教唆词极端肥胖？

A6：大模子处理智力受限于长度，schema linking 成为要害，旨在优化内容，幸免超长问题。样例聘任与排序对驱逐影响首要，需经心挑选与布局。这深切到模子应用的复杂层面，远超不祥操作，如 APP 构建用具的直观使用。尤其在数据科学范围，如代码生成，精确查找条目极高，需多半职责优化样例与 schema 通顺，确保模子在长度驱逐下仍能高效、准确地实践任务。这条目深切会通模子机制，经心设想以豪放复杂查询需求。

Q7：微调的形势和注入样例的形势对比，有彰着的差距吗？

A7：微调展现更优效果，因其能全面学习样本，克服样例过多导致的详远程散播问题。比较之下，样例注入虽简短，但在效果上稍逊一筹。微调虽效果权贵，但树立周期与部署本钱奥妙，需再行部署模子，远超径直调用 API 的经济性。咱们曾对比 400 条样例的 schema linking 与微调，微调效果更佳，但本钱限制是要害考量。在性能提高与本钱效益间找到均衡，是优化模子应用的中枢。

Q8：Open AI V3.5 为它总共的大模子提供了微调的接口，百度有肖似的吗？

A8：这个微调接口咱们细目是也有的。

百度千帆平台，手脚百度的模子树立与微调平台，不仅救援自研的文件模子，还兼容多种开源模子，如 Lama 3，泛泛应用于迁徙学习等范围。平台提供从模子西席到评估，再到应用圭臬树立的全套干事，包括数据集料理、数据清洗、数据增强等功能。

用户可在千帆平台上进行模子微调、部署及应用圭臬树立，如构建 APP、模子部署或编写自界说 Agent。平台还救援模子评估，允许用户构建固定麇集进行性能考核，确保模子质料。总之，千帆平台为树立者提供了一站式贬责决策，隐敝模子树立全经过，全面助力 AI 模子的高效构建与应用。

Q9：微调用的样例，包括咱们通盘微调的过程，上就不错会通为是一种让大模子预学习，让他具备某个范围的智力，然后前置地去具备这么的智力，是这么吗？

A9：稍稍有点不太准确。

在千帆平台中，模子层级被界说为 L0、L1、L2 三个阶段。L0 代表大模子预西席阶段，即基础的通用大模子。L1 则为范围对都模子，通过将特定行业的文档纳入西席，使模子会通并掌合手范围内的特着名词，提高行业学问会通智力。L2 阶段专注于特定任务的微调，如 SQL 生成、代码撰写、文档编写、续写或问答，这一阶段称为 task-specific fine-tuning（SFT），旨在让模子在会通范围学问的基础上，进一步精熟特定任务的实践智力。

以上等于本次共享的内容，谢谢人人。