知识抽取方法、知识抽取模型的训练方法及装置转让专利
申请号 : CN202210239483.5
文献号 : CN114595686B
文献日 : 2023-02-03
发明人 : 夏琦 , 黄昉 , 史亚冰 , 蒋烨 , 柴春光 , 朱勇
申请人 : 北京百度网讯科技有限公司
摘要 :
本公开提供了一种知识抽取方法、知识抽取模型的训练方法及装置，涉及计算机技术领域，尤其涉及知识图谱等人工智能技术领域。实现方案为：获取第一实体、所述第一实体的待抽取的目标关系和第一实体对应的知识文本，所述知识文本包括至少一个文本块；基于所述第一实体和所述目标关系，从所述至少一个文本块中确定目标文本块；以及从所述目标文本块中抽取与所述第一实体具有所述目标关系的第二实体。
权利要求 :
1.一种知识抽取方法，包括：
获取第一实体、所述第一实体的待抽取的目标关系和所述第一实体对应的知识文本，其中，所述知识文本包括至少一个文本块；
基于所述第一实体和所述目标关系，从所述至少一个文本块中确定目标文本块，其中，所述基于所述第一实体和所述目标关系，从所述至少一个文本块中确定目标文本块包括：对于所述至少一个文本块中的任一文本块，将所述第一实体、所述目标关系和该文本块输入分类模型，以得到所述分类模型输出的该文本块是否包括与所述第一实体具有所述目标关系的第二实体的预测结果；以及响应于所述预测结果指示该文本块包括所述第二实体，将该文本块确定为目标文本块；以及从所述目标文本块中抽取所述第二实体。
2.根据权利要求1所述的方法，还包括：判断所述第一实体和所述目标关系是否匹配，所述基于所述第一实体和所述目标关系，从所述至少一个文本块中确定目标文本块包括：响应于确定所述第一实体和所述目标关系匹配，基于所述第一实体和所述目标关系，从所述至少一个文本块中确定所述目标文本块。
3.根据权利要求2所述的方法，其中，所述判断所述第一实体和所述目标关系是否匹配包括：获取所述目标关系对应的实体类型集合，所述实体类型集合包括与所述目标关系匹配的至少一个实体类型；以及响应于确定所述第一实体的类型属于所述实体类型集合，确定所述第一实体和所述目标关系匹配。
4.根据权利要求1所述的方法，其中，从所述目标文本块中抽取所述第二实体包括：将所述第一实体、所述目标关系和所述目标文本块输入槽填充模型，以得到所述槽填充模型输出的从所述目标文本块中提取出的目标短语；
对所述目标短语进行规范化，以得到所述第二实体。
5.根据权利要求1所述的方法，还包括：
接收用户发送的知识查询请求，所述知识查询请求包括所述第一实体、所述目标关系和所述知识文本；以及将所述第二实体作为所述知识查询请求的查询结果返回给所述用户。
6.根据权利要求1所述的方法，还包括：
接收用户发送的知识查询请求，所述知识查询请求包括所述第一实体和所述目标关系；
从多个候选文本中确定所述第一实体对应的知识文本；以及将所述第二实体作为所述知识查询请求的查询结果返回给所述用户。
7.根据权利要求1所述的方法，还包括：
基于由所述第一实体、所述目标关系和所述第二实体组成的三元组，构建知识图谱。
8.一种知识抽取模型的训练方法，包括：
从目标数据中提取三元组和文本块，其中，所述三元组包括第一实体、关系和与所述第一实体具有所述关系的第二实体，所述文本块包括至少一个语句；
基于所述三元组，生成所述文本块的分类标签，其中，所述分类标签用于指示所述文本块是否包括所述第二实体；
基于所述三元组、所述文本块和所述分类标签，生成所述知识抽取模型的训练样本；以及基于所述训练样本，训练所述知识抽取模型，
其中，所述知识抽取模型包括分类模型，所述基于所述训练样本，训练所述知识抽取模型包括：将所述第一实体、所述关系和所述文本块输入所述分类模型，以得到所述分类模型输出的预测标签，所述预测标签用于指示所述文本块是否包括所述第二实体；
基于所述预测标签和所述分类标签，确定所述分类模型的损失值；以及基于所述损失值，调整所述分类模型的参数。
9.根据权利要求8所述的方法，其中，所述从目标数据中提取三元组包括：确定所述目标数据对应的第一实体；
从所述目标数据中提取键值对；以及
基于所述键值对，确定所述关系和所述第二实体，其中，所述关系对应于所述键值对中的键，所述第二实体对应于所述键值对中的值。
10.根据权利要求9所述的方法，其中，所述关系为所述键值对中的键或所述键的同义词，所述第二实体为所述键值对中的值。
11.根据权利要求8所述的方法，其中，所述知识抽取模型包括槽填充模型，并且其中，所述基于所述训练样本，训练所述知识抽取模型包括：将所述第一实体、所述关系和所述文本块输入所述槽填充模型，以得到所述槽填充模型输出的从所述文本块中提取出的预测实体；
基于所述预测实体和所述第二实体，确定所述槽填充模型的损失值；以及基于所述损失值，调整所述槽填充模型的参数。
12.根据权利要求8所述的方法，其中，所述训练样本在所述分类标签指示所述文本块包括所述第二实体的情况下为正样本，所述训练样本在所述分类标签指示所述文本块不包括所述第二实体的情况下为负样本，所述方法还包括：调整用于训练所述知识抽取模型的正样本的第一数量和/或负样本的第二数量，以使所述第一数量与所述第二数量的比值为预设值。
13.根据权利要求8所述的方法，其中，所述目标数据为网页，并且其中，从目标数据中提取文本块包括：基于所述网页的源代码中的HTML标签，提取出所述源代码中的纯文本内容；以及基于预设粒度，将所述纯文本内容划分为至少一个文本块。
14.根据权利要求8所述的方法，其中，所述目标数据为百科网页，所述第一实体为所述百科网页对应的百科词条。
15.一种知识抽取装置，包括：
获取模块，被配置为获取第一实体、所述第一实体的待抽取的目标关系和所述第一实体对应的知识文本，其中，所述知识文本包括至少一个文本块；
确定模块，被配置为基于所述第一实体和所述目标关系，从所述至少一个文本块中确定目标文本块，其中，所述基于所述第一实体和所述目标关系，从所述至少一个文本块中确定目标文本块包括：对于所述至少一个文本块中的任一文本块，将所述第一实体、所述目标关系和该文本块输入分类模型，以得到所述分类模型输出的该文本块是否包括与所述第一实体具有所述目标关系的第二实体的预测结果；以及响应于所述预测结果指示该文本块包括所述第二实体，将该文本块确定为目标文本块；以及抽取模块，被配置为从所述目标文本块中抽取所述第二实体。
16.一种知识抽取模型的训练装置，包括：
提取模块，被配置为从目标数据中提取三元组和文本块，其中，所述三元组包括第一实体、关系和与所述第一实体具有所述关系的第二实体，所述文本块包括至少一个语句；
标签生成模块，被配置为基于所述三元组，生成所述文本块的分类标签，其中，所述分类标签用于指示所述文本块是否包括所述第二实体；
样本生成模块，被配置为基于所述三元组、所述文本块和所述分类标签，生成所述知识抽取模型的训练样本；以及训练模块，被配置为基于所述训练样本，训练所述知识抽取模型，其中，所述知识抽取模型包括分类模型，所述训练模块进一步被配置为：将所述第一实体、所述关系和所述文本块输入所述分类模型，以得到所述分类模型输出的预测标签，所述预测标签用于指示所述文本块是否包括所述第二实体；
基于所述预测标签和所述分类标签，确定所述分类模型的损失值；以及基于所述损失值，调整所述分类模型的参数。
17.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1‑14中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行根据权利要求1‑14中任一项所述的方法。
说明书 :
知识抽取方法、知识抽取模型的训练方法及装置
技术领域
[0001] 本公开涉及计算机技术领域，尤其涉及知识图谱等人工智能技术领域，具体涉及一种知识抽取方法及装置、知识抽取模型的训练方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
[0002] 人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术：人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
[0003] 知识图谱是一种结构化的语义知识库，其可以被表示为由节点和边组成的网络拓扑图的形式，其中节点代表实体，节点之间的边代表实体之间的关系。知识图谱具有极强的知识表达能力和灵活性，能够为信息检索、机器问答、内容推荐等不同应用场景提供知识支持。
[0004] 在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明，否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地，除非另有指明，否则此部分中提及的问题不应认为在任何现有技术中已被公认。
发明内容
[0005] 本公开提供了一种知识抽取方法及装置、知识抽取模型的训练方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
[0006] 根据本公开的一方面，提供了一种知识抽取方法，包括：获取第一实体、所述第一实体的待抽取的目标关系和所述第一实体对应的知识文本，所述知识文本包括至少一个文本块；基于所述第一实体和所述目标关系，从所述至少一个文本块中确定目标文本块；以及从所述目标文本块中抽取与所述第一实体具有所述目标关系的第二实体。
[0007] 根据本公开的一方面，提供了一种知识抽取模型的训练方法，包括：从目标数据中提取三元组和文本块，所述三元组包括第一实体、关系和与所述第一实体具有所述关系的第二实体，所述文本块包括至少一个语句；基于所述三元组，生成所述文本块的分类标签，所述分类标签用于指示所述文本块是否包括所述第二实体；基于所述三元组、所述文本块和所述分类标签，生成所述知识抽取模型的训练样本；以及基于所述训练样本，训练所述知识抽取模型。
[0008] 根据本公开的一方面，提供了一种知识抽取装置，包括：获取模块，被配置为获取第一实体、所述第一实体的待抽取的目标关系和所述第一实体对应的知识文本，所述知识文本包括至少一个文本块；确定模块，被配置为基于所述第一实体和所述目标关系，从所述至少一个文本块中确定目标文本块；以及抽取模块，被配置为从所述目标文本块中抽取与所述第一实体具有所述目标关系的第二实体。
[0009] 根据本公开的一方面，提供了一种知识抽取模型的训练装置，包括：提取模块，被配置为从目标数据中提取三元组和文本块，所述三元组包括第一实体、关系和与所述第一实体具有所述关系的第二实体，所述文本块包括至少一个语句；标签生成模块，被配置为基于所述三元组，生成所述文本块的分类标签，所述分类标签用于指示所述文本块是否包括所述第二实体；样本生成模块，被配置为基于所述三元组、所述文本块和所述分类标签，生成所述知识抽取模型的训练样本；以及训练模块，被配置为基于所述训练样本，训练所述知识抽取模型。
[0010] 根据本公开的一方面，提供了一种电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器，该存储器存储有可被上述至少一个处理器执行的指令，该指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行上述任一方面的方法。
[0011] 根据本公开的一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行上述任一方面的方法。
[0012] 根据本公开的一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现上述任一方面的方法。
[0013] 根据本公开的一个或多个实施例，能够提高知识抽取的效率和准确性。
[0014] 应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0015] 附图示例性地示出了实施例并且构成说明书的一部分，与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的，并不限制权利要求的范围。在所有附图中，相同的附图标记指代类似但不一定相同的要素。
[0016] 图1示出了根据本公开实施例的可以在其中实施本文描述的各种方法的示例性系统的示意图；
[0017] 图2示出了根据本公开实施例的知识抽取方法的流程图；
[0018] 图3示出了根据本公开实施例的知识查询界面的示意图；
[0019] 图4示出了根据本公开实施例的知识抽取模型的训练方法的流程图；
[0020] 图5示出了根据本公开实施例的目标数据中的第一实体、键值对和文本块的示意图；
[0021] 图6示出了根据本公开实施例的训练样本的生成过程的示意图；
[0022] 图7示出了根据本公开实施例的知识抽取系统的示意图；
[0023] 图8示出了根据本公开实施例的知识抽取装置的结构框图；
[0024] 图9示出了根据本公开实施例的知识抽取模型的训练装置的结构框图；以及
[0025] 图10示出了能够用于实现本公开实施例的示例性电子设备的结构框图。
具体实施方式
[0026] 以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0027] 在本公开中，除非另有说明，否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系，这种术语只是用于将一个元件与另一元件区分开。在一些示例中，第一要素和第二要素可以指向该要素的同一实例，而在某些情况下，基于上下文的描述，它们也可以指代不同实例。
[0028] 在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的，而并非旨在进行限制。除非上下文另外明确地表明，如果不特意限定要素的数量，则该要素可以是一个也可以是多个。此外，本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。
[0029] 知识可以表示为形如(S，P，O)的三元组，即SPO三元组。其中，S(Subject)为第一实体，O(Object)为第二实体，P(Predicate)为第一实体与第二实体的关系。一个SPO三元组在知识图谱中呈现为两个相邻的节点(实体)及其连边(关系)。
[0030] 在一些场景中，需要对原始语料进行知识挖掘，即，在给定第一实体S和关系P的情况下，从原始语料(例如文章、段落、语句等)中抽取出与第一实体S具有关系P的第二实体O，从而生成知识三元组(S，P，O)。所生成的知识三元组可以用于构建知识图谱、向用户提供知识问答服务等应用场景中。
[0031] 在相关技术中，通常采用基于模版匹配或实体识别的方法来进行知识挖掘。
[0032] 在模版匹配方法中，将预定义的模版与语料进行匹配，将匹配到的字符串作为第二实体O。模版由人工构建，构建效率低，需要消耗大量的人力和时间成本。并且，模版数量有限，难以全面覆盖各种语义场景，准确性低，容易发生知识抽取错误的问题。
[0033] 在实体识别方法中，采用实体识别工具(例如命名实体识别模型)来抽取语料中的实体，然后采用分类器来判断该实体是否是关系P对应的第二实体O。通常地，语料中会识别出多个实体，并且存在一定的识别错误的概率。在识别出语料中的多个实体后，采用分类器对多个实体一一进行判别，容易导致不必要的计算和错误积累，计算效率和准确性较低。
[0034] 并且，该方法需要人工对大量的语料进行标注，以训练实体识别工具和分类器。数据标注的成本高、效率低，难以获取大量的标注数据。而知识抽取效果与标注数据的数据量高度正相关，导致知识抽取的准确性较低。
[0035] 针对上述问题，本公开实施例提供一种知识抽取方法和知识抽取模型的训练方法，以提高知识抽取的效率和准确性。
[0036] 下面将结合附图详细描述本公开的实施例。
[0037] 图1示出了根据本公开的实施例可以将本文描述的各种方法和装置在其中实施的示例性系统100的示意图。参考图1，该系统100包括一个或多个客户端设备101、102、103、104、105和106、服务器120以及将一个或多个客户端设备耦接到服务器120的一个或多个通信网络110。客户端设备101、102、103、104、105和106可以被配置为执行一个或多个应用程序。
[0038] 在本公开的实施例中，服务器120可以运行使得能够执行知识抽取方法和/或知识抽取模型的训练方法的一个或多个服务或软件应用。
[0039] 在某些实施例中，服务器120还可以提供可以包括非虚拟环境和虚拟环境的其他服务或软件应用。在某些实施例中，这些服务可以作为基于web的服务或云服务提供，例如在软件即服务(SaaS)模型下提供给客户端设备101、102、103、104、105和/或106的用户。
[0040] 在图1所示的配置中，服务器120可以包括实现由服务器120执行的功能的一个或多个组件。这些组件可以包括可由一个或多个处理器执行的软件组件、硬件组件或其组合。操作客户端设备101、102、103、104、105和/或106的用户可以依次利用一个或多个客户端应用程序来与服务器120进行交互以利用这些组件提供的服务。应当理解，各种不同的系统配置是可能的，其可以与系统100不同。因此，图1是用于实施本文所描述的各种方法的系统的一个示例，并且不旨在进行限制。
[0041] 用户可以使用客户端设备101、102、103、104、105和/或106来进行导航。客户端设备可以提供使客户端设备的用户能够与客户端设备进行交互的接口。客户端设备还可以经由该接口向用户输出信息。尽管图1仅描绘了六种客户端设备，但是本领域技术人员将能够理解，本公开可以支持任何数量的客户端设备。
[0042] 客户端设备101、102、103、104、105和/或106可以包括各种类型的计算机设备，例如便携式手持设备、通用计算机(诸如个人计算机和膝上型计算机)、工作站计算机、可穿戴设备、智能屏设备、自助服务终端设备、服务机器人、游戏系统、瘦客户端、各种消息收发设备、传感器或其他感测设备等。这些计算机设备可以运行各种类型和版本的软件应用程序和操作系统，例如MICROSOFT Windows、APPLE iOS、类UNIX操作系统、Linux或类Linux操作系统(例如GOOGLE Chrome OS)；或包括各种移动操作系统，例如MICROSOFT Windows Mobile OS、iOS、Windows Phone、Android。便携式手持设备可以包括蜂窝电话、智能电话、平板电脑、个人数字助理(PDA)等。可穿戴设备可以包括头戴式显示器(诸如智能眼镜)和其他设备。游戏系统可以包括各种手持式游戏设备、支持互联网的游戏设备等。客户端设备能够执行各种不同的应用程序，例如各种与Internet相关的应用程序、通信应用程序(例如电子邮件应用程序)、短消息服务(SMS)应用程序，并且可以使用各种通信协议。
[0043] 网络110可以是本领域技术人员熟知的任何类型的网络，其可以使用多种可用协议中的任何一种(包括但不限于TCP/IP、SNA、IPX等)来支持数据通信。仅作为示例，一个或多个网络110可以是局域网(LAN)、基于以太网的网络、令牌环、广域网(WAN)、因特网、虚拟网络、虚拟专用网络(VPN)、内部网、外部网、公共交换电话网(PSTN)、红外网络、无线网络(例如蓝牙、Wi‑Fi)和/或这些和/或其他网络的任意组合。
[0044] 服务器120可以包括一个或多个通用计算机、专用服务器计算机(例如PC(个人计算机)服务器、UNIX服务器、中端服务器)、刀片式服务器、大型计算机、服务器群集或任何其他适当的布置和/或组合。服务器120可以包括运行虚拟操作系统的一个或多个虚拟机，或者涉及虚拟化的其他计算架构(例如可以被虚拟化以维护服务器的虚拟存储设备的逻辑存储设备的一个或多个灵活池)。在各种实施例中，服务器120可以运行提供下文所描述的功能的一个或多个服务或软件应用。
[0045] 服务器120中的计算单元可以运行包括上述任何操作系统以及任何商业上可用的服务器操作系统的一个或多个操作系统。服务器120还可以运行各种附加服务器应用程序和/或中间层应用程序中的任何一个，包括HTTP服务器、FTP服务器、CGI服务器、JAVA服务器、数据库服务器等。
[0046] 在一些实施方式中，服务器120可以包括一个或多个应用程序，以分析和合并从客户端设备101、102、103、104、105和106的用户接收的数据馈送和/或事件更新。服务器120还可以包括一个或多个应用程序，以经由客户端设备101、102、103、104、105和106的一个或多个显示设备来显示数据馈送和/或实时事件。
[0047] 在一些实施方式中，服务器120可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器120也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。云服务器是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大、业务扩展性弱的缺陷。
[0048] 系统100还可以包括一个或多个数据库130。在某些实施例中，这些数据库可以用于存储数据和其他信息。例如，数据库130中的一个或多个可用于存储诸如音乐文件的信息。数据库130可以驻留在各种位置。例如，由服务器120使用的数据库可以在服务器120本地，或者可以远离服务器120且可以经由基于网络或专用的连接与服务器120通信。数据库130可以是不同的类型。在某些实施例中，由服务器120使用的数据库例如可以是关系数据库或非关系数据库。这些数据库中的一个或多个可以响应于命令而存储、更新和检索到数据库以及来自数据库的数据。
[0049] 在某些实施例中，数据库130中的一个或多个还可以由应用程序使用来存储应用程序数据。由应用程序使用的数据库可以是不同类型的数据库，例如键值存储库，对象存储库或由文件系统支持的常规存储库。
[0050] 图1的系统100可以以各种方式配置和操作，以使得能够应用根据本公开所描述的各种方法和装置。
[0051] 图2示出了根据本公开实施例的知识抽取方法200的流程图。方法200通常在服务器(例如图1中所示的服务器120)处执行，也可以在客户端设备(例如图1中所示的客户端设备101、102、103、104、105和106)处执行。也即，方法200的各个步骤的执行主体可以是图1中所示的服务器120，也可以是客户端设备101、102、103、104、105和106。
[0052] 如图2所示，方法200包括：
[0053] 步骤210、获取第一实体、第一实体的待抽取的目标关系和第一实体对应的知识文本，知识文本包括至少一个文本块；
[0054] 步骤220、基于第一实体和目标关系，从至少一个文本块中确定目标文本块；以及[0055] 步骤230、从目标文本块中抽取与第一实体具有目标关系的第二实体。
[0056] 根据本公开的实施例，基于第一实体和目标关系，从知识文本中筛选出部分语句(即目标文本块)，然后从筛选出的目标文本块中抽取第二实体，能够减少参与计算的文本数据量，从而提高计算效率。并且，通过筛选，能够保证目标文本块与第一实体和目标关系的相关性，从而提高知识抽取的准确性。
[0057] 以下详细描述方法200的各个步骤。
[0058] 在步骤210中，获取第一实体、第一实体的待抽取的目标关系和第一实体对应的知识文本，知识文本包括至少一个文本块。
[0059] 在本公开的实施例中，步骤210中获取的第一实体、目标关系和步骤230中抽取得到的第二实体分别对应于SPO三元组中的S、P和O。
[0060] 在本公开的实施例中，第一实体可以是任意类型的对象，例如人物、公司、地点、事件、抽象概念、技术术语等。
[0061] 不同类型的实体可以与其他实体产生不同类型的关系，即，不同类型的实体具有不同类型的关系。例如，人物实体可以与其他人物实体具有父子、母子、夫妻、朋友等多种关系；公司实体可以与其他公司实体具有投资、担保等关系，与人物实体具有股东、高管、董事长等关系；等。
[0062] 实体具有的关系可以作为该实体的属性(属性名)，相应地，与实体具有该关系的其他实体可以作为该属性的属性值。例如，在上文的公司实体的例子中，公司实体可以与人物实体具有董事长关系，公司A的董事长是人物B，那么，“董事长”是公司A具有的关系(即属性、属性名)，人物B是与公司A具有董事长关系的实体(即属性值)。
[0063] 如上所述，应当理解，第一实体可以具有一种或多种不同类型的关系。
[0064] 在本公开的实施例中，目标关系指的是第一实体的待抽取的关系，即，根据本公开的实施例抽取出的第二实体与第一实体具有目标关系。
[0065] 在本公开的实施例中，第一实体对应的知识文本是用于描述该第一实体的纯文本内容。例如，第一实体可以是某个商业品牌，其对应的知识文本可以是用于介绍该商业品牌的百科网站页面中的文本内容，也可以是该商业品牌的官方网站中的文本内容。又例如，第一实体可以是某个技术术语，其对应的知识文本可以是用于介绍该技术术语的百科网站页面中的文本内容，也可以是以该技术术语为关键词的论文中的文本内容。
[0066] 在本公开的实施例中，知识文本可以按照预设的粒度被划分为多个文本块。预设的粒度例如可以是语句、段落、章节等，相应地，每个文本块可以包括一个或多个语句。根据一些实施例，为了提高知识抽取的准确性，可以以语句为粒度来将知识文本划分为多个文本块，每个文本块包括一个语句。
[0067] 根据一些实施例，步骤210中的第一实体、目标关系和知识文本可以是基于特定业务场景的知识抽取需求而获取的。例如，为了构建企业知识图谱，需要对企业文档进行知识抽取。相应地，在步骤210中，可以从企业文档中获取第一实体和目标关系，并将该企业文档作为相应的知识文本。
[0068] 根据另一些实施例，步骤210中的第一实体、目标关系和知识文本可以是响应于用户发出的知识查询请求而获取的。
[0069] 例如，用户可以通过客户端设备(例如图1中所示的客户端设备101‑106)发送知识查询请求，知识查询请求包括第一实体、目标关系和知识文本，即，第一实体、目标关系和知识文本均由用户输入。相应地，在步骤210中，可以通过对用户发送的知识查询请求进行解析，以获取第一实体、目标关系和知识文本。
[0070] 又例如，用户可以通过客户端设备发送知识查询请求，知识查询请求可以仅包括第一实体和目标关系，即，第一实体和目标关系由用户输入。相应地，在步骤210中，可以通过对用户发送的知识查询请求进行解析，以获取第一实体和目标关系。进一步地，基于获取到的第一实体，对数据库中已存储的多个候选文本进行搜索，以从中获取第一实体对应的知识文本。
[0071] 如上所述，第一实体和目标关系可以由用户输入。但是，由于用户输入的不确定性和不规范性，用户输入的第一实体和目标关系可能并不匹配，即，用户输入的目标关系可能不是第一实体具有的关系。如果直接基于用户输入的第一实体和目标关系来进行知识抽取，很容易产生错误。
[0072] 因此，根据一些实施例，在通过步骤210获取到第一实体和目标关系后，进一步判断第一实体和目标关系是否匹配。响应于第一实体和目标关系匹配，继续执行步骤220，以进行知识抽取。响应于第一实体和目标关系不匹配，结束方法200，进一步地，可以输出用于指示知识抽取失败的提示消息。基于该实施例，仅在第一实体与目标关系相匹配的情况下才进行知识抽取，能够保证第一实体与目标关系的相关性，避免不必要的计算，从而提高知识抽取的效率和准确性。
[0073] 根据一些实施例，可以按照以下步骤来判断第一实体和目标关系是否匹配：获取目标关系对应的实体类型集合，实体类型集合包括与目标关系匹配的至少一个实体类型；以及响应于确定第一实体的类型属于实体类型集合，确定第一实体和目标关系匹配。
[0074] 应当理解，某些关系仅有特定类型的实体才具有。通过设置实体类型集合并对实体类型集合进行查找，能够快速判断第一实体与目标关系的匹配性，从而提高知识抽取的效率。
[0075] 例如，目标关系可以是“出道时间”。仅明星、演员、歌手等类型的实体才具有“出道时间”，相应地，“出道时间”对应的实体类型集合可以是{明星，演员，歌手}。若第一实体为“演员A”，则第一实体的类型为“演员”，属于实体类型集合，因此第一实体“演员A”与目标关系“出道时间”匹配；若第一实体为“素人B”，则第一实体的类型为“素人”，不属于实体类型集合，因此第一实体“素人B”与目标关系“出道时间”不匹配。
[0076] 在步骤220中，基于第一实体和目标关系，从至少一个文本块中确定目标文本块。
[0077] 根据一些实施例，步骤220可以包括：对于上述至少一个文本块中的任一文本块，将第一实体、目标关系和该文本块输入分类模型，以得到分类模型输出的该文本块是否包括第二实体的预测结果；以及响应于预测结果指示该文本块包括第二实体，将该文本块确定为目标文本块。
[0078] 基于上述实施例，能够从知识文本中筛选出可能包含第二实体的目标文本块，从而减少待处理的文本数据量，并且提高知识抽取的准确性。并且，采用分类模型来判断文本块是否包括第二实体，能够提高文本块筛选的泛化性和灵活性。
[0079] 分类模型可以是任意结构的神经网络模型。根据一些实施例，分类模型可以是在大规模预训练语言模型(例如ERNIE模型、BERT模型等)的基础上进行微调(fine‑tuning)训练而得到。分类模型的训练过程可以参考下文的方法400。
[0080] 在步骤230中，从目标文本块中抽取与第一实体具有目标关系的第二实体。
[0081] 根据一些实施例，步骤230可以包括：将第一实体、目标关系和目标文本块输入槽填充模型，以得到槽填充模型输出的从目标文本块中提取出的目标短语；以及对目标短语进行规范化，以得到第二实体。
[0082] 基于上述实施例，针对性地从目标文本块中抽取第二实体，能够提高知识抽取的准确性。采用槽填充模型来抽取第二实体，能够提高知识抽取的泛化性和灵活性。
[0083] 槽填充模型可以是任意结构的神经网络模型。根据一些实施例，槽填充模型可以是在大规模预训练语言模型(例如ERNIE模型、BERT模型等)的基础上进行微调训练而得到。槽填充模型的训练过程可以参考下文的方法400。
[0084] 槽填充模型输出的目标短语可能与预期抽取的第二实体不完全相同。因此，在本公开的实施例中，需要对槽填充模型输出的目标短语进行规范化，以得到第二实体。由此，能够提高抽取出的知识的质量，使之符合实际业务场景的需求。
[0085] 例如，槽填充模型输出的目标短语可能包含多余的修饰词，例如“著名的演员张三”中的“著名的”。在这种情况下，可以通过识别停用词“的”并删除“的”之前的词来得到准确的第二实体“演员张三”。
[0086] 又例如，在某些业务场景中，需要准确抽取人物的姓名，而不希望同时抽取出人物的职业、职位等信息。例如，“演员张三”中的“演员”，“CEO李四”中的“CEO”均为业务场景不希望抽取的信息。在这种情况下，可以基于预设的职业名称列表、职位名称列表，从目标短语中筛选出不必要的职业、职位信息并删除，从而得到符合业务场景需求的第二实体“张三”、“李四”。
[0087] 又例如，在某些业务场景中，需要抽取精确到“日”的时间，例如2022年1月1日。精确到“年”或“月”的时间，例如2022年、2022年1月等，不符合业务场景需求。在这种情况下，可以通过设置正则表达式来识别不符合要求的目标短语并删除，从而实现第二实体的提纯和过滤。
[0088] 基于方法200，可以得到与第一实体具有目标关系的第二实体，从而完成知识抽取。方法200可以被应用于不同的场景中。
[0089] 根据一些实施例，方法200可以被应用于一些知识问答场景中。具体地，在该场景中，方法200进一步包括：接收用户发送的知识查询请求，知识查询请求包括第一实体、目标关系和知识文本；以及将第二实体作为知识查询请求的查询结果返回给用户。
[0090] 根据一些实施例，方法200可以被应用于另一些知识问答场景中。具体地，在该场景中，方法200进一步包括：接收用户发送的知识查询请求，知识查询请求包括第一实体和目标关系；从多个候选文本中确定第一实体对应的知识文本；以及将第二实体作为知识查询请求的查询结果返回给用户。
[0091] 图3示出了根据本公开实施例的客户端设备上的知识查询界面300的示意图。如图3所示，用户在搜索框310中输入查询语句“A是哪国的”，然后点击搜索按钮320，发起知识查询请求。服务器接收到用户发来的知识查询请求后，对该请求进行解析，从中提取出第一实体“A”和目标关系(属性名)“国”。随后，对数据库中已存储的多个百科网站页面进行查找，将百科词条“A”对应的百科页面中的文本内容作为知识文本。随后，基于上述步骤210‑230，确定第一实体“A”的“国”属性的值，即第二实体“B”，并将第二实体“B”以及百科页面中的与第二实体“B”相关的段落返回给客户端设备。客户端设备接收到服务器返回的数据后，在答案框330处显示这些数据。进一步地，如图3所示，知识查询界面300还可以包括链接340，用户可以通过点击链接340来进入第一实体“A”的百科页面，以查看详情信息。
[0092] 根据一些实施例，方法200可以被应用于知识图谱构建场景中。具体地，在该场景中，方法200进一步包括：基于由第一实体、目标关系和第二实体组成的三元组(即SPO三元组)，构建知识图谱。
[0093] 根据本公开的实施例，还提供了一种知识抽取模型的训练方法。知识抽取模型可以包括上文所述的分类模型和槽填充模型。
[0094] 图4示出了根据本公开实施例的知识抽取模型的训练方法400的流程图。方法400通常在服务器(例如图1中所示的服务器120)处执行，也可以在客户端设备(例如图1中所示的客户端设备101‑106)处执行。也即，方法400的各个步骤的执行主体可以是图1中所示的服务器120，也可以是客户端设备101‑106。
[0095] 如图4所示，方法400包括：
[0096] 步骤410、从目标数据中提取三元组和文本块，三元组包括第一实体、关系和与第一实体具有上述关系的第二实体，文本块包括至少一个语句；
[0097] 步骤420、基于三元组，生成文本块的分类标签，分类标签用于指示文本块是否包括第二实体；
[0098] 步骤430、基于三元组、文本块和分类标签，生成知识抽取模型的训练样本；以及[0099] 步骤440、基于训练样本，训练知识抽取模型。
[0100] 根据本公开的实施例，通过从目标数据中提取三元组、文本块及其分类标签来生成知识抽取模型的训练样本，无需人工标注即可自动生成大量训练样本，提高了模型训练的效率。并且，由于知识抽取模型的效果与样本数量高度正相关，因此根据本公开的实施例，能够提高知识抽取的准确性。
[0101] 以下详细介绍方法400的各个步骤。
[0102] 在步骤410中，从目标数据中提取三元组和文本块，三元组包括第一实体、关系和与第一实体具有上述关系的第二实体，文本块包括至少一个语句。
[0103] 目标数据例如可以是文档、网页等，但不限于此。根据一些实施例，目标数据可以是百科网页。百科网页通常包括丰富的、结构化的数据，将百科网页作为用于生成训练样本的目标数据，能够提高样本的生成效率和质量，从而提高知识抽取模型的训练效率和质量。
[0104] 根据一些实施例，从目标数据中提取三元组可以包括：确定目标数据对应的第一实体；从目标数据中提取键值对；以及基于键值对，确定上述关系和第二实体，其中，该关系对应于键值对中的键，第二实体对应于键值对中的值。
[0105] 根据一些实施例，在目标数据为百科网页的情况下，相应地，可以将百科网页对应的百科词条作为第一实体(S)。
[0106] 键值对即Key：Value形式的数据，每个键值对包括一个键Key(又称属性名)和一个值Value(又称属性值)。应当理解，目标数据可以包括多个键值对。
[0107] 根据一些实施例，在目标数据为百科网页的情况下，可以对该百科网页的HTML源代码进行解析，从中提取出、