位置信息的生成方法、相关装置及计算机程序产品

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112634366A(43)申请公布日2021.04.09(21)申请号202011545225.7(22)申请日2020.12.23(71)申请人北京百度网讯科技有限公司地址100085北京市海淀区上地十街10号百度大厦2层(72)发明人刘赵梁　陈思利　赵洋　(74)专利代理机构北京英赛嘉华知识产权代理有限责任公司11204代理人王达佐　马晓亚(51)Int.Cl.G06T7/73(2017.01)权利要求书3页说明书11页附图5页(54)发明名称位置信息的生成方法、相关装置及计算机程序产品(57)摘要本申请实施例公开了位置信息的生成方法、装置、电子设备、计算机可读存储介质及计算机程序产品，涉及人工智能技术领域，具体为计算机视觉、图像处理和增强现实技术领域。该方法的一具体实施方式包括：根据帧间隔小于预设间隔的一对相近图像帧对中，均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程，并将生成的平面方程中相同的平面方程进行合并，得到目标平面方程，最后根据位于该目标平面方程对应的平面上的该图形框的角点理论坐标和该目标平面物体的重力信息，计算得到该目标平面物体的真实角点坐标。该实施方式提供了针对目标平面物体的位置信息生成方法，可以准确确定目标平面物体位于三维空间中的真实位置。CN112634366ACN112634366A权　利　要　求　书1/3页1.一种位置信息的生成方法，包括：根据相近图像帧对中均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程；其中，所述目标平面物体在所述相近图像帧中任意帧中由相同的图形框框定，所述相近图像帧对为帧间隔小于预设间隔的一对图像帧；响应于存在至少两个相同的平面方程，将至少两个相同的平面方程进行合并，得到目标平面方程；根据位于所述目标平面方程对应的平面上的所述图形框的角点理论坐标和所述目标平面物体的重力信息，计算得到所述目标平面物体的真实角点坐标。2.根据权利要求1所述的方法，其中，所述根据相近图像帧对中均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程，包括：将场景图像帧集合中帧间隔小于预设间隔的一对图像帧确定为所述相近图像帧对；从所述相近图像帧对中提取出所有的匹配特征对；根据预先确定的筛选条件对提取出的匹配特征对进行筛选，得到所述目标平面物体的目标匹配特征对；计算所述目标匹配特征对的三维空间坐标，并根据所述三维空间坐标构建相应的平面方程。3.根据权利要求2所述的方法，其中，所述根据预先确定的筛选条件对提取出的匹配特征对进行筛选，得到所述目标平面物体的目标匹配特征对，包括：删除提取出的匹配特征对中满足以下条件中的至少一种的匹配特征对：不属于所述目标平面物体、重投影误差小于预设的阈值条件以及不满足单应变换；将剩余的匹配特征对作为所述目标匹配特征对。4.根据权利要求2所述的方法，还包括：将所述图形框关联至相应的平面方程；响应于确定同一所述图形框关联有多个相同的平面方程，将相同的平面方程进行合并。5.根据权利要求4所述的方法，还包括：分别获取各所述平面方程所关联的相同图形框的数量，得到关联数量；删除所述关联数量不满足预设阈值要求的平面方程。6.根据权利要求1所述的方法，其中，所述响应于存在至少两个相同的平面方程，将至少两个相同的平面方程进行合并，得到目标平面方程，包括：响应于存在至少两个同时指向同一平面的近似平面方程，合并所述近似平面方程，得到唯一的目标平面方程。7.根据权利要求1所述的方法，其中，所述根据位于所述目标平面方程对应的平面上的所述图形框的角点理论坐标和所述目标平面物体的重力信息，计算得到所述目标平面物体的真实角点坐标，包括：在所述目标平面方程对应的平面上确定参照线信息；根据所述参照线信息确定所述平面的重力信息；获取所述平面的水平方向投影后，基于所述水平方向投影根据所述图形框的角点理论坐标和所述重力信息确定所述目标平面物体的真实角点坐标。2CN112634366A权　利　要　求　书2/3页8.一种位置信息的生成装置，包括：平面方程生成单元，被配置成根据相近图像帧对中均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程；其中，所述目标平面物体在所述相近图像帧中任意帧中由相同的图形框框定，所述相近图像帧对为帧间隔小于预设间隔的一对图像帧；目标平面方程生成单元，被配置成从响应于存在至少两个相同的平面方程，将至少两个相同的平面方程进行合并，得到目标平面方程；位置信息计算单元，被配置成根据位于所述目标平面方程对应的平面上的所述图形框的角点理论坐标和所述目标平面物体的重力信息，计算得到所述目标平面物体的真实角点坐标。9.根据权利要求8所述的装置，其中，所述平面方程生成单元包括：图像帧对确定子单元，被配置成将场景图像帧集合中帧间隔小于预设间隔的一对图像帧确定为所述相近图像帧对；匹配特征对提取子单元，被配置成从所述相近图像帧对中提取出所有的匹配特征对；匹配特征对筛选子单元，被配置成根据预先确定的筛选条件对提取出的匹配特征对进行筛选，得到所述目标平面物体的目标匹配特征对；平面方程生成子单元，被配置成计算所述目标匹配特征对的三维空间坐标，并根据所述三维空间坐标构建相应的平面方程。10.根据权利要求9所述的装置，其中，所述匹配特征对筛选子单元包括：匹配特征对删除模块，被配置成删除提取出的匹配特征对中满足以下条件中的至少一种的匹配特征对：不属于所述目标平面物体、重投影误差小于预设的阈值条件以及不满足单应变换；匹配特征对确定模块，被配置成将剩余的匹配特征对作为所述目标匹配特征对。11.根据权利要求9所述的装置，还包括:平面方程关联单元，被配置成将所述图形框关联至相应的平面方程；平面方程合并单元，被配置成响应于确定同一所述图形框关联有多个相同的平面方程，将相同的平面方程进行合并。12.根据权利要求11所述的装置，还包括:关联数获取单元，被配置成分别获取各所述平面方程所关联的相同图形框的数量，得到关联数量；平面方程删除单元，被配置成删除所述关联数量不满足预设阈值要求的平面方程。13.根据权利要求8所述的装置，其中，所述目标平面方程生成单元进一步被配置成，响应于存在至少两个同时指向同一平面的近似平面方程，合并所述近似平面方程，得到唯一的目标平面方程。14.根据权利要求8所述的装置，其中，所述位置信息计算单元包括：参照线确定子单元，被配置成在所述目标平面方程对应的平面上确定参照线信息；重力信息计算子单元，被配置成根据所述参照线信息确定所述平面的重力信息；真实坐标计算子单元，被配置成获取所述平面的水平方向投影后，基于所述水平方向投影根据所述图形框的角点理论坐标和所述重力信息确定所述目标平面物体的真实角点坐标。3CN112634366A权　利　要　求　书3/3页15.一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1‑7中任一项所述的位置信息的生成方法。16.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1‑7中任一项所述的位置信息的生成方法。17.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1‑7中任一项所述的位置信息的生成方法。4CN112634366A说　明　书1/11页位置信息的生成方法、相关装置及计算机程序产品技术领域[0001]本申请涉及人工智能技术领域，具体涉及计算机视觉、图像处理和增强现实技术领域，尤其涉及位置信息的生成方法、装置、电子设备、计算机可读存储介质及计算机程序产品。背景技术[0002]在商场、教学楼、写字楼等现代建筑的室内场景中，存在大量平面且形状为矩形的、较为显著的物体，如海报、招贴画等。为提升在室内GPS信号不佳时的定位、导航精度，通常以这些物体为参考完成定位工作。[0003]现有技术中，通常是在每张图像中提取视觉特征、匹配不同图像中的位于图形框内的特征后，根据匹配结果使用三角测量计算出平面图形框中特征点的三维坐标，并使用这些三维坐标拟合出图形框所在的平面，最后根据拟合出的平面及输入的图形框角点的二维坐标计算图形框的三维坐标。发明内容[0004]本申请实施例提出了一种位置信息的生成方法、装置、电子设备及计算机可读存储介质。[0005]第一方面，本申请实施例提出了一种位置信息的生成方法，包括：根据相近图像帧对中均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程；其中，该目标平面物体在该相近图像帧中任意帧中由相同的图形框框定，该相近图像帧对为帧间隔小于预设间隔的一对图像帧；响应于存在至少两个相同的平面方程，将至少两个相同的平面方程进行合并，得到目标平面方程；根据位于该目标平面方程对应的平面上的该图形框的角点理论坐标和该目标平面物体的重力信息，计算得到该目标平面物体的真实角点坐标。[0006]第二方面，本申请实施例提出了一种位置信息的生成装置，包括：平面方程生成单元，被配置成根据相近图像帧对中均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程；其中，该目标平面物体在该相近图像帧中任意帧中由相同的图形框框定，该相近图像帧对为帧间隔小于预设间隔的一对图像帧；目标平面方程生成单元，被配置成从响应于存在至少两个相同的平面方程，将至少两个相同的平面方程进行合并，得到目标平面方程；位置信息计算单元，被配置成根据位于该目标平面方程对应的平面上的该图形框的角点理论坐标和该目标平面物体的重力信息，计算得到该目标平面物体的真实角点坐标。[0007]第三方面，本申请实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的位置信息的生成方法。5CN112634366A说　明　书2/11页[0008]第四方面，本申请实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的位置信息的生成方法。[0009]第五方面，本申请实施例提供了一种包括计算机程序的计算机程序产品，该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的位置信息的生成方法。[0010]本申请实施例提供的位置信息的生成方法、装置、电子设备及计算机可读存储介质，根据帧间隔小于预设间隔的一对相近图像帧对中，均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程，并将生成的平面方程中相同的平面方程进行合并，得到目标平面方程，最后根据位于该目标平面方程对应的平面上的该图形框的角点理论坐标和该目标平面物体的重力信息，计算得到该目标平面物体的真实角点坐标。[0011]本申请该方法可以克服现有技术中通过每张图片生成位置信息的方法中存在的耗时长、存在误匹配导致重建错误的问题，不仅可以准确的计算图形框的角点在三维空间内的位置，进一步还可以准确的获得真实平面物体的真实三维位置。[0012]应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。附图说明[0013]通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：[0014]图1是本申请可以应用于其中的示例性系统架构；[0015]图2为本申请实施例提供的一种位置信息的生成方法的流程图；[0016]图3为本申请实施例提供的一种位置信息的生成方法中获取重力信息的流程图；[0017]图4为本申请实施例提供的另一种位置信息的生成方法的流程图；[0018]图5为本申请实施例提供的在一应用场景下的位置信息的生成方法的效果示意图；[0019]图6为本申请实施例提供的一种位置信息的生成装置的结构框图；[0020]图7为本申请实施例提供的一种适用于执行位置信息的生成方法的电子设备的结构示意图。具体实施方式[0021]下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。[0022]需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。[0023]图1示出了可以应用本申请的位置信息的生成方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构100。[0024]如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。6CN112634366A说　明　书3/11页网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。[0025]用户可以使用终端设备101、102、103通过网络104与服务器105交互，以发送图像帧、接收目标平面物体的真实角点坐标等。终端设备101、102、103和服务器105上可以安装有各种用于实现两者之间与获取真实位置信息、场景信息有关的应用，例如地图导航类应用、生活推荐类应用、虚拟现实类应用等。[0026]终端设备101、102、103和服务器105可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等；当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中，其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器；服务器为软件时，可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。[0027]服务器105通过内置的各种应用可以提供各种服务，以可以提供室内路线导航的地图导航类应用为例，服务器105在运行该地图导航类应用时可实现如下效果：首先，通过网络104从终端设备101、102、103中获取帧间隔小于预设间隔的一对图像帧，并根据相近图像帧对中均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程，其中，目标平面物体在该相近图像帧中任意帧中由相同的图形框框定；然后，服务器105响应于存在至少两个相同的平面方程，将至少两个相同的平面方程进行合并，得到目标平面方程；最后，服务器105根据位于该目标平面方程对应的平面上的该图形框的角点理论坐标和该目标平面物体的重力信息，计算得到该目标平面物体的真实角点坐标。[0028]需要指出的是，相近图像帧对除可以从终端设备101、102、103通过网络104获取到之外，也可以通过各种方式预先存储在服务器105本地。因此，当服务器105检测到本地已经存储有这些数据时(例如开始处理之前留存的待处理位置信息生成任务)，可选择直接从本地获取这些数据，在此种情况下，示例性系统架构100也可以不包括终端设备101、102、103和网络104。[0029]由于基于相近图像帧对确定目标平面物体的真实角点坐标需要占用较多的运算资源和较强的运算能力，因此本申请后续各实施例所提供的位置信息的生成方法一般由拥有较强运算能力、较多运算资源的服务器105来执行，相应地，位置信息的生成装置一般也设置于服务器105中。但同时也需要指出的是，在终端设备101、102、103也具有满足要求的运算能力和运算资源时，终端设备101、102、103也可以通过其上安装的地图导航类应用完成上述本交由服务器105做的各项运算，进而输出与服务器105同样的结果。尤其是在同时存在多种具有不同运算能力的终端设备的情况下，但地图导航类应用判断所在的终端设备拥有较强的运算能力和剩余较多的运算资源时，可以让终端设备来执行上述运算，从而适当减轻服务器105的运算压力，相应的，位置信息的生成装置也可以设置于终端设备101、102、103中。在此种情况下，示例性系统架构100也可以不包括服务器105和网络104。[0030]应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。[0031]请参考图2，图2为本申请实施例提供的一种位置信息的生成方法的流程图，其中7CN112634366A说　明　书4/11页流程200包括以下步骤：[0032]步骤201，根据相近图像帧对中均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程。[0033]在本实施例中，由位置信息的生成方法的执行主体(例如图1所示的服务器105)获取相近图像帧对，并根据相近图像帧对中均包含有的目标平面物体的匹配特征对的三维空间坐标构建相应的平面方程。[0034]在组成相近图像帧对中的相近图像帧为同一场景图像帧集合中帧间隔小于预设间隔的一对图像帧，该场景图像帧集合为在包含目标平面物体的同一场景下连续拍摄的多个图像帧组成，在获取到相近图像帧对后，可以从中提取到包含有目标平面物体的匹配特征对。[0035]其中，目标平面物体位于相近图像帧中任意帧中由相同的图形框框定，图像框可以由上述执行主体通过图像识别进行确定，也可以根据用户的实际需求由用户进行手工确定，该图形框是可以完全框定目标平面物体的、面积最小的，与目标平面图形的平面形状一致的图形框。[0036]应当理解的是，因不同图像帧的对于同一目标平面物体的拍摄角度可能不同，导致同一平面物体在图像帧中呈现出的姿态、大小并不相同，本实施例中所指相同的图形框的判断标准为是否包含有同一目标平面物体，即在同时包含有同一目标平面无图的图形框即为相同的图形框，并不要求多个图形框之间具有相同的尺寸、形状。[0037]在每个图像帧中提取图像特征，使用的具体图像特征本实施例中不做限制，可以是尺度不变特征变化(Scale‑invariant feature transform，简称SIFT)、快速特征点提取和描述的算法ORB(Oriented FAST and Rotated BRIEF，简称ORB)等方法进行提取，图像特征由对应的特征向量及特征点的二维坐标构成。[0038]对于某个图像帧，将其与相邻的帧间隔小于预设间隔的图像帧进行特征匹配。[0039]示例性的，对第M张帧图像中的特征与第M‑2张帧图像中的特征进行匹配，得到两个帧图像之间的特征匹配关系，能够匹配上的特征被称为匹配特征对。该特征匹配的过程具体可以为：计算特征向量之间的距离；找到如果图像M特征F1到图像M‑2中其距离最近的特征F2之间的距离D1，特征F1到其距离次近的特征F3之间的距离D2，如果D1/D2