用于训练人工神经网络的方法与流程 专利技术说明

计算;推算;计数设备的制造及其应用技术用于训练人工神经网络的方法背景技术：1.如果借助于多个机动车辆的相应的环境传感器来检测同一场景，则与该检测相对应的图像通常会重叠。这些图像的相应的相同的特征通常具有偏移。2.在这些机动车辆中，例如可以使用人工神经网络，以便从相应的图像中提取特征。3.所提取的特征例如可以由这些机动车辆发送给远程服务器，该远程服务器例如可以是云基础设施的一部分。该服务器可以将这些特征对齐，以便例如创建数字地图。云上的算法可以使用这些特征，以便基于所提取的特征来使这些机动车辆的各个行程彼此对齐。4.在这种情况下，需要所要发送的特征一方面适合于高效对齐。另一方面，所要发送的特征的数据量不应该太大，原因在于带宽通常是有限的。技术实现要素：5.本发明所基于的任务在于：提供一种用于高效训练人工神经网络的设计。6.该任务借助于独立权利要求的相应的主题来被解决。本发明的有利的设计方案是相应从属权利要求的主题。7.根据第一方面，提供一种用于训练人工神经网络的方法，该方法包括如下步骤：接收训练数据信号，这些训练数据信号包括用于训练人工神经网络的训练数据，其中这些训练数据包括基础设施的第一图像的第一图像数据和该基础设施的第二图像的第二图像数据，其中第一图像包括第一特征而且其中第二图像包括与该第一图像相对应的第二特征，其中这些训练数据包括在该第一特征与该第二特征之间的目标相对平移和目标相对旋转；基于这些训练数据来训练人工神经网络，其中该训练包括如下步骤：借助于人工神经网络，从第一图像中提取第一特征并且从第二图像中提取第二特征，其中通过具有第一数据量的第一特征数据来表示所提取的第一特征，而且其中通过具有第二数据量的第二特征数据来表示所提取的第二特征，借助于人工神经网络，确定在所提取的第一特征与所提取的第二特征之间的相对平移和相对旋转，其中该人工神经网络一直被训练，直至与特征的姿态有关并且与该第一数据量和/或该第二数据量有关的损失函数具有最小值或者小于或小于等于预先给定的损失函数阈值为止。8.根据第二方面，提供一种人工神经网络，该人工神经网络借助于根据第一方面的方法来被训练。9.根据第三方面，提供一种用于从机动车辆的周围环境的图像中提取特征的方法，该方法包括如下步骤：接收图像数据信号，这些图像数据信号表示该机动车辆的周围环境的图像的图像数据；借助于根据第二方面的人工神经网络，从该图像中提取特征；输出特征信号，这些特征信号表示所提取的特征。10.根据第四方面，提供一种设备，该设备被设立为实施根据第一方面和/或根据第三方面的方法的所有步骤。11.根据第五方面，提供一种计算机程序，该计算机程序包括指令，在由计算机、例如由根据第四方面的设备来执行该计算机程序时，这些指令促使该计算机实施根据第一方面和/或根据第三方面的方法。12.根据第六方面，提供一种机器可读存储介质，在其上存储有根据第五方面的计算机程序和/或根据第二方面的人工神经网络。13.本发明基于并且一并包括如下认识：上述任务可以通过如下方式来予以解决：损失函数不仅与特征的姿态有关，而且与描述所提取的特征的特征数据的数据量有关。14.由此，例如带来了如下技术优点：借助于经训练的人工神经网络来从图像中提取特征不仅有关所提取的特征对于高效对齐的适用性来予以优化，而且有关尽可能小的数据量来予以优化。15.由此，可以高效地使用带宽来发送所提取的特征，其中同时远程服务器可以将所提取的特征高效地对齐。16.因此，尤其是带来了如下技术优点：提供了一种用于高效训练人工神经网络的设计。17.在一个实施方式中规定：人工神经网络包括cnn（卷积神经网络）和fcn（全连接网络），其中cnn的输出端与fcn的输入端连接，其中向cnn的输入端提供第一图像数据和第二图像数据。fcn可以翻译成德文“voll-verbundenes neuronales netzwerk”。cnn可以翻译成德文“faltendes neuronales netzwerk”。18.由此，例如带来了如下技术优点：可以高效地提取特征。19.在一个实施方式中规定：所提取的特征被量化为使得第一特征数据和第二特征数据都是整数。20.由此，例如带来了如下技术优点：数据可以高效地被转换成如下格式，该格式例如被用于在根据第三方面的方法的一个实施方式中将所提取的特征经由通信网络从机动车辆发送给远程服务器。21.由此，例如进一步带来了如下技术优点：可以高效地确定这些特征数据的数据量。22.根据一个实施方式，该量化包括软量化。在英文中，针对“软量化”使用“soft quantization”。软量化的示例例如在f. mentzer、e. agustsson、m. tschannen、r. timofte和l. v. gool的“conditional probability models for deep image compression（深度图像压缩的条件概率模型）”，ieee conference on computer vision and pattern recognition（ieee 计算机视觉和模式识别会议） (cvpr)，2018年中得以找到。23.在一个实施方式中规定：该损失函数通过如下数学等式来被限定：，其中是该损失函数，其中是与特征的姿态相关的损失函数，其中是与第一特征数据的第一数据量相关和/或与第二特征数据的第二数据量相关的损失函数。24.由此，例如带来了如下技术优点：该损失函数高效地被限定。25.在一个实施方式中规定：，其中第一参数，其中是期望值，其中是第一特征数据和/或第二特征数据，其中是第一数据量和/或第二数据量。26.由此，例如带来了如下技术优点：该损失函数关于第一数据量和/或第二数据量高效地被限定。27.在一个实施方式中规定：，其中是期望值，其中是目标相对平移，其中是相对平移，其中是超参数，其中是目标相对旋转，其中是相对旋转。28.由此，例如带来了如下技术优点：该损失函数关于该姿态高效地被限定。29.在一个实施方式中规定：，其中是期望值，其中是目标相对平移，其中是相对平移，其中是目标相对旋转，其中是相对旋转，其中是第二参数，其中是第三参数。30.由此，例如带来了如下技术优点：该损失函数关于该姿态高效地被限定。尤其是，这种损失函数特别鲁棒。31.在一个实施方式中规定：对人工神经网络的训练包括：训练第二参数和/或第三参数。32.由此，例如带来了如下技术优点：可以高效地确定第二参数和/或第三参数。33.根据一个实施方式，超参数或参数使损失函数l的各个部分相对于彼此来加权。这些超参数或参数尤其是在训练时被处理。也就是说，这些超参数或参数尤其可以被训练。34.在一个实施方式中，图像是从如下图像组中选择的元素：视频图像、超声图像、激光雷达图像、雷达图像、红外图像、磁场图像。35.根据一个实施方式，该基础设施包括一个或多个基础设施元素。36.根据一个实施方式，基础设施元素是从如下基础设施元素组中选择的元素：道路、人行道、建筑物、交通信号系统、路灯、柱子、桥梁、停车场、路牌。37.根据一个实施方式，该基础设施包括用于车辆、尤其是机动车辆的交通基础设施。38.根据一个实施方式，特征是基础设施元素。39.根据一个实施方式，特征是自然元素，例如树、灌木、树篱。40.第二特征对应于第一特征意味着：涉及相同的特征。41.根据一个实施方式规定：根据第一方面和/或根据第三方面的方法是计算机实现的方法。42.根据一个实施方式规定：根据第一方面和/或根据第二方面的方法借助于根据第四方面的设备来被实施或执行。43.设备特征从相对应的方法特征中类似地得出，而且反之亦然。即，这尤其意味着：根据第二方面的设备的技术功能性从根据第一方面和/或根据第三方面的方法的相对应的技术功能性中类似地得出，而且反之亦然。44.缩写“或（bzw.）”代表“或者（beziehungsweise）”，这尤其是代表“respektive”。45.措辞“respektive”尤其是代表“和/或”。46.姿态尤其是由相对旋转和相对平移来限定或规定。即，这尤其意味着：该姿态取决于相对旋转和相对平移。47.借助于人工神经网络所确定的姿态尤其是由借助于人工神经网络所确定的相对旋转并且由借助于人工神经网络所确定的相对平移来限定或规定。即，这尤其意味着：该姿态取决于借助于人工神经网络所确定的相对旋转并且取决于借助于人工神经网络所确定的相对平移。48.目标姿态尤其是由目标相对旋转和目标相对平移来限定或规定。即，这尤其意味着：该目标姿态取决于目标相对旋转和目标相对平移。49.如果使用总称“姿态”，则该总称包括如下措辞：“目标姿态和/或借助于人工神经网络所确定的姿态”。50.如果使用总称“特征数据”，则该总称包括如下措辞：“第一特征数据和/或第二特征数据”。51.如果使用总称“特征”，则该总称包括如下措辞：“第一特征和/或第二特征”。52.如果使用总称“数据量”，则该总称包括如下措辞：“第一数据量和/或第二数据量”。53.数据量也可以称为熵，英文是“entropy”。54.根据一个实施方式，该机动车辆被设立为至少部分自动化地被驾驶。55.根据一个实施方式，该机动车辆包括一个或多个环境传感器。56.根据一个实施方式，环境传感器是如下环境传感器中的一个：雷达传感器、视频传感器、超声传感器、激光雷达传感器、磁场传感器、红外传感器。57.该机动车辆的周围环境的图像基于借助于其中一个环境传感器或者借助于多个环境传感器对该机动车辆的周围环境的检测。附图说明58.本发明的实施例在附图中示出并且在随后的描述中更详细地予以阐述。59.其中：图1示出了用于训练人工神经网络的方法的流程图；图2示出了人工神经网络；图3示出了用于从机动车辆的周围环境的图像中提取特征的方法的流程图；图4示出了设备；图5示出了机器可读存储介质；以及图6示出了框图。60.在下文，针对相同的特征可以使用相同的附图标记。具体实施方式61.图1示出了用于训练人工神经网络的方法的流程图，该方法包括如下步骤：接收101训练数据信号，这些训练数据信号包括用于训练人工神经网络的训练数据，其中这些训练数据包括基础设施的第一图像的第一图像数据和该基础设施的第二图像的第二图像数据，其中第一图像包括第一特征而且其中第二图像包括与该第一图像相对应的第二特征，其中这些训练数据包括在该第一特征与该第二特征之间的目标相对平移和目标相对旋转；基于这些训练数据来训练103人工神经网络，其中该训练包括如下步骤：借助于人工神经网络，从第一图像中提取105第一特征并且从第二图像中提取第二特征，其中通过具有第一数据量的第一特征数据来表示所提取的第一特征，而且其中通过具有第二数据量的第二特征数据来表示所提取的第二特征，借助于人工神经网络，确定107在所提取的第一特征与所提取的第二特征之间的相对平移和相对旋转，其中该人工神经网络一直被训练，直至与特征的姿态有关并且与该第一数据量和/或该第二数据量有关的损失函数具有最小值或者小于或小于等于预先给定的损失函数阈值为止。62.图2示出了人工神经网络201，该人工神经网络借助于根据第一方面的方法来被训练。63.图3示出了用于从机动车辆的周围环境的图像中提取特征的方法的流程图，该方法包括如下步骤：接收301图像数据信号，这些图像数据信号表示该机动车辆的周围环境的图像的图像数据；借助于根据权利要求8所述的人工神经网络从该图像中提取303特征；输出305特征信号，这些特征信号表示所提取的特征。64.在一个实施方式中规定：所提取的特征经由通信网络被发送给远程服务器。65.按照一个实施方式，该通信网络包括无线通信网络和/或有线通信网络。66.按照一个实施方式，无线通信网络包括wlan通信网络和/或蜂窝网络。67.图4示出了设备401。68.该设备401被设立为实施根据第一方面和/或根据第三方面的方法的所有步骤。69.该设备401包括输入端403，该输入端被设立为接收训练数据信号和/或图像数据信号。70.该设备401包括处理器405，该处理器被设立为基于训练数据来训练人工神经网络和/或借助于人工神经网络来从图像中提取特征。71.该处理器405尤其被设立为实施对人工神经网络的训练所包括的步骤。72.该设备401包括输出端407，该输出端被设立为输出特征信号和/或输出训练结果信号，这些训练结果信号表示经训练的人工神经网络。73.图5示出了机器可读存储介质501。74.在机器可读存储介质501上存储有计算机程序503。计算机程序503包括指令，在由计算机来执行计算机程序503时，这些指令促使该计算机实施根据第一方面和/或根据第三方面的方法。75.在机器可读存储介质501上存储有根据第二方面的人工神经网络505。76.在一个未示出的实施方式中规定：在该机器可读存储介质上只存储有计算机程序503或者只存储有人工神经网络505。77.图6示出了框图601。78.该框图601包括第一功能块603并且包括第二功能块605。79.两个功能块603、605是相同的。80.第一功能块603例如在根据第三方面的第一设备中实现。81.第二功能块605例如在根据第三方面的第二设备中实现。82.第一设备例如集成在第一机动车辆中。83.第二设备例如集成在第二机动车辆中。84.两个功能块603、605分别包括人工神经网络607。85.人工神经网络607按照第一方面的方法来被训练。86.人工神经网络607包括卷积神经网络（convolutional neural network）609，在下文简称为cnn。87.人工神经网络607包括全连接网络（fully connected network）611，在下文简称为fcn。88.两个功能块603、605分别包括量化器613。89.cnn 609包括第一输入端615并且包括第一输出端617。90.fcn 611包括第二输入端619并且包括第二输出端621。91.量化器613包括第三输入端623并且包括第三输出端625。92.第一输出端617与第二输入端619连接。93.第二输出端621与第三输入端623连接。94.向按照第一功能块603的第一输入端615提供第一图像数据627。第一图像数据627表示第一机动车辆的第一周围环境的第一图像。95.向按照第二功能块605的第一输入端615提供第二图像数据629。第二图像数据629表示第二机动车辆的第二周围环境的第二图像。96.按照一个实施方式，第一周围环境和第二周围环境可以重叠。97.相应的人工神经网络607从这两个图像中分别提取特征，该特征相对应地被提供给按照第一功能块603和按照第二功能块605的相对应的量化器613的第三输入端623。98.相应的量化器613对所提取的特征进行量化，使得表示相对应的所提取的特征的第一特征数据和第二特征数据都是整数。99.借助于相应的量化器613的输出端625来输出经过量化的特征。100.按照第一功能块603的量化器613的第三输出端625输出经过量化的所提取的第一特征631。101.按照第二功能块605的量化器613的第三输出端625输出经过量化的所提取的第二特征633。102.在该框图601中绘制了垂直虚线635。103.该垂直虚线象征性地表示：两个经过量化的所提取的特征631、633经由通信网络从相应的机动车辆被发送给远程服务器637。104.服务器637包括另一人工神经网络639，按照一个实施方式，该另一人工神经网络可以是另一fcn。105.借助于该另一人工神经网络639，使这两个经过量化的所提取的特征631、633对齐，英文是“aligned”，以便确定与这两个特征相关的相对旋转和相对平移。106.所确定的相对平移和所确定的相对旋转限定了特征的姿态641。107.这里所描述的设计尤其是主要具有如下优点：所提取的特征可以紧凑地被表示，这引起关于数据传输的更低的要求。108.因此，尤其是能看到如下优点：能够实现高效的数据率。109.此外，这里所描述的设计尤其具有如下优点：所提取的特征可以高效地被存储，因为这些特征与例如原始数据相比需要更少的存储空间，这些原始数据例如表示该周围环境的原始图像。110.由此，例如带来了如下技术优点：对所提取的特征进行处理和存储的服务器需要更少的存储空间和/或更少的计算能力。









图片声明：本站部分配图来自人工智能系统AI生成,觅知网授权图片,PxHere摄影无版权图库。本站只作为美观性配图使用,无任何非法侵犯第三方意图,一切解释权归图片著作权方,本站不承担任何责任。如有恶意碰瓷者,必当奉陪到底严惩不贷!




内容声明：本文中引用的各种信息及资料（包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主体（包括但不限于公司、媒体、协会等机构）的官方网站或公开发表的信息。部分内容参考包括:(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供参考使用,不准确地方联系删除处理！本站为非盈利性质站点,发布内容不收取任何费用也不接任何广告!




免责声明：我们致力于保护作者版权，注重分享，被刊用文章因无法核实真实出处，未能及时与作者取得联系，或有版权异议的，请联系管理员，我们会立即处理，本文部分文字与图片资源来自于网络，部分文章是来自自研大数据AI进行生成,内容摘自(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供学习参考,不准确地方联系删除处理!的,若有来源标注错误或侵犯了您的合法权益，请立即通知我们，情况属实，我们会第一时间予以删除，并同时向您表示歉意,谢谢!