一种流量调度的方法及装置与流程 专利技术说明

电子通信装置的制造及其应用技术1.本技术实施例涉及计算机技术领域，尤其涉及一种流量调度的方法及装置。背景技术：2.云服务提供商为用户提供云计算服务，需要使用互联网服务提供商(internet service provider，isp)所提供的基础网络设施。一般来说，绝大部分isp对云服务提供商所使用的线路进行收费时，是采用基于峰值使用量的计费方式。该计费方式中，它允许线路上使用流量在短时间内超过指定的阈值，但不会收取额外的费用。3.云服务提供商为了降低线路费用，可以采用基于线路流量预测的调度方式，其中线路流量预测就是根据各线路的历史数据(如线路过去一个月的流量数据)，预测该线路在未来一段时间的流量波形以及计费点。然后，根据预测的流量波形及计费点，在线路的流量峰值时段对用户的接入请求进行调度，进而影响线路的计费值，降低成本。4.上述基于线路流量预测的调度方式中，对流量预测的准确性要求较高。因此，如何提高流量预测的准确性从而降低线路费用是一个亟需解决的技术问题。技术实现要素：5.本技术实施例提供了一种流量调度的方法及装置，用于提高流量调度的准确性。6.第一方面，本技术实施例提供了一种流量调度的方法，云服务提供商提供了多条线路供用户使用，其中，每条线路都可以承载来自各个接入点的线路接入请求的流量需求。7.本技术提供了基于人工智能系统的流量调度模型，其中，该流量调度模型可以通过每条线路的历史流量数据，来生成每条线路在目标周期内的预测流量，其中，所生成的预测流量可以是时间-流量曲线，也可以是以表格形式进行存储的时间-流量序列，或者还可以是其他的存储形式，此处不做限定。通过所生成的预测流量的指示，可以得到未来时间(目标周期)内，该线路的流量的峰值时段及峰值最大流量。其中，线路的流量峰值大小是决定该线路的流量调度方向(调入或调出)的重要依据之一，线路峰值时段则是决定调度时机的重要依据之一。8.具体的，在决策生成模块中，首先需要获取各个线路的历史流量数据，以这些历史流量数据作为模型的训练样本，构建流量预测模型，从而用于输出预测流量。其中，每条线路的预测流量，都是基于该线路自身的历史流量数据独立预测得到的，即各个线路之间的预测流量的生成流程互不干扰。以线路包括线路1和线路2为例，线路1的历史流量数据用于生成线路1的预测流量，而线路2的历史流量数据则用于生成线路2的预测流量，从而使得每条线路的预测流量与该线路的特性更加贴合。9.本技术中的目标周期，指的是当前流量调度策略的执行周期，即针对于目标周期的流量调度策略，仅对目标周期内的线路接入请求生效。在目标周期的时间内所发起的线路接入请求，都会根据该目标周期对应的流量调度策略来进行调度。而当时间超过了目标周期的时间内的线路接入请求，则会依据目标周期的下一个单位周期的流量调度策略来进行调度。10.本技术中，流量调度策略的生成需要结合多个方面的因素，具体的，在生成每条线路的预测流量(得到多个预测流量)之后，根据多个预测流量以及每条线路在历史周期内的历史流量调度策略，生成针对于目标周期的流量调度策略。其中，每条线路的历史流量调度策略指的是，该线路在该历史周期内所执行的历史流量调度策略，则对于所生成的针对于目标周期的流量调度策略，则用于从多个线路中确定至少一个目标线路，该目标线路用于承载目标周期内的线路接入请求的流量需求。换句话说，流量调度策略决定了流量的调度方向(即调入或调出)。以线路为线路1和线路2为例，假设所生成的流量调度策略指示了线路1为目标线路，那么在目标周期内(例如8点钟至9点钟)内的线路接入请求，会转发到线路1中去执行，由线路1去承载这些线路接入请求的流量需求。应理解，本技术中，目标线路的数量是可以根据实际需要进行动态调整的，即目标线路可以是2条线路中的1条线路，或者，也可以是3条线路中的1条线路，或者，也可以是3条线路中的其中2条线路，或者还可以是其他的数量分配方式，具体此处不做限定。11.流量调度策略有其自身的调度规则，当线路接入请求满足该调度规则后，则会触发该流量调度策略，便可以按照该流量调度策略进行调度到目标线路中去执行。其中，流量调度策略是根据历史流量调度策略和多个预测流量确定的，有效地利用了历史流量调度策略和对应的调度策略执行数据，进一步地提升了流量调度策略的合理性，提升了流量调度策略的执行效率。12.另一方面，流量调度策略的执行往往还需要考虑到负载均衡、线路自身属性或者某些线路接入请求的特定性等约束条件。示例性的，某些线路接入请求中，已经指示了该线路接入请求不允许被调度到某个线路，或者必须被调度到某个线路当中时，则该流量调度策略并不会对该线路接入请求生效；又或者，在执行流量调度的过程中，也应当参照各个线路本身的流量数据，例如当目标线路的带宽使用值已经达到上限(带宽阈值)时，则不应当再继续往该目标线路调入线路接入请求。因此，流量调度策略的执行，也应当结合实际情况，使得流量调度的过程更加灵活。13.进一步的，对于目标周期的流量调度策略，以及在目标周期内所产生的实际的流量数据(即策略执行数据)，则又可以作为下一个周期的流量调度策略的依据，不断地复用迭代，不断地将上一个周期的流量调度策略和策略执行数据反馈到下一个周期的流量调度策略生成流程当中。14.本技术中，将过往的历史流量数据和历史流量调度策略，进一步反馈到流量调度策略的确定流程当中，因此所生成的流量调度策略了历史周期的历史流量数据和历史流量调度策略，能够及时适应每条线路的流量数据的实时变化，提高了流量调度的准确性。15.基于第一方面，一种可选的实施方式中，对于每个历史周期而言，都有在其自身周期时所执行的流量调度策略，即本技术的历史流量调度策略。换句话说，每条线路的历史流量调度策略指的是，该线路在该历史周期内所执行的历史流量调度策略。一方面，由于该历史流量调度策略也是根据历史周期所对应的预测流量来生成的，因此，该历史流量调度策略也指示了这些预测流量经过调度之后所产生的流量数据，换句话说，该历史流量调度策略指示了各个线路在历史周期内进行流量调度所产生的流量数据，这是一种计划的、期望的流量数据，这是一种原计划的、期望的流量数据；另一方面，该历史流量调度策略在历史周期内的执行过程中所产生的流量数据(即本技术中的调度策略执行数据)，往往相较于历史流量调度策略原计划的流量数据也会有一些误差，例如存在异常流量、突发性的高并发访问或突发性的高带宽访问等等原因，都会导致该线路在历史周期内的调度策略执行数据偏离预期。对此，本技术中，可以获取在历史周期内多个线路各自的调度策略执行数据，以及在历史周期内的历史流量调度策略，并计算每个线路的调度策略执行数据和历史流量调度策略之间的执行残差，得到多个线路各自的执行残差，每条线路的执行残差则表示了历史流量调度策略与该线路实际产生的调度策略执行数据之间的偏差。然后，将这些执行残差与多个预测流量共同作为流量预测模型的输入，从而输出各个线路的预测流量。16.本技术中，在每条线路的预测流量时，了线路在历史周期内的调度策略执行数据和历史流量调度策略之间的执行残差，并将执行残差反馈到生成流量调度策略的过程当中，因此所获得的各个线路的预测流量能够及时响应历史周期(包括上一个周期)内的异常流量、突发流量，以及对该历史流量调度策略所产生的偏差进行及时反馈、及时修正，从而进一步提高了所生成的预测流量的准确性。17.基于第一方面，一种可选的实施方式中，每条线路的执行残差表示了历史流量调度策略与该线路实际产生的调度策略执行数据之间的偏差。对此，本技术中，还可以将所获取到的多个执行残差与多个预测流量结合，生成目标周期的流量调度策略。具体的，可以构建神经网络模型，在该神经网络模型的训练阶段，以多个线路对应的多个执行残差和多个预测流量作为该神经网络模型的训练数据，以下一个周期的流量调度策略为神经网络模型的输出，以该下一个周期的执行残差(即下一个周期的流量调度策略与实际所产生的策略执行数据之间的差异)作为损失函数，不断地优化该神经网络模型的参数，待该神经网络模型训练完毕后，便可以根据多个执行残差和多个预测流量获取目标周期的流量调度策略。在实际应用中，该神经网络模型的输入除了执行残差和预测流量之外，还可以将其他的因素作为并列的输入，例如线路基础属性(线路带宽阈值或线路负载)等，进一步丰富该神经网络模型。18.本技术中，在生成目标周期的流量调度策略时，参考了线路在历史周期内的调度策略执行数据和历史流量调度策略之间的执行残差，并将执行残差反馈到生成流量调度策略的过程当中，使得新生成的流量调度策略能够及时响应历史周期(包括上一个周期)内的异常流量、突发流量，以及对该历史流量调度策略所产生的偏差进行及时反馈、及时修正，从而进一步提高了新生成的流量调度策略的准确性。19.基于第一方面，一种可选的实施方式中，线路的历史流量数据指的是在生成预测流量之前已经发生了的流量数据，进一步的，为了使得所生成的目标周期内的预测流量更加准确，本技术中，历史流量数据包括历史周期的策略执行数据，该策略执行数据为该历史周期所实际发生的流量数据，而这些实际发生的流量数据，也是基于该历史周期内的历史流量调度策略的控制下发生的，其中，历史周期包括目标周期的上一个周期，每个单位周期的时长与目标周期的时长是相等的。本技术中，将目标周期的上一个周期及时地反馈到流量预测模型当中，因此，所生成的预测流量很好地结合了最近的周期的实时流量，提高了预测流量的准确性。20.基于第一方面，一种可选的实施方式中，流量调度的最终目的是降低整体线路(多个线路)的累计费用，节省成本。因此，可以配置目标函数，然后根据目标函数、多个线路的历史流量调度策略和多个预测流量，获取目标周期的流量调度策略，其中该目标函数指示所有线路的累计流量花费最小。21.具体的，决策生成模块除了根据历史流量数据生成预测流量之外，还可以根据历史流量数据生成线路未来的预测计费值。与生成预测流量的方法相类似，本技术中，线路的预测计费值的预测流程也是周期性的，但是，两者的预测周期可以不同步。一般来说，在实际应用中isp对于云服务提供商的线路收费是按月计费的，因此，每个月的计费值相较于下一个月来说，具有较高的可性。因此，本技术中，生成预测计费值的周期相较于生成预测流量的周期可以频率低一些。示例性的，可以每星期生成当前月份的预测计费值，而随着时间的推移，当前月份的流量数据已经逐步累积了，例如在当前月份的第三个星期来当前月份的预测计费值时，此时当前月份的流量数据已经实际产生了，则基于这些实际的流量数据进行预测，可以获得更加准确的预测计费值。22.在获得了各个线路的预测计费值之后，以使得所有线路的累计流量花费(即所有线路的预测计费值的累计值)最小作为目标函数，并结合历史流量调度策略和多个预测流量，获取目标周期的流量调度策略。本技术中，预测计费值是该流量调度策略中，流量调度发生时间、调度方向和调度流量大小等决策的重要依据，从而对各条线路流量及调度进行精确控制，有效降低整体线路的成本。23.基于第一方面，一种可选的实施方式中，在执行流量调度策略的过程中，若突发流量或异常流量过多，则有可能导致某一条线路出现过载(例如超出该线路的负载达到了带宽阈值)的情况，从而没办法再继续往该线路继续调入线路接入请求了，即该线路没办法完全执行原计划的流量调度策略。因此，在这种情况下，在目标周期内获取到线路接入请求后，根据目标周期的流量调度策略和每一个线路在目标周期内所产生的流量，来确定每一条线路是否仍然具备完全执行该流量调度策略的能力，从而确定出具备执行该流量调度策略的能力的线路，继续将这些线路用于响应后续的线路接入请求。本技术中，在目标周期内执行流量调度策略的过程中，继续对每个线路在目标周期内所产生的流量进行监督，从而辅助流量调度策略的执行过程，提高流量调度策略的执行效率。24.基于第一方面，一种可选的实施方式中，本技术的历史流量数据可以包括线路的带宽阈值、异常流量或带宽使用值的至少一种，即在生成预测流量的过程中，可以输入线路的线路属性(带宽阈值)，也可以输入历史周期内所产生的流量数据(异常流量或带宽使用值)。25.第二方面，本技术实施例提供了一种流量调度装置，包括：26.获取单元，用于根据多个线路的历史流量数据，获取多个线路对应的多个预测流量；27.生成单元，用于根据多个线路的历史流量调度策略和多个预测流量，生成目标周期的流量调度策略，流量调度策略用于从多个线路中确定至少一个目标线路，目标线路用于承载目标周期内的线路接入请求的流量需求。28.本方面所示实施例的信息交互和执行过程等内容，与第一方面所示的实施例基于同一构思，因此，本方面所示的有益效果的说明，请详见上述第一方面所示，具体此处不做赘述。29.基于第二方面，一种可选的实施方式中，获取单元具体用于：30.获取每个线路在历史周期内的调度策略执行数据和历史流量调度策略；31.获取每个线路的调度策略执行数据和历史流量调度策略之间的执行残差；32.根据每个线路的历史流量数据和执行残差，获取多个线路对应的多个预测流量。33.基于第二方面，一种可选的实施方式中，生成单元具体用于：34.根据执行残差和多个预测流量获取目标周期的流量调度策略。35.基于第二方面，一种可选的实施方式中，历史流量数据包括历史周期的调度策略执行数据，其中，历史周期包括目标周期的上一个周期。36.基于第二方面，一种可选的实施方式中，生成单元具体用于：37.获取目标函数，目标函数指示多条线路的总花费最小；38.根据目标函数、多个线路的历史流量调度策略和多个预测流量，获取目标周期的流量调度策略。39.基于第二方面，一种可选的实施方式中，获取单元还用于：40.获取线路接入请求；41.根据流量调度策略和每一个线路在目标周期已所产生的流量，确定用于响应线路接入请求的线路。42.基于第二方面，一种可选的实施方式中，历史流量数据包括线路的带宽阈值、异常流量或带宽使用值的至少一种。43.第三方面，本发明实施例提供了一种计算机设备，包括存储器、通信接口及与所述存储器和通信接口耦合的处理器；所述存储器用于存储指令，所述处理器用于执行所述指令，所述通信接口用于在所述处理器的控制下与其他设备进行通信；其中，所述处理器执行所述指令时执行上述任一方面所述的流量调度的方法。44.第四方面，本技术实施例提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，当其在计算机上运行时，使得计算机执行上述任一方面所述的流量调度的方法。45.第五方面，本技术实施例提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，当其在计算机上运行时，使得计算机执行上述任一方面所述的流量调度的方法。46.第六方面，本技术实施例提供了一种芯片系统，该芯片系统包括处理器，用于实现上述各个方面中所涉及的功能，例如，发送或处理上述方法中所涉及的数据和/或信息。在一种可能的设计中，所述芯片系统还包括存储器，所述存储器，用于保存服务器或通信设备必要的程序指令和数据。该芯片系统，可以由芯片构成，也可以包括芯片和其他分立器件。47.从以上技术方案可以看出，本技术实施例具有以下优点：48.本技术提供了一种流量调度的方法及相关装置，根据多个线路的历史流量数据，获取多个线路对应的多个预测流量；根据多个线路的历史流量调度策略和多个预测流量，获取目标周期的流量调度策略，流量调度策略用于从多个线路中确定至少一个目标线路，目标线路用于承载目标周期内的线路接入请求的流量需求。本技术中，将过往的历史流量数据和历史流量调度策略，进一步反馈到流量调度策略的确定流程当中，因此所生成的流量调度策略了历史周期的历史流量数据和历史流量调度策略，能够及时适应每条线路的流量数据的实时变化，提高了流量调度的准确性。附图说明49.为了更清楚地说明本技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。50.图1为人工智能主体框架的一种结构示意图；51.图2为多节点的云服务提供商的架构示意图；52.图3为云服务提供商的线路计费模式的示意图；53.图4为云服务提供商对各线路的流量进行调度的示意图；54.图5为传统的流量调度装置的示意图；55.图6为本技术实施例中流量调度的方法的流程示意图；56.图7为本技术实施例提供的一种流量调度装置的结构示意图；57.图8为本技术实施例提供的计算机设备一种结构示意图。具体实施方式58.本技术实施例提供了一种流量调度的方法及装置，用于提高流量调度的准确性。59.下面结合本发明实施例中的附图对本发明实施例进行描述。本发明的实施方式部分使用的术语仅用于对本发明的具体实施例进行解释，而非旨在限定本发明。本领域普通技术人员可知，随着技术的发展和新场景的出现，本技术实施例提供的技术方案对于类似的技术问题，同样适用。60.本技术中，“至少一个”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b的情况，其中a,b可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指的这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a,b,或c中的至少一项(个)，可以表示：a,b,c,a-b,a-c,b-c,或a-b-c，其中a,b,c可以是单个，也可以是多个。61.本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。62.首先对人工智能系统总体工作流程进行描述，请参见图1，图1示出的为人工智能主体框架的一种结构示意图，下面从“智能信息链”(水平轴)和“it价值链”(垂直轴)两个维度对上述人工智能主题框架进行阐述。其中，“智能信息链”反映从数据的获取到处理的一列过程。举例来说，可以是智能信息感知、智能信息表示与形成、智能推理、智能决策、智能执行与输出的一般过程。在这个过程中，数据经历了“数据—信息—知识—智慧”的凝练过程。“it价值链”从人智能的底层基础设施、信息(提供和处理技术实现)到系统的产业生态过程，反映人工智能为信息技术产业带来的价值。63.(1)基础设施。64.基础设施为人工智能系统提供计算能力支持，实现与外部世界的沟通，并通过基础平台实现支撑。通过传感器与外部沟通；计算能力由智能芯片来提供，例如，中央处理器(central processing units，cpu)、嵌入式神经网络处理器(neural-network processing unit，npu)、图形处理器(graphics processing unit，gpu)、专用集成电路(application specific integrated circuit，asic)、现场可编程逻辑门阵列(field programmable gate array，fpga)等硬件加速芯片；基础平台包括分布式计算框架及网络等相关的平台保障和支持，可以包括云存储和计算、互联互通网络等。举例来说，传感器和外部沟通获取数据，这些数据提供给基础平台提供的分布式计算系统中的智能芯片进行计算。65.(2)数据。66.基础设施的上一层的数据用于表示人工智能领域的数据来源。数据涉及到图形、图像、语音、文本，还涉及到传统设备的物联网数据，包括已有系统的业务数据以及力、位移、液位、温度、湿度等感知数据。67.(3)数据处理。68.数据处理通常包括数据训练，机器学习，深度学习，搜索，推理，决策等方式。69.其中，机器学习和深度学习可以对数据进行符号化和形式化的智能信息建模、抽取、预处理、训练等。70.推理是指在计算机或智能系统中，模拟人类的智能推理方式，依据推理控制策略，利用形式化的信息进行机器思维和求解问题的过程，典型的功能是搜索与匹配。71.决策是指智能信息经过推理后进行决策的过程，通常提供分类、排序、预测等功能。72.(4)通用能力。73.对数据经过上面提到的数据处理后，进一步基于数据处理的结果可以形成一些通用的能力，比如可以是算法或者一个通用系统，例如，翻译，文本的分析，计算机视觉的处理，语音识别，图像的识别等等。74.(5)智能产品及行业应用。75.智能产品及行业应用指人工智能系统在各领域的产品和应用，是对人工智能整体解决方案的封装，将智能信息决策产品化、实现落地应用，其应用领域主要包括：智能终端、智能交通、智能医疗、自动驾驶、智慧城市等。76.本技术中，将人工智能系统应用于云计算服务中，利用人工智能系统来执行流量调度的任务。云服务提供商为用户提供云计算服务，需要使用互联网服务提供商(internet service provider，isp)所提供的基础网络设施。请参阅图2，图2为多节点的云服务提供商的架构示意图。如图2所示，该云服务系统中，云服务提供商提供了华北-北京、华南-广州以及华东-上海这三个接入点，供客户接入该云服务提供商的云服务。77.一般来说，绝大部分isp对云服务提供商所使用的线路进行收费时，是采用基于峰值使用量的计费方式。该计费方式中，它允许线路上使用流量在短时间内超过指定的阈值，但不会收取额外的费用。请参阅图3，图3为云服务提供商的线路计费模式的示意图。如图3所示，该计费模式属于95分位点计费(95th percentile charging)模式。示例性的，该线路的流量波形中，把一个结算时间(通常为一个月按30天计算)里的流量，按每5分钟统计一次，取流量最高值做一个点，这样一个月会得到8640个流量峰值点。把采样的流量峰值点排序，去掉高流量的5％的点，剩下95％的计费点用来计算费用。按照计费规则，需要计费的点数是8208个点，剩下432个点不用计费，即线路每月有不超过36小时的异常大带宽(流量)，不影响线路本月的计费。换句话说，图3的阴影矩形面积的流量，isp是不需要对其进行计费的。78.因此，利用这种计费模式的特点，节省线路流量成本，提升用户服务质量以及产品的竞争力是各云服务提供商长期追求的目标。云服务提供商通过控制不同时间段的用户请求接入不同的接入点来调整各线路的流量，充分利用不计费时间段，降低计费点，从而降低线路费用。79.请参阅图4，图4为云服务提供商对各线路的流量进行调度的示意图。如图4所示，左边是调度前线路1和线路2的流量波形，右边是调度后线路1和线路2的流量波形。可以看出，在保持线路总流量不改变的前提下，通过在高峰时段将线路2的一部分流量调度到线路1，从而降低了线路2整体的计费点；另一方面，在线路1中，由于计费规则忽略了高流量的5％的点，因此将来自线路2的流量堆叠到线路1后，并没有导致线路1的计费点的提升。因此，线路1的计费点不变，而线路2的计费点下降，所以总的来说，isp对线路1和线路2这两条线路的累计计费是降低了的。应理解，以上只是流量调度逻辑的简单示例，在实际的应用场景中，各个线路的流量波形是非常复杂的，流量的调度也是非常复杂的。80.在上述图4所示的流量调度模式中，往往采用人工智能系统对各个线路未来的流量进行预测，根据预测得到的流量来进行调度。具体的，一般来说是根据各线路的历史流量数据(如线路过去一个月流量数据或过去一星期的流量数据)，预测对应线路流量未来一段时间的流量波形及计费点。然后，根据预测得到的每条线路的流量波形及计费点，在线路的流量峰值时段对用户所发起的线路接入请求进行调度控制，从而影响各个线路计费值，降低整体线路的成本。81.请参阅图5，图5为传统的流量调度装置的示意图。如图5所示，该流量调度装置中，存在流量预测模块。在实际应用中，将各线路的历史数据输入流量预测模块，流量预测模块可以输出各线路未来某个周期的流量波形及计费点，根据各个线路的流量波形(线路流量峰值大小和流量峰值时间等)及计费点生成流量调度策略，将流量调度策略输入转发控制模块，在该周期内由转发控制模块根据该流量调度策略对各个线路的流量进行调度，从而影响各线路未来的流量走势，降低整体线路的计费点，节省成本。82.然而，在实际应用中，各个线路往往存在突发流量或异常大流量等，而由于传统的流量调度装置是基于历史流量数据来预测未来一段时间的流量，所以对于这些突发流量或异常大流量是无法预见的。从而导致流量调度策略的执行效果与预期容易出现偏差，而这些偏差又会进一步影响到后续周期的流量调度，从而偏差进一步累积。因此，如何提高流量预测的准确性从而降低线路费用是一个亟需解决的技术问题。83.有鉴于此，本技术提供了一种流量调度的方法及相关装置，用于提高流量调度的准确性。请参阅图6，图6为本技术实施例中流量调度的方法的流程示意图，如图6所示，本技术实施例中流量调度的方法包括：84.101.根据多个线路的历史流量数据，获取多个线路对应的多个预测流量。85.本技术实施例中，云服务提供商提供了多条线路供用户使用，例如图6中的线路1和线路2，其中，每条线路都可以承载来自各个接入点(例如图2中的华北-北京、华南-广州以及华东-上海这三个接入点)的线路接入请求的流量需求。应理解，图6中所示出的线路1和线路2为线路的布局的其中一种示例，在实际应用中，本技术并不限定线路的具体布局和数量，例如还可以有线路3、线路4或线路5等，具体此处不做限定。86.本技术提供了基于人工智能系统的流量调度模型，其中，该流量调度模型可以通过每条线路的历史流量数据，来生成每条线路在目标周期内的预测流量，其中，所生成的预测流量可以是如图3所示的时间-流量曲线，也可以是以表格形式进行存储的时间-流量序列，或者还可以是其他的存储形式，此处不做限定。通过所生成的预测流量的指示，可以得到未来时间(目标周期)内，该线路的流量的峰值时段及峰值最大流量。其中，线路的流量峰值大小是决定该线路的流量调度方向(调入或调出)的重要依据之一，线路峰值时段则是决定调度时机的重要依据之一。87.具体的，如图6所示，在决策生成模块中，首先需要获取各个线路的历史流量数据，以这些历史流量数据作为模型的训练样本，构建流量预测模型，从而用于输出预测流量。其中，每条线路的预测流量，都是基于该线路自身的历史流量数据独立预测得到的，即各个线路之间的预测流量的生成流程互不干扰。以线路包括线路1和线路2为例，线路1的历史流量数据用于生成线路1的预测流量，而线路2的历史流量数据则用于生成线路2的预测流量，从而使得每条线路的预测流量与该线路的特性更加贴合。88.本技术中的目标周期，指的是当前流量调度策略的执行周期，即针对于目标周期的流量调度策略，仅对目标周期内的线路接入请求生效。在目标周期的时间内所发起的线路接入请求，都会根据该目标周期对应的流量调度策略来进行调度。而当时间超过了目标周期的时间内的线路接入请求，则会依据目标周期的下一个单位周期的流量调度策略来进行调度。89.线路的历史流量数据指的是在生成预测流量之前已经发生了的流量数据，进一步的，为了使得所生成的目标周期内的预测流量更加准确，本技术中，历史流量数据包括历史周期的策略执行数据，该策略执行数据为该历史周期所实际发生的流量数据，而这些实际发生的流量数据，也是基于该历史周期内的历史流量调度策略的控制下发生的，其中，历史周期包括目标周期的上一个周期，每个单位周期的时长与目标周期的时长是相等的。本技术中，将目标周期的上一个周期及时地反馈到流量预测模型当中，因此，所生成的预测流量很好地结合了最近的周期的实时流量，提高了预测流量的准确性。进一步的，在实际应用中，流量预测模型中所输入的历史流量数据越丰富，则相应的所生成的预测流量的准确度则越高，因此，历史周期可以为目标周期之前发生的、最为接近的多个周期，即可以将目标周期前n个周期(n为大于或等于1的整数)的历史流量数据输入到预测流量的模型当中，用以生成更为准确的预测流量。以目标周期是8点钟至9点钟(时长一个小时)为例，因此历史周期可以是8点钟至9点钟的上一个周期(即7点钟至8点钟)，线路的历史流量数据则需要获取该线路在7点钟至8点钟产生的流量数据，而这个7点钟至8点钟产生的流量数据也是由7点钟至8点钟这个周期对应的流量调度策略的控制下发生的；又或者，历史周期可以是8点钟至9点钟的前3个周期(即5点钟至6点钟、6点钟至7点钟和7点钟至8点钟)，线路的历史流量数据则需要获取该线路在5点钟至6点钟、6点钟至7点钟和7点钟至8点钟(即5点钟至8点钟)产生的流量数据，而这个5点钟至8点钟产生的流量数据也是由5点钟至8点钟这个周期对应的流量调度策略的控制下发生的。其中，本技术的历史流量数据可以包括线路的带宽阈值、异常流量或带宽使用值的至少一种，即在生成预测流量的过程中，可以输入线路的线路属性(带宽阈值)，也可以输入历史周期内所产生的流量数据(异常流量或带宽使用值)。90.进一步的，对于每个历史周期而言，都有在其自身周期时所执行的流量调度策略，即本技术的历史流量调度策略。换句话说，每条线路的历史流量调度策略指的是，该线路在该历史周期内的历史流量调度策略。一方面，由于该历史流量调度策略也是根据历史周期所对应的预测流量来生成的，因此，该历史流量调度策略也指示了这些预测流量经过调度之后所产生的流量数据，换句话说，该历史流量调度策略指示了各个线路在历史周期内进行流量调度所产生的流量数据，这是一种计划的、期望的流量数据；另一方面，该历史流量调度策略在历史周期内的执行过程中所产生的流量数据(即本技术中的调度策略执行数据)，往往相较于历史流量调度策略原计划的流量数据也会有一些误差，例如存在异常流量、突发性的高并发访问或突发性的高带宽访问等等原因，都会导致该线路在历史周期内的调度策略执行数据偏离预期。对此，本技术中，可以获取在历史周期内多个线路各自的调度策略执行数据，以及在历史周期内的历史流量调度策略，并计算每个线路的调度策略执行数据和历史流量调度策略之间的执行残差，得到多个线路各自的执行残差，每条线路的执行残差则表示了历史流量调度策略与该线路实际产生的调度策略执行数据之间的偏差。然后，将这些执行残差与多个预测流量共同作为流量预测模型的输入，从而输出各个线路的预测流量。91.本技术中，在每条线路的预测流量时，了线路在历史周期内的调度策略执行数据和历史流量调度策略之间的执行残差，并将执行残差反馈到生成流量调度策略的过程当中，因此所获得的各个线路的预测流量能够及时响应历史周期(包括上一个周期)内的异常流量、突发流量，以及对该历史流量调度策略所产生的偏差进行及时反馈、及时修正，从而进一步提高了所生成的预测流量的准确性。92.102.根据多个线路的历史流量调度策略和多个预测流量，获取目标周期的流量调度策略。93.本技术中，流量调度策略的生成需要结合多个方面的因素，具体的，在生成每条线路的预测流量(得到多个预测流量)之后，根据多个预测流量以及每条线路在历史周期内的历史流量调度策略，生成针对于目标周期的流量调度策略。其中，每条线路的历史流量调度策略指的是，该线路在该历史周期内所执行的历史流量调度策略，则对于所生成的针对于目标周期的流量调度策略，则用于从多个线路中确定至少一个目标线路，该目标线路用于承载目标周期内的线路接入请求的流量需求。换句话说，流量调度策略决定了流量的调度方向(即调入或调出)。以线路为线路1和线路2为例，假设所生成的流量调度策略指示了线路1为目标线路，那么在目标周期内(例如8点钟至9点钟)内的线路接入请求，会转发到线路1中去执行，由线路1去承载这些线路接入请求的流量需求。应理解，本技术中，目标线路的数量是可以根据实际需要进行动态调整的，即目标线路可以是2条线路中的1条线路，或者，也可以是3条线路中的1条线路，或者，也可以是3条线路中的其中2条线路，或者还可以是其他的数量分配方式，具体此处不做限定。94.本技术中，将过往的历史流量数据和历史流量调度策略，进一步反馈到流量调度策略的确定流程当中，因此所生成的流量调度策略了历史周期的历史流量数据和历史流量调度策略，能够及时适应每条线路的流量数据的实时变化，提高了流量调度的准确性。95.由上可知，每条线路的执行残差表示了历史流量调度策略与该线路实际产生的调度策略执行数据之间的偏差。对此，本技术中，还可以将所获取到的多个执行残差与多个预测流量结合，生成目标周期的流量调度策略。具体的，可以构建神经网络模型，在该神经网络模型的训练阶段，以多个线路对应的多个执行残差和多个预测流量作为该神经网络模型的训练数据，以下一个周期的流量调度策略为神经网络模型的输出，以该下一个周期的执行残差(即下一个周期的流量调度策略与实际所产生的策略执行数据之间的差异)作为损失函数，不断地优化该神经网络模型的参数，待该神经网络模型训练完毕后，便可以根据多个执行残差和多个预测流量获取目标周期的流量调度策略。在实际应用中，该神经网络模型的输入除了执行残差和预测流量之外，还可以将其他的因素作为并列的输入，例如线路基础属性(线路带宽阈值或线路负载)等，进一步丰富该神经网络模型。96.本技术中，在生成目标周期的流量调度策略时，参考了线路在历史周期内的调度策略执行数据和历史流量调度策略之间的执行残差，并将执行残差反馈到生成流量调度策略的过程当中，使得新生成的流量调度策略能够及时响应历史周期(包括上一个周期)内的异常流量、突发流量，以及对该历史流量调度策略所产生的偏差进行及时反馈、及时修正，从而进一步提高了新生成的流量调度策略的准确性。97.进一步的，本技术中的流量调度方法，流量调度的最终目的是降低整体线路(多个线路)的累计费用，节省成本。因此，可以配置目标函数，然后根据目标函数、多个线路的历史流量调度策略和多个预测流量，获取目标周期的流量调度策略，其中该目标函数指示所有线路的累计流量花费最小。98.具体的，决策生成模块除了根据历史流量数据生成预测流量之外，还可以根据历史流量数据生成线路未来的预测计费值。与生成预测流量的方法相类似，本技术中，线路的预测计费值的预测流程也是周期性的，但是，两者的预测周期可以不同步。一般来说，在实际应用中isp对于云服务提供商的线路收费是按月计费的，因此，每个月的计费值相较于下一个月来说，具有较高的可性。因此，本技术中，生成预测计费值的周期相较于生成预测流量的周期可以频率低一些。示例性的，可以每星期生成当前月份的预测计费值，而随着时间的推移，当前月份的流量数据已经逐步累积了，例如在当前月份的第三个星期来当前月份的预测计费值时，此时当前月份的流量数据已经实际产生了，则基于这些实际的流量数据进行预测，可以获得更加准确的预测计费值。99.在获得了各个线路的预测计费值之后，以使得所有线路的累计流量花费(即所有线路的预测计费值的累计值)最小作为目标函数，并结合历史流量调度策略和多个预测流量，获取目标周期的流量调度策略。本技术中，预测计费值是该流量调度策略中，流量调度发生时间、调度方向和调度流量大小等决策的重要依据，从而对各条线路流量及调度进行精确控制，有效降低整体线路的成本。100.总体来说，流量调度策略的生成应当综合多方面的因素，除了本技术中，可以使用目标函数、调度策略执行数据和历史流量调度策略之间的执行残差以及预测流量等相结合的方式来生成流量调度策略，还可以进一步结合其他因素，具体此处不做限定。101.103.执行流量调度策略。102.本技术中，流量调度策略并不会将所有线路接入请求全部调度至目标线路去执行，这样会使得非目标线路零负载。因此，流量调度策略有其自身的调度规则，当线路接入请求满足该调度规则后，则会触发该流量调度策略，便可以按照该流量调度策略进行调度到目标线路中去执行。103.示例性的，以线路1和线路2为线路，目标周期为8点钟至9点钟为例，假设所生成的目标周期的流量调度策略中指示，以线路2为目标线路，将来自华南-广州接入点、流量需求为1g以上的线路接入请求调入至线路2。则8点钟至9点钟期间，满足“来自华南-广州接入点”以及“流量需求为1g”这两个条件的线路接入请求，都可以调入线路2中去执行。而对于不能同时满足“来自华南-广州接入点”以及“流量需求为1g”这两个条件的线路接入请求，则不比遵循流量调度策略的指示，即按照该线路接入请求自身的需求进行线路接入。104.另一方面，在实际应用中，流量调度策略的执行往往还需要考虑到负载均衡、线路自身属性或者某些线路接入请求的特定性等约束条件。示例性的，某些线路接入请求中，已经指示了该线路接入请求不允许被调度到某个线路，或者必须被调度到某个线路当中时，则该流量调度策略并不会对该线路接入请求生效；又或者，在执行流量调度的过程中，也应当参照各个线路本身的流量数据，例如当目标线路的带宽使用值已经达到上限(带宽阈值)时，则不应当再继续往该目标线路调入线路接入请求。因此，流量调度策略的执行，也应当结合实际情况，使得流量调度的过程更加灵活。105.进一步的，对于目标周期的流量调度策略，以及在目标周期内所产生的实际的流量数据(即策略执行数据)，则又可以作为下一个周期的流量调度策略的依据，不断地复用迭代，不断地将上一个周期的流量调度策略和策略执行数据反馈到下一个周期的流量调度策略生成流程当中。106.进一步的，在执行流量调度策略的过程中，若突发流量或异常流量过多，则有可能导致某一条线路出现过载(例如超出该线路的负载达到了带宽阈值)的情况，从而没办法再继续往该线路继续调入线路接入请求了，即该线路没办法完全执行原计划的流量调度策略。因此，在这种情况下，在目标周期内获取到线路接入请求后，根据目标周期的流量调度策略和每一个线路在目标周期内所产生的流量，来确定每一条线路是否仍然具备完全执行该流量调度策略的能力，从而确定出具备执行该流量调度策略的能力的线路，继续将这些线路用于响应后续的线路接入请求。本技术中，在目标周期内执行流量调度策略的过程中，继续对每个线路在目标周期内所产生的流量进行监督，从而辅助流量调度策略的执行过程，提高流量调度策略的执行效率。107.在图6所对应的实施例的基础上，为了更好的实施本技术实施例的上述方案，下面还提供用于实施上述方案的相关设备。具体的，请参阅图7，图7为本技术实施例提供的一种流量调度装置的结构示意图，流量调度装置包括：108.获取单元201，用于根据多个线路的历史流量数据，获取多个线路对应的多个预测流量；109.生成单元202，用于根据多个线路的历史流量调度策略和多个预测流量，生成目标周期的流量调度策略，流量调度策略用于从多个线路中确定至少一个目标线路，目标线路用于承载目标周期内的线路接入请求的流量需求。110.在一种可能的设计中，获取单元201具体用于：111.获取每个线路在历史周期内的调度策略执行数据和历史流量调度策略；112.获取每个线路的调度策略执行数据和历史流量调度策略之间的执行残差；113.根据每个线路的历史流量数据和执行残差，获取多个线路对应的多个预测流量。114.在一种可能的设计中，生成单元202具体用于：115.根据执行残差和多个预测流量获取目标周期的流量调度策略。116.在一种可能的设计中，历史流量数据包括历史周期的调度策略执行数据，其中，历史周期包括目标周期的上一个周期。117.在一种可能的设计中，生成单元202具体用于：118.获取目标函数，目标函数指示多条线路的总花费最小；119.根据目标函数、多个线路的历史流量调度策略和多个预测流量，获取目标周期的流量调度策略。120.在一种可能的设计中，获取单元201还用于：121.获取线路接入请求；122.根据流量调度策略和每一个线路在目标周期已所产生的流量，确定用于响应线路接入请求的线路。123.在一种可能的设计中，历史流量数据包括线路的带宽阈值、异常流量或带宽使用值的至少一种。124.需要说明的是，流量调度装置中各模块/单元之间的信息交互、执行过程等内容，与本技术中图6对应的方法实施例基于同一构思，具体内容可参见本技术前述所示的方法实施例中的叙述，此处不再赘述。125.本技术实施例还提供了一种计算机设备，请参阅图8，图8为本技术实施例提供的计算机设备一种结构示意图，计算机设备上可以部署有图7对应实施例中所描述的流量调度装置，用于实现图6对应实施例的方法.具体的，计算机设备由一个或多个服务器实现，计算机设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(central processing units，cpu)322(例如，一个或一个以上处理器)和存储器332，一个或一个以上存储应用程序342或数据344的存储介质330(例如一个或一个以上海量存储设备)。其中，存储器332和存储介质330可以是短暂存储或持久存储。存储在存储介质330的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对计算机设备中的一系列指令操作。更进一步地，中央处理器322可以设置为与存储介质330通信，在计算机设备300上执行存储介质330中的一系列指令操作。126.计算机设备还可以包括一个或一个以上电源326，一个或一个以上有线或无线网络接口350，一个或一个以上输入输出接口358，和/或，一个或一个以上操作系统341，例如windows servertm，mac os xtm，unixtm，linuxtm，freebsdtm等等。127.需要说明的是，计算机设备中各模块/单元之间的信息交互、执行过程等内容，与本技术中图6对应的方法实施例基于同一构思，具体内容可参见本技术前述所示的方法实施例中的叙述，此处不再赘述。128.本技术实施例中还提供一种包括计算机程序产品，当其在计算机上运行时，使得计算机执行如前述图6所示实施例描述的方法。129.本技术实施例中还提供一种计算机可读存储介质，该计算机可读存储介质中存储有用于进行信号处理的程序，当其在计算机上运行时，使得计算机执行如前述图6所示实施例描述的方法。130.本技术实施例提供的图像处理装置具体可以为芯片，芯片包括：处理单元和通信单元，所述处理单元例如可以是处理器，所述通信单元例如可以是输入/输出接口、管脚或电路等。该处理单元可执行存储单元存储的计算机执行指令，以使芯片执行上述图6所示实施例描述的方法。可选地，所述存储单元为所述芯片内的存储单元，如寄存器、缓存等，所述存储单元还可以是所述无线接入设备端内的位于所述芯片外部的存储单元，如只读存储器(read-only memory，rom)或可存储静态信息和指令的其他类型的静态存储设备，随机存取存储器(random access memory，ram)等。131.所另外需说明的是，以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。另外，本技术提供的装置实施例附图中，模块之间的连接关系表示它们之间具有通信连接，具体可以实现为一条或多条通信总线或信号线。132.通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解到本技术可借助软件加必需的通用硬件的方式来实现，当然也可以通过专用硬件包括专用集成电路、专用cpu、专用存储器、专用元器件等来实现。一般情况下，凡由计算机程序完成的功能都可以很容易地用相应的硬件来实现，而且，用来实现同一功能的具体硬件结构也可以是多种多样的，例如模拟电路、数字电路或专用电路等。但是，对本技术而言更多情况下软件程序实现是更佳的实施方式。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在可读取的存储介质中，如计算机的软盘、u盘、移动硬盘、rom、ram、磁碟或者光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，训练设备，或者网络设备等)执行本技术各个实施例所述的方法。133.在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。134.所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本技术实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、训练设备或数据中心通过有线(例如同轴电缆、光纤、数字用户线(dsl))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、训练设备或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的训练设备、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，dvd)、或者半导体介质(例如固态硬盘(solid state disk，ssd))等。









图片声明：本站部分配图来自人工智能系统AI生成,觅知网授权图片,PxHere摄影无版权图库。本站只作为美观性配图使用,无任何非法侵犯第三方意图,一切解释权归图片著作权方,本站不承担任何责任。如有恶意碰瓷者,必当奉陪到底严惩不贷!




内容声明：本文中引用的各种信息及资料（包括但不限于文字、数据、图表及超链接等）均来源于该信息及资料的相关主体（包括但不限于公司、媒体、协会等机构）的官方网站或公开发表的信息。部分内容参考包括:(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供参考使用,不准确地方联系删除处理！本站为非盈利性质站点,发布内容不收取任何费用也不接任何广告!




免责声明：我们致力于保护作者版权，注重分享，被刊用文章因无法核实真实出处，未能及时与作者取得联系，或有版权异议的，请联系管理员，我们会立即处理，本文部分文字与图片资源来自于网络，部分文章是来自自研大数据AI进行生成,内容摘自(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供学习参考,不准确地方联系删除处理!的,若有来源标注错误或侵犯了您的合法权益，请立即通知我们，情况属实，我们会第一时间予以删除，并同时向您表示歉意,谢谢!