第3章 云计算技术在智慧售电市场中的应用
3.1 云计算技术概述
3.1.1 云计算技术的概念及原理
广义的云计算(Cloud Computing)技术指的是以互联网为基础的相关服务的交付模式。云计算中的云比喻的是互联网,是互联网的抽象表达。狭义的云计算技术指的是IT基础设施的一种应用交付方式,是在互联网中通过易扩展和按需的形式获得资源的形式。云计算技术提供的服务既包括与互联网和IT基础设施相关的服务,同时也指其他类型的,其根本性质是计算能力可以作为一种商品进行支付和流通。
云计算是基于互联网的相关服务的增加、使用和交付模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。云是网络、互联网的一种比喻说法。过去往往用云来表示电信网,后来也用来表示互联网和底层基础设施的抽象。因此,云计算甚至可以让你体验每秒10万亿次的运算能力,拥有这么强大的计算能力可以模拟核爆炸、预测气候变化和市场发展趋势。用户通过计算机、笔记本电脑、手机等方式接入数据中心,按自己的需求进行运算。
云计算是继20世纪80年代大型计算机到客户端-服务器的大转变之后的又一种巨变。云计算(Cloud Computing)是分布式计算(Distributed Computing)、并行计算(Parallel Computing)、效用计算(Utility Computing)、网络存储(Network Storage Technologies)、虚拟化(Virtualization)、负载均衡(Load Balance)、热备份冗余(High Available)等传统计算机和网络技术发展融合的产物。如图3-1所示,借助云计算技术,云计算数据中心(Cloud DC)颠覆了传统数据中心的技术架构,其支撑云服务实现用户转变到用户的数据中心,是一系列新技术集中应用和面向业务服务运营管理的集中体现。云计算数据中心采用虚拟化、自动化、并行计算、安全策略以及能源管理等新技术,解决传统数据中心存在的成本增加过快和能源消耗过度等问题;通过标准化、模块化、动态弹性部署和自助服务的架构方式实现对业务服务的敏捷响应和服务的按需获取。
图3-1 云计算技术架构对比图
对云计算的定义有多种说法。对于到底什么是云计算,至少可以找到100种解释。现阶段广为接受的是美国国家标准与技术研究院(NIST)的定义:云计算是一种按使用量付费的模式,这种模式提供可用的、便捷的、按需的网络访问,进入可配置的计算资源共享池(资源包括网络、服务器、存储、应用软件、服务),这些资源能够被快速提供,只需投入很少的管理工作,或与服务供应商进行很少的交互。
云计算是通过使计算分布在大量的分布式计算机上,而非本地计算机或远程服务器中,企业数据中心的运行将与互联网更相似。这使得企业能够将资源切换到需要的应用上,根据需求访问计算机和存储系统。
好比是从古老的单台发电机模式转向了发电厂集中供电的模式。它意味着计算能力也可以作为一种商品进行流通,就像煤气、水电一样,取用方便,费用低廉。最大的不同在于,它是通过互联网进行传输的(见图3-2)。
由于云计算具有资源的虚拟化和可扩展性,其应用也从早期单一的计算模式向不同类型的应用模式进行延伸。试图通过以提供资源服务的形式完成每次用户提交的任务,从而实现更宏观地对整个资源池的规模化,其具体应用包括SQL数据仓库、流分析、认知服务和负载均衡器等。云计算最核心的优势是因其弹性服务、资源池化等特点避免了计算机集群性能过载或冗余,进而极大减少了资源的浪费和运维的成本。于是,云计算技术可以进一步拓展到计算机、信息技术以外的领域,其具体的应用领域包括生产/制造、医疗、金融、教育以及社交媒体、移动互联、数字营销等。自云计算技术提出以来,受到业界广泛的应用,学术界各领域也是在架构、技术、安全和实例等方面对其展开了积极的研究。有的学者提出了划分为核心服务、服务管理、用户访问接口三层的云计算体系架构,关键技术包含资源虚拟化技术、资源管理与调度技术、安全与隐私保护技术等;有的学者以提高云计算存储的可扩展性、容错性以及降低存储能耗为目标,提出了基于多队列多服务器的云安全模型:从大规模流数据的集成与服务研究面临的挑战出发,研究了云计算对来自不同类型设备的大规模流数据进行集成、处理及服务化问题;依据这些特点,国内外工业界四个具体的云计算实例,包括清华大学透明计算平台、Google云计算平台、IBM“蓝云”计算平台和Amazon弹性计算云。
图3-2 云计算带来的思维改变
被普遍接受的云计算特点如下:
(1)超大规模
“云”具有相当的规模,Google云计算已经拥有100多万台服务器,Amazon、IBM、微软、Yahoo等的“云”均拥有几十万台服务器。企业私有云一般拥有数百至上千台服务器。“云”能赋予用户前所未有的计算能力。
(2)虚拟化
云计算支持用户在任意位置、使用各种终端获取应用服务。所请求的资源来自“云”,而不是固定的有形的实体。应用在“云”中某处运行,但实际上用户无需了解、也不用担心应用运行的具体位置。只需要一台笔记本电脑或者一个手机,就可以通过网络服务来实现我们需要的一切,甚至包括超级计算这样的任务。
(3)高可靠性
“云”使用了数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性,使用云计算比使用本地计算机可靠。
(4)通用性
云计算不针对特定的应用,在“云”的支撑下可以构造出千变万化的应用,同一个“云”可以同时支撑不同的应用运行。
(5)高可扩展性
“云”的规模可以动态伸缩,满足应用和用户规模增长的需要。
(6)按需服务
“云”是一个庞大的资源池,按需购买;云可以像自来水、电、煤气那样计费。
(7)极其廉价
由于“云”的特殊容错措施可以采用极其廉价的节点来构成云,“云”的自动化集中式管理使大量企业无需负担日益高昂的数据中心管理成本,“云”的通用性使资源的利用率较之传统系统大幅提升,因此用户可以充分享受“云”的低成本优势,经常只要花费几百美元、几天时间就能完成以前需要数万美元、数月时间才能完成的任务。
云计算可以彻底改变人们未来的生活,但同时也要重视环境问题,这样才能真正为人类进步做贡献,而不是简单的技术提升。
(8)潜在的危险性
云计算服务除了提供计算服务外,还必然提供了存储服务。但是云计算服务当前垄断在私人机构(企业)手中,而他们仅仅能够提供商业信用。政府机构、商业机构(特别像银行这样持有敏感数据的商业机构)对于选择云计算服务应保持足够的警惕。一旦商业用户大规模使用私人机构提供的云计算服务,无论其技术优势有多强,都不可避免地让这些私人机构以“数据(信息)”的重要性挟制整个社会。对于信息社会而言,“信息”是至关重要的。另一方面,云计算中的数据对于数据所有者以外的其他云计算用户是保密的,但是对于提供云计算的商业机构而言确实毫无秘密可言。所有这些潜在的危险,是商业机构和政府机构选择云计算服务特别是国外机构提供的云计算服务时,不得不考虑的一个重要前提。
此外,云计算还被定义为动态性、虚拟性、扩展性、有效性、灵活性等特征,这些特征的依据如图3-3所示。
图3-3 云计算典型特征的定义依据
3.1.2 云服务类别及部署模式
云服务类别是拥有相同质量集的一组云服务。一种云服务类别可对应一种或多种云能力类型。典型的云服务类别包括:
1)通信即服务(CaaS)。为云服务用户提供实时交互与协作能力的一种云服务类别。
2)计算即服务(CompaaS)。为云服务用户提供部署和运行软件所需的配置和使用计算资源能力的一种云服务类别。
3)数据存储即服务(OsaaS)。为云服务用户提供配置和使用数据存储相关能力的一种云服务类别。
4)基础设施即服务(IaaS)。为云服务用户提供云能力类型中的基础设施能力类型的一种云服务类别。
5)网络即服务(NaaS)。为云服务用户提供传输连接和相关网络能力的一种云服务类别。
6)平台即服务(PaaS)。为云服务用户提供云能力类型中的平台能力类型的一种云服务类别。
7)软件即服务(SaaS)。为云服务用户提供云能力类型中的应用能力类型的一种云服务类别。
云计算有四类典型的部署模式:“公有云”“私有云”“社区云”和“混合云”(见图3-4)。具体描述如下:
图3-4 云的不同类型和服务层次
1)公有云。云基础设施对公众或某个很大的业界群组提供云服务。
2)私有云。云基础设施特定为某个组织运行服务,可以是该组织或某个第三方负责管理,可以是场内服务(on-premise),也可以是场外服务(off-premise)。
3)社区云。云基础设施由若干个组织分享,以支持某个特定的社区。社区是指有共同诉求和追求的团体(例如使命、安全要求、政策或合规性考虑等),与私有云类似,社区云可以是该组织或某个第三方负责管理,可以是场内服务,也可以是场外服务。
4)混合云。云基础设施由两个或多个云(私有云、社区云或公有云)组成,独立存在,但是通过标准的或私有的技术绑定在一起,这些技术可促成数据和应用的可移植性(例如用于云之间负载分担的云爆发(cloudbursting)技术)。
3.1.3 云计算技术在能源互联网中的应用范围及作用
1.能源互联网中的云计算技术应用
由于能源互联网中存在海量数据,而传统的信息存储与分析技术已经不能满足海量数据的要求,需要存储空间更大和分析能力更强的运算技术。实践证明,云计算技术是解决此问题的不二选择。在能源互联网中,云计算技术就是将整个网络中的数据存储在计算基础设施中,也就是云端,再进行集中管理并对大数据进行深度分析和决策,并向分散用户提供远程运算和存储服务。云计算技术主要有技术能力聚集度高、数据处理效率高、数据处理成本低这三个主要特点。
1)具有虚拟化共享性质。云计算并不是一种实质性的、可摸得到的具体物质,而是一种虚拟化的存在。由于本质就是虚拟化,所以云计算进行的各种操作也就不可避免地存在虚拟化特性。在云计算模式下,计算机内所有的资源都是不加密的,用户可以对这些资源进行无限提取和使用,整个互联网上所有资源均是以一种全民共享的形式存在的。
2)提高规模效益。云计算具有计算和整合资源的性质,在电力系统中应用时能够将电力公司中大量闲置不用或者有重复现象的资源进行整合,既能减轻计算平台的压力,最大限度地减少资源浪费,又能减少电力公司在信息系统方面的人力物力投资,有助于减少公司的建设运行投资成本,提高规模效益。
3)提高工作效率。云计算的自动化和智能化水平非常高,能够通过虚拟化云平台向用户集中和维护信息,在加快信息发布速度和保障信息安全方面发挥着非常重要的作用。由于云计算能够有效延长设备的使用寿命,提高其使用性能,所以相比于传统的信息系统而言这种技术能够有效减少客户端升级次数和时间,为信息系统的顺畅运行奠定良好基础,有助于提高整个信息系统信息发布和管理工作的效率。
2.能源互联网中的云计算平台应用
能源互联网中的云计算平台,是采用大数据处理与挖掘分析、智能应用、智能消息推送、社会化协作、服务化架构等云计算关键技术建立的,为各种规模和类型的云计算提供统一的开发、运行和管理服务的平台。
根据整体安全体系框架,云计算平台可划分为如下六个区域:
1)互联网出口区域。为保证云内的安全,该区域主要负责各边界接入,包括到网内资源的安全接出口处必须配置防火墙、入侵防御系统(Intrusion Prevention System,IPS)等流量过滤设备、攻击防御设备。
2)核心交换区域。该区域主要负责外网平台数据流汇聚、交换、处理及业务繁忙时服务质量的设置,保证核心业务的应用。
3)外网办公接入区。办公接入通过安全策略服务质量等有限权限的访问服务器资源,通过上网行为管理控制互联网的访问,以保证数据的安全。
4)外网安全管理区域。该区域通过漏洞扫描、安全管理与评审设备等来保障云平台内的访问和使用安全,并协助网络管理员完成云计算平台下海量设备的日常维护任务。
5)云计算资源中心。该区域负责存放业务系统核心应用服务器、数据库服务器、云存储设备等,并通过配置双防火墙和双接入交互机来提供连续应用服务。
6)异地外网云计算资源中心。该区域主要负责配合生产数据中心为核心关键业务提供实时数据级或应用级数据容灾服务。
云计算解决未来能源互联网中的三大问题:一是海量数据处理与计算需求;二是实时数据分析;三是数据共享。在云计算中,需要采用流数据技术来实现透明计算。
在能源互联网中,既有燃煤、燃气、核电、水电等传统能源设备和风电、光伏等分布式可再生能源设备,又有数百万计的高耗能动力装置、数亿的电力用户和未来的智能家电及电动汽车。这些设备遍布全国同时又包含各种各样的传感器,而这些传感器每时每刻都在产生海量实时大数据。具体来说,能源互联网的大数据来源如下[19]:
1)风电场监控应用分析。
2)移动作业与可靠性评估应用分析。
3)配电GIS(地理信息系统)应用分析。
4)电力潮流计算分析。
5)电力电量交易结算业务应用。
6)生产综合防灾减灾系统。
7)非结构化数据集中管理系统。
8) IT仿真培训系统。
9)主数据管理系统。
10)燃煤火力发电厂。
11)天然气发电厂。
12)光伏发电厂监控分析。
13)天然气冷热电联供分布式能源。
14)分布式风能太阳能储能电池微网。
15)各级智能变电站。
16)省市县各级调度SCADA(数据采集与监控)系统。
17)数亿计的智能电表。
18)数百万计的高耗能动力设备装置。
19)未来电动汽车。
云平台主要为公有云和私有云两种形态:公有云平台是大规模资源的聚集地,可以为企业用户和个人用户提供服务;私有云平台是企业传统数据中心改造而成的高效运维、绿色可靠的数据中心,可以为企业内部用户提供服务。另外,混合数据平台是公有云和私有云两种形态的交汇,主要用于满足部分企业用户和个人用户的特殊需求。
构建云平台主要包括以下两方面的工作:
1)虚拟化。资源设备的虚拟化可大大提高资源的利用效率,虚拟化主要包括网络资源的虚拟化和中央处理器(CPU)计算资源的虚拟化。
2)系统搭建。需要选择安全可靠且扩展性能强的系统,来搭建云基础设施。
能源互联网云平台主要目标是打造智能化能量管理平台和数据中心,以实现整合能源数据,组织公共资源,提供数据存储、实时监控、可视化管理、数据分析、风险控制、能效分析等功能。平台上线后,将为各行业、各地区能源领域之间的沟通交流提供一个便捷的信息平台。
3.能源互联网对云计算技术提出的挑战
(1)数据复杂性带来的挑战及对策
能源互联网中大数据间内在的复杂性对数据的表达、感知、理解和计算都提出了挑战。而目前,由于缺乏对大数据复杂性的内在机理和背后物理意义的理解,从而极大地制约了对大数据高效计算模型和方法的设计能力。
因此,目前的问题是,定量化描述大数据复杂性的本质特征及其外在的度量指标,进而再研究数据复杂性的内在机理。在理解机理和本质特征的基础上,简化大数据的表征,建立简单高效的计算模型和算法。
(2)计算复杂性带来的挑战及对策
能源互联网中大数据多源异构、规模巨大且快速多变,这使得传统的机器学习、数据挖掘和信息检索等计算方法都不能支持能源互联网中的大数据处理、分析和计算。
因此,目前的问题是,着眼于大数据的全生命周期,在理解大数据复杂性的基本特征和量化指标的基础上,研究大数据下以数据为中心的计算模式和适应大数据的非确定性算法理论。
(3)系统复杂性带来的挑战及对策
目前,相比云平台的发展,大数据和相关的运算技术已经发展相对成熟,所以最急需的就是云平台的发展。云计算要求在资源、平台和软件应用层面都可以提供各种服务——基础设施即服务、平台即服务、软件即服务,从而实现整体系统的效益提高。云计算技术实现的基础设施则为云平台,通过该平台来提供上述服务。未来,云平台甚至可依托互联网技术打造虚拟市场平台,允许不同群体通过网络沟通并进行交易,满足能源互联网远程服务、情况复杂、即时性强等需求特点[20]。