广东省物联网工程实验教学示范中心
首页新闻中心中心简介教学管理师资队伍设备展示管理体系特色平台成果展示下载中心
面向领域应用的大数据云平台
 智能制造实验室 
 面向领域应用的大数据云平台 
 核心课程实验教学平台 
 
面向领域应用的大数据云平台
您的位置: 首页>特色平台>面向领域应用的大数据云平台

1.面向领域应用的大数据云平台的背景

当前,教育部正在大力推进我国新工科建设和发展。“新工科”人才培养已经逐渐成为未来教育发展的主线,广东工业大学自动化学院期望通过申报教育部高等教育司产学合作协同育人项目,培养服务于广东省经济的工科专业人才,利用物联网、大数据、云计算、智能制造、人工智能等新一代信息技术,快速建立起培养创新人才模式的“新工科”理念,构建新时期的创新人才培养模式。

广东省作为我国的经济大省、外贸大省、制造业大省,在电子信息等多个产业的规模方面,持续25年位列全国第一。这些产业在多年的发展过程中,积攒了海量的真实数据,为大数据产业的腾飞奠定了雄厚的基础。而随着全省金融、信息、科教、医疗、交通、经贸、旅游等各方面的快速发展,以及智慧广东的深入推广,工业化和信息化融合加深,未来广东将有很强的数据生产能力,海量数据源将为大数据的创新及应用提供广阔的平台。根据广东省人民政府于20164月颁布的《广东省促进大数据发展行动计划( 2016-2020 年)》(粤府办〔201629号),广东省将用5年左右时间,打造全国数据应用先导区和大数据创业创新集聚区,抢占数据产业发展高地,建成具有国际竞争力的国家大数据综合试验区。广州市人民政府在20171月份出台了《广州市人民政府办公厅关于促进大数据发展的实施意见》(穗府办〔20171号),大力推进大数据的发展与应用,全面提高广州产业集聚、科技创新、政府治理等方面的能力。另据《广州日报》2015年的报道,数据挖掘、统计建模的人才在市场各行各业都非常紧俏。以互联网行业为例,既有BAT等大型互联网公司的需求,也有很多新方向的创业公司对这方面人才非常渴求,如在线广告、互联网金融、社交网络等。根据预测,到2020年,大数据及相关产业规模将达6000亿元,大数据产业将成为我省重要的新经济增长点。未来5-10年,我省大数据产业将迎来一个飞速发展时期,社会对大数据相关专业人才有着巨大的需求。

1 大数据发展现状和目标

基于以上讨论,随着我国数据科学与大数据技术专业以及大数据技术与应用专业的设立,广东工业大学组织申报2018年增设数据科学与大数据技术专业,需要加快培养大数据领域专业人才的步伐,在相关专业的实验室建设方面加大投入,在课程体系中确保大数据专业教育持续进行,提升大数据领域核心课程资源的建设质量,积极开展与大数据企业的产学研合作,共建攻防兼备、真实环境演练的大数据实践教学平台。构建具备教学、科研和工程实践能力的师资队伍,将科研项目和成果引入理论和实践教学,通过教科协同提升学生的创新能力,更好的为国家培养德才兼备的创新型大数据专业人才。

2.总体建设目标

1)面向领域应用的大数据云平台建设完成后,能够有效地支持广东省科技厅 “面向领域应用的大数据工程技术研究中心”的科研工作;

2)依靠面向领域应用的大数据云平台,可以有效地开展我校与博创机械股份有限公司与2015年联合申报的工信部全国智能制造试点示范项目“基于云计算的注塑成型智能装备与服务平台”的建设。

3)广东工业大学与广东省经济与信息委员会的合作,合作内容包括对省电子政务信息资源共享面向领域应用的大数据云平台能够支持交换系统中企业相关数据的清洗与整合;并负责了《广东企业情况综合白皮书2014》主体部分的编制工作。

4)面向领域应用的大数据云平台能够支持广东省物联网信息技术重点实验室与武警总医院的长期合作,开展医疗设备的研发,在智慧医疗上的取得明显的成绩。

5)面向领域应用的大数据云平台能够支持广东省物联网信息技术重点实验室与中国集装箱集团有限公司开展的基于物联网的危化品的粤港澳关键领域突破的重点项目,在智慧物流方面急需建立大数据系统。

3.方案说明

根据上述五个方面大数据,我们拟定了达到1.5PB有效存储容量,4.5PB总存储的建设指标,平均每个系统400TB的有效存储。

1)智能制造物联网大数据服务平台

搭建企业云服务平台,在注塑装备增加云终端,实现本地智能与云智能的高度结合,面向本单位生产的装备提供在线监测、远程诊断等云服务。在博创搭建基于Hadoop的大数据中心,根据用户需求实现对运行数据与用户使用习惯数据进行采集,并建模实现深度挖掘、分析、决策,自动生成产品运行与应用状态报告,并推送至用户端;承载在线监测、远程升级、故障预测与诊断、健康状态评价等云服务。通过云计算和大数据技术以及移动互联网技术,建立了高效、安全的智能服务云平台,提供的服务能够与产品形成实时、有效互动,大幅度提升系统的信息化和网络化水平。博创智能装备物联网大数据平台如图1所示:

绘图1

2博创智能装备物联网大数据平台

2)基于城市交通一卡通大数据云服务平台

大数据云服务平台通过大数据云平台关键技术的研究,重点解决异构数据采集与预处理,海量交易数据的长期存储、分析与挖掘,多源数据的统一管理和质量控制,面向多用户的数据共享与交换等关键技术,完成一卡通大数据分析云平台搭建,主要研究基于大数据技术的客流分布规律分析、公交线网布局分析、公交调度信息等,为城市交通管理部门提供更好更科学的决策依据;研究基于一卡通大数据的服务网点优化分析、充值消费交易分析、出行特征规律分析,为城市居民出行提供更好的服务水平;研究基于一卡通大数据的公交补贴决策分析,为更好的鼓励公众使用公共交通出行和发展公共交通事业提供支持。

3)构建智能交通大数据服务平台

研究面向大数据的智能交通云平台,为智能交通大数据提供强大的计算和存储能力;研究智能交通大数据分析与挖掘关键技术,针对智能交通服务的具体需求,建立数据模型并提出高效的数据处理方法;提出智能交通大数据安全支撑机制,着重考虑智能交通信息的隐私泄露和安全问题,研究并提出隐私保护与安全保障机制。在整合各项关键技术的基础上,形成面向政府、企业、市民的智能交通大数据应用与示范。

4)建立企业情况综合大数据服务平台

为及时、准确和全面掌握全省企业情况,加强经济运行监测,2014年以来广东省政府积极开展企业数据采集工作,并整合利用现有企业数据资源,期望加强企业数据的动态分析和综合应用,促进企业情况数据信息的交换与共享。

5)建立面向医疗服务的大数据服务平台

为了实现智慧医疗的目标,与武警总医院联合,搭建面向医疗服务的大数据服务平台。

4.具体技术方案描述

1)大数据平台

采用Hadoop框架的大数据基础系统软件,包括集群管理、分布式文件系统、超大规模数据库、数据仓库、实时流处理、资源调度管理等。

数据探索平台:静态和动态的数据探索。

统一安全管理平台:集群硬件、软件、用户的的认证、授权、审计。

智能调优工具:通过机器学习的方式对特定的大数据应用进行调优。

一键部署和自检平台:一键部署和自检

可视化ETL平台: Kettle

BI软件:QlikView标准企业版(5用户)

图3 大数据平台

 

(2)虚拟化平台

打造一套能够虚拟200台虚拟机,500个并发虚拟桌面的,面向学校师生、使用多种方式接入的,安全可靠、稳定可用的办公平台正是当务之急。亟需通过虚拟化平台的服务器虚拟化技术、桌面虚拟化技术为学校师生提供高可用、高安全、高可靠、可持续的办公资源。

 

图4 虚拟化平台

 

3HPC平台

HPC平台的建设思路是构建共享的高性能计算集群,并且通过统一平台为高性能计算应用提供集群环境,同时提供策略丰富,调度灵活的集群任务管理器,促进HPC计算资源的高效运转。

HPC平台承载在统一的HPC集群资源上,由于从设计过程中使用的CAD应用和仿真过程使用的CAE应用均承载在统一的资源之上,因此可以在数据层面打通设计与仿真计算流程,平台可以为每个设计人员分配一个NAS存储空间,存储设计/前后处理/分析计算过程中的所有数据,一方面免去数据上传下载的复杂过程,一方面数据存储在云端增强了安全性。

图5 HPC平台

 

 

Copyright © 2017 版权所有 广东工业大学