全部版块 我的主页
论坛 数据科学与人工智能 数据分析与数据科学 数据分析师(CDA)专版
1045 1
2014-12-24

大数据量的系统要经过对数据的用处分析和数据周期分析,以寻求更好的解决方案。

  1:业务系统的基础数据,如人员基础信息(基础资料,权限等)

  数据可以KEEP在内存中.数据要分散存储.基础数据逻辑要简洁.使用增量更新.高峰期来临前提前更新基础数据

  2:热数据处理

  此部分数据是各方面环境会频繁使用到的数据对这部分数据的存储,比如使用不一样的存储方式,比如建立高效的索引,使用SSD盘,或者使用mysql数据库存储

  3:历史数据的迁移

  近期数据此类数据是需要最近频繁使用或者调用的数据,对OLTP系统而言此类数据是核心数据。

  历史数据此类数据主要做历史数据查询或者历史分析数据,建议迁移出OLTP系统数据库

  4:报表数据的存储

  对报表数据进行数据转换,从原始数据,转化到订制数据,再清理 成报表数据

  5:数据库业务拆分 多表数据存储

  将核心业务表进行拆分,既能提高数据库的性能,还能提高数据的安全

  6:索引数据的存储

  无效索引的删除与索引的定期重建和SSD盘的引入等处理

  数据流转

  数据中心

  订制小数据中心 围绕中心数据库

  数据分发机制

  按区域城市等进行数据分发

  中心数据入库后的流转

  MYSQL:查询类系统:如网站的查询

  多套ORACLE:多用途系统:如备份、物流监控,报表等

  ORACLE:核心业务系统:信息流、物流、资金流全流程控制系统

  大数据分析系统:对历史数据或者大数据进行分析。


二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2014-12-24 16:35:45
很好的思路。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群