欢迎光临散文网 会员登陆 & 注册

思路决定出路、系统提升效率

2022-07-03 13:45 作者:BI大数据分析项目实战  | 我要投稿

       很多粉丝私信我最近干什么去了,我才知道我快一个月没有更新公众号。

        这个月我干的最多的是思考如何重构烂尾的BI项目,其次是给学员远程解决问题,最后才是休了5天可怜巴巴的产假。


关于BI项目


        首先我讲一下重构烂尾的BI项目,关注的粉丝应该知道我目前所在的项目是前无文档后无支持,也就是这个项目经历了三拨人以后我过来接手的没有任何项目文档、另外公司的ERP开发人员对我们的支持就是给一个ERP源码后台我们去看逻辑,我只能表示接受这个挑战快一年了。公司业务变化太快,以前的旧报表需要大量调整,又要面对这个烂尾工程,又要拿成果出来评价业绩。

面对这种局面还真的是有点不知道哪天被优化了。挑战归挑战、优化归优化,先把项目重构好在说。

        对于这个烂尾项目,在我转正后的第一个月我就开始规划了,第一步就是写了数据仓库表监控,也就是记录所有库所有表每天的数据条数,然后算出每个表的每天增量和每个库的每天增量、同时算出一年来数据条数没有变过的表以及一年来数据条数一直都是零的表,这里你可以充分发挥你的想象力和创造力。【我们能学到知识,却埋葬了最宝贵的创造力】(如下图)

        我的想法是先干掉行数一年来一直是零的表,其实不是删掉就是改个表名而已。在把后面的慢慢整合……。数据仓库服务器上有1400多张表,很少有表做了字段说明,基本上我们对于ODS层的表从哪个系统来的都要打开ETL工具一个一个的找,完全是一个黑箱,真的是要人命啊 坑太多了只能摸着石头过河。

后来我发现ERP系统和手机端工具 的数据库有字段说明,只是我们前面几拨人都是非专业人事,有些还是ERP开发人员来做的数据仓库里面的表,导致库里面表的字段一个都没有写。

        为了解决表以及字段说明缺失问题,我特意在工具上开发了一个功能《源映射ODS层》,就是只要你知道了这个ODS层表从哪个源系统的表过来的,就会自动匹配上源系统里面的字段说明,这样在梳理的时候找到了对应表就能轻松匹配上并且记录到系统中。这个功能后期会扩展成ETL自动化(如下图)

        关于公司的指标体系,不管是从技术向业务推导,还是从业务向技术推导,最终的开发责任都会落在BI项目的头上,数据业务化是走的路。从技术到业务就是先定主题域,在现有的数据结构中折腾,不管怎样都要精通业务才行。从业务到技术就是以业务流程为主线,串联业务单元、业务环节、业务活动,还是要精通业务才行。所以整体来说数据工程师、BI工程师、数据分析师,不管什么头衔必须懂业务、懂技术。指标体系并不能一个人完成,必须深度业务参与,这段时间公司层面牵头梳理指标体系,趁这次机会我在工具里面开发了一个功能《指标开发映射》,这里已经实现了业务写业务的指标概念和技术会映射好指标如何开发出来的,做了技术口径和业务口径的统一,这就是标准,做到未来不烂尾。指标体系梳理下来也有好几百个指标。

        一切的矛盾和乱象都源于需求和元数据;只有管理好了需求和元数据才能让数字化顺心,要不然只能说Old(老)铁数字化很糟心。有时候业务部门上个月提的需求这个就不记得了,经常过来扯皮,一不做二不休我干脆就到工具里面开发个功能《需求管理》,记录他们的需求同时记录我们的开发过程【这个需求是哪些库中的表提供的数据以及特殊的逻辑条件】已经需求解决什么业务问题,后期改需求和维护都能看到历史需求,下图是需求管理、元数据管理这里我就不展示了。

        工具上的《数据库表结构》、《SSIS执行监控》、《SSAS运行情况》都是一些旧功能,使用的非常成熟,有历史文章可以看这里就不多介绍,另外《数据分发器》这里也不介绍就是一个配置SQL和邮箱就可以从数据仓库读取数据存入Excel数据文件发送给用户,可以定时发送,这个也给我省下了很多时间。


        整体来说团队慢慢的使用这个工具工作效率有了明显提升,比如开发一张报表需要找的素材就是元数据,以及需求分析都在这个工具内很好的解决了。工具还有很多模块和大量的优化工作。


关于这个工具开发的文章

《低代码数据仓库开发平台》原型设计


关于学员解决问题

        其实这是一个学习态度和能力问题,首先得自己一步一步跟着去操作了我才有远程给你解决问题的意义,这是个态度问题去操作了我才能跟你同频,另外一点估计我讲的这套课程不适合于初学者,缺少基础知识及理论很难理解我为什么要这样做、甚至很难理解我还可以如何做,我的这些做事方法可以提炼模板、模型、框架,甚至可以做成相应的工具和产品。所以自己动手、主动思考多么的重要,与纸上得来终觉浅,绝知此事要躬行意思差不多。有学员问的问题深度就知道认真学过、自己动手做过、自己思考过。其次是能力问题,我觉得能力大家都差不多,因为能力都是可以通过后天训练获得的。

        最后送大家一点初级鸡汤,你只要坚持,不急不躁不求大,一点一点的来你就能成功。而高级鸡汤告诉要升级你的思维,你才能成功;这个要到得到APP、混沌大学去学了,那些我不会。


思路决定出路、系统提升效率的评论 (共 条)

分享到微博请遵守国家法律