此篇文章发布距今已超过296天，您需要注意文章的内容或图片是否可用！
导读Bilibili 是一家数据驱动的公司，数据在员工日常工作中至关重要。B 站内部有60% 的员工日常参与用数和数据决策，数据平台的建设直接影响了他们的工作效率。本文将介绍 B 站大数据开发治理平台产品的设计心得。主要内容包括以下几大部分：主要内容包括以下几大部分：
1. B 站的用数场景及数据开发治理平台的概况介绍
2. 基于价值体系的数据地图产品建设
3. 基于抽象配置的数据治理产品建设
4. 核心工作及未来规划
B 站的用数场景及数据开发治理平台的概况介绍
B 站大数据开发治理平台历经 5 年建设，目前包含数据集成、数据开发、数据治理、数据安全、数据分析等多个模块，服务于公司各个业务部门。B 站数据平台的使用者覆盖了 60% 的员工，其面向的用户群体主要是技术开发、产品、运营、算法工程师、分析师、数据开发等。通过对用户的数据能力进行分层，我们可将数据平台的用户大致区分为高阶开发、中阶用户、数据小白等 3 个用户群体。基于用户分群，我们提出了数据平台的产品定位：专业，门槛，标准化，闭环。- 专业：数据平台需要满足专业的数据开发及分析诉求，提升数据供给效率。
- 门槛：数据平台需要满足产运等用户低门槛的建数、用数、取数要求。
- 标准化：数据平台需要快速满足多业务、各部门不同的数据诉求，功能既要通用，也要足够灵活。
- 闭环：数据平台在 B 站也是数据中台，我们同时承担了数据运营、成本治理、规范约束、质量监控等管理角色，因此平台需要替业务完成数据从入仓、生产、运维、治理等流程的全闭环。
根据不用的业务场景和用数诉求，平台主要包括数据生产、数据消费、数据管理三大场景，分别提供相应的数据服务。基于价值体系的数据地图产品建设
1. 数据运营的痛点
面向多业务的数据中台团队或数仓团队，当模型基数较大时，往往会面临数据运营难的痛点。如何通过数据平台，结合数据内容的建设，解决用户找数用数痛点，是数据运营产品的核心目标。随着模型规模的快速增长，我们从 20 年开始，也逐渐面临数据运营难的痛点。数据运营的痛点是分阶段暴露的：2. 数据运营的解决方案
针对上述痛点，我们提出了一套解决方案：完善产品功能体系，推动数据运营体系的建设，建设数据模型的评估能力。3. 数据地图产品建设
数据地图是一个基于元数据的数据门户，它能够帮助用户更好地理解和管理数据资源。作为一个企业的数据中心，数据地图具备多种功能，包括数据检索、元数据详情、数据预览、数据血缘和数据管理等。这些功能的存在，有效地提升了用户的找数效率，降低了数据理解难度，也降低了使用门槛。通过完善洞察推荐、全文检索、类目体系、数据画像、UGC 及 API、数据专辑、数据血缘、影响分析等八大产品矩阵，能够满足用户在找数、用数、数据理解、数据治理、数据推广等不同场景下的使用诉求。4. 数据运营方法
基于数据地图产品体系的迭代，沉淀了一些数据运营方法。采用线上和线下的 1v1 方案针对问题进行答疑和解惑，使用工具咨询或者解决数仓相关问题。定期线下结合数据内容对运营同学进行培训、访谈以及工具的普及。将点和面的问题及解决方案进行记录，通过平台进行沉淀，并体系化地反馈给业务方。通过点线面结合的运营方法，结合线上和线下的运营策略，形成了 B 站的数据运营方案，同时从数据价值、用户指标、用户访谈、定期调研四个评估体系，能够更有效的完成策略和效率提升。5. 评估数据价值
经过产品功能迭代和运营体系化建设，已经可以很好地引导用户找数、用数，但是我们发现众多的数据模型，仍无法让业务有“模型建设得好”的感知，为了更好地衡量数据价值，对模型进行 ROI 评估，驱动良性的模型运营和数据建设，构建了模型价值评估体系。通过衡量数据价值，能有效提升业务的数据认可度，基于此可建设数据推荐策略、数据开发价值评估、模型的管理策略和治理策略。6. 数据价值计算
根据数据价值，设计了模型价值分。数据应用场景主要包括数据查询热度、ETL 引用情况、API 引用情况、BI报表热度、数据应用使用情况、出仓业务场景热度。价值元素主要包括内部人效、外部基线等级、外部数据质量、安全等级、数据新鲜度等方面，根据不同场景和不同因素进行份子权重设定，并通过产品化方案，更有效地支持多业务自定义数据价值。7. 数据地图效果展示
包括元数据展示、标签展示、用户洞察、数据专辑功能等功能。主要集中在表详情页的功能，提供了丰富的应用功能，包括基本信息、业务信息、存储信息、标签等。基于血缘数据，沉淀了血缘地图和归因/影响分析两个产品。血缘地图提供手动探查、可视化分析、链路分析的功能；归因/影响分析功能提供基于血缘的向上和向下的数据聚合分析的功能，主要针对下游数据异动快速定位问题、口径变更对基线的影响的问题，提供批量血缘查询、信息聚合、拉群和通知的功能。产品功能、数据运营体系、以及数据价值评价三方面的建设，为数据运营带来了显著提升。经过迭代，数据地图渗透率从 30% 提升到 60% ;推荐表热度提升 40%，用户评价提升 33%。同时数据价值被业务认可，价值分 Top 热度提升 20%，用户能找好数，用对数，数据建设价值可被衡量和评估。基于抽象配置的数据治理产品建设
在 B 站，表和任务以每半年翻倍的速度进行增长。从 22 年开始，我们关注到数据治理需要以更高效的方式进行推进和落地，因此提出了用 B 端产品化的思路针对数据治理方案提供的通用治理工具，以高效解决数据治理问题。1. 建设背景及产品架构
在业务快速发展期间，数据资产增长较快、资产管理混乱，数据治理工作往往迫在眉睫。通常数据治理工作有如下痛点：从数据成本、数据规范、数据质量、数据安全四大方向入手进行治理。治理中心的产品框架主要由管理运营、治理配置& 应用、基础数据模块组成。以元数据为基础数据，基于灵活配置，提升治理效果。2. 数据治理运营机制及工作流程
结合数据委员会、治理工具、运营机制三个方面，逐渐形成了一套持续可执行的治理运营流程。治理工作推进流程采用策略线上 POC->数据委员会发布->策略上线的新流程，对比之前流程有很大的改善。3. B 站治理运营的推进痛点和诉求
在 B 站，数据治理运营的痛点主要有三个方向：治理的资产对象多、资产的操作路径特殊、存量问题资产多，增量快。4. 治理工具的解决方案
通过丰富的元素和配置，可以实现用户个性化诉求，解决不同业务、不同视角、不同用户制定的形态各异的治理策略，比如：配置流程固定化、配置参数规范化、配置操作简单化。让业务自主完成治理方案的制定、规则定义和工作推进。5. 抽象：通过通用化配置实现个性化
以下是针对上述三个数据治理问题，提供的通用化配置的产品功能。将资产抽象为统一的元数据对象，每个治理对象有通用的属性和自定义属性，围绕元数据进行治理数据建模。每个对象的属性，均可以通过动态参数如{jobid} 的形式被获取，形成全局变量。充分利用现有功能和接口，通过配置 url、接口入参等，快速达到治理动作复用和上线，极大提升功能落地效率。通过开发数据策略、配置治理对象、配置操作流程、动态参数及使用文案，可快速生成一个待办问题生成器；通过调度，每天自动扫描文档，生成待办明细，推送用户治理。6. 效果及收益
目前通过治理工具，B 站已上线了 62 个策略，每个策略平均开发和上线时间 2-3 小时。累计生成治理问题 8w+，累计处理治理问题 2w+，累计治理金额超 500w，累计节约人效 100+ 人日。核心工作及未来规划
通过流程化管理，将线下 SOP 操作线上化，针对目前原子操作的产品弊端，解决数据治理流程长、执行进度不可观测的用户问题。同时能够支持平台诸多自动化治理、推送流程的落地，提升开发效率。PS：扫码加入数据学堂知识星球，搜索“数据治理”，获取更多资料文档
<END>
欢迎扫码添加歪老师个人微信（data-school），邀请加入数据学堂数据治理专业微信群，与业内大咖一起识数据、存数据、管数据、治数据、用数据！ 推荐站内搜索：最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
宙飒天下
还没有评论，来说两句吧...