2026/7/8 1:20:20
网站建设
项目流程
一、实验背景
1.1 实验目的
本实验承接上次完成的实验 产出的content_analysis明细数据表,依托助睿 ETL 完成衍生指标计算与文本特征提取,属于机器学习建模前核心特征工程环节,完成两大任务:
- (1)基于基础互动指标计算单作品总互动量衍生字段;通过文本匹配提取 5 类标题二分类 0/1 特征,回填至原有明细表。
- (2)分组聚合统计各关键词作品平均互动数据,生成关键词分析汇总表,量化标题文案对流量、互动的影响,为后续 BI 可视化、用户行为建模提供特征样本。
1.2 实验环境
- 平台全称:助睿数智(Uniplore)一站式数据科学平台
- 实训访问地址:助睿数智
- 核心工具:助睿 ETL(UD Studio 零代码数据集成工具)
- 平台核心能力:覆盖数据接入、ETL 清洗、特征加工、AI 建模、可视化全链路,内置 200 + 零代码处理组件,支持自定义 JS 脚本扩展数据处理逻辑,流批一体引擎适配教学数据集加工。
- 前置数据源:
content_analysis清洗明细表(仅 B 站、CSDN 有效作品,无脏数据、空值补齐)。 - 本实验新增目标表:
title_feature_analysis关键词统计汇总表。
1.3 核心设计思路
本次构建两类可用于统计、机器学习分类模型的特征:
- 数值衍生特征:total_interaction 总互动量计算公式:
total_interaction = likes + favorites + shares + coins业务含义:统一量化单篇作品全部用户互动行为总和,消除不同平台互动指标差异,作为评估内容热度统一标签,可直接用于回归、聚类模型输入。 - 文本二分类特征:has_best/has_lowcode/has_practice/has_tutorial/has_pit通过匹配标题关键词生成 0、1 标识字段:1 代表标题包含对应教学类关键词,0 代表不包含;属于文本离散特征,用于分类任务、分组对比分析,判断标题话术对互动数据的影响。
1.3.1 整体数据处理流程
流程分为两大独立Pipeline:
- 明细更新流:读取清洗表→JS 提取标题特征→计算器计算总互动→插入更新回填
content_analysis; - 关键词统计流:分为整体均值分支、单关键词分支,过滤聚合后通过字段标签关联合并,批量写入
title_feature_analysis汇总表; 设计优势:一次加工同时产出作品级明细、关键词聚合两层数据,分别支撑单作品明细分析、标题策略对比分析。![]()
二、详细实验步骤
2.1 :更新 content_analysis 明细表(标题特征 + 总互动指标)
步骤 1:导入上次实验 清洗数据源
- 新建空白 ETL 转换流,拖拽表输入组件至画布;
- 数据源选择团队私有数据库,选择数据表
content_analysis;![]()
- 点击数据探查预览数据,确认字段
date、author_name、title、platform、likes、favorites、shares、coins、views、url、id完整无空值,仅预留特征字段未填充; - 配置要点:开启全字段读取,保留主键 id 用于后续数据匹配更新。
2.2JavaScript组件提取 5 类标题关键词特征
- 在表输入下游拖拽【JavaScript 代码】组件;
- 打开代码编辑框,粘贴关键词匹配脚本:
var has_best = title.indexOf("保姆级") !== -1 ? 1 : 0;
var has_lowcode = title.indexOf("零代码") !== -1 ? 1 : 0;
var has_practice = title.indexOf("实战") !== -1 ? 1 : 0;
var has_tutorial = (title.indexOf("教程") !== -1 || title.indexOf("指南") !== -1) ? 1 : 0;
var has_pit = title.indexOf("踩坑") !== -1 ? 1 : 0;
has_lowcode = has_lowcode;
has_practice = has_practice;
has_tutorial = has_tutorial;
一键获取完整项目代码
- 提前确认
content_analysis表已创建 5 个 TINYINT 类型特征字段,引擎才能正常输出;脚本对标题字符串做模糊匹配,命中输出 1,未命中输出 0,形成标准化离散特征。 - 数据预览:随机抽查多条标题,验证特征字段 0/1 赋值逻辑是否匹配关键词。
![]()
2.3 计算器组件计算总互动衍生指标
- JS 组件后接入【计算器】组件;
- 新增输出字段
interactions,计算公式:interactions = likes + favorites + shares + coins - 统一整合点赞、收藏、分享、B 站投币四类互动数据,消除平台指标差异,生成连续型数值特征,可用于均值计算、相关性分析、回归建模。
![]()
2.4 插入 / 更新组件回填数据(不重复新增行)
- 计算器下游拖拽【插入 / 更新】组件,核心参数配置: | 配置项 | 设置内容 | | ---- | ---- | | 目标数据表 | content_analysis | | 匹配主键 | id(作品唯一标识) | | 需要更新字段 | total_interaction, has_best, has_lowcode, has_practice, has_tutorial, has_pit |
- 字段映射对应关系: | 流内计算字段 | 数据表目标字段 | | ---- | ---- | | interactions | total_interaction | | has_best | has_best | | has_lowcode | has_lowcode | | has_practice | has_practice | | has_tutorial | has_tutorial | | has_pit | has_pit |
- 普通表输出会重复新增作品数据;插入更新以 id 作为主键匹配,仅更新新增特征字段,原有基础数据不变,支持多次重复运行 Pipeline 无冗余脏数据。
- 流字段 表字段 更新
id id 是
interactions total_interaction 是
has_best has_best 是
has_lowcode has_lowcode 是
has_practice has_practice 是
has_tutorial has_tutorial 是
has_pit has_pit 是 ![]()
2.5 执行明细更新转换流
- 检查组件连线、字段映射无缺失、无错配;
- 运行完成后打开
content_analysis表探查,确认总互动、5 个标题特征全部填充完成。![]()
![]()
2.6 构建 title_feature_analysis 关键词汇总表
新建关键词统计目标数据表
进入表管理界面,创建title_feature_analysis表,结构定义:
| 字段名 | 数据类型 | 业务说明 |
|---|
| id | INT | 自增主键 |
| platform | VARCHAR(20) | 区分 B 站 / CSDN 平台 |
| feature_name | VARCHAR(50) | 关键词文本标签(保姆级 / 零代码等) |
| avg_interaction | DECIMAL(10,2) | 含该关键词作品平均互动量 |
| overall_avg | DECIMAL(10,2) | 对应平台全部作品平均互动基线 |
| sample_count | INT | 包含该关键词的作品样本数量 |
DROP TABLE IF EXISTS `title_feature_analysis`;
CREATE TABLE `title_feature_analysis` (
`id` INT AUTO_INCREMENT PRIMARY KEY COMMENT '自增主键',
`platform` VARCHAR(20) COMMENT '平台(B站/CSDN)',
`feature_name` VARCHAR(50) COMMENT '关键词名称',
`avg_interaction` DECIMAL(10,2) COMMENT '含该关键词的平均互动总数',
`overall_avg` DECIMAL(10,2) COMMENT '该平台整体平均互动总数',
`sample_count` INT COMMENT '含该关键词的作品数'
) ENGINE = InnoDB DEFAULT CHARSET = utf8mb4 COMMENT = '标题关键词特征分析统计表';
一键获取完整项目代码sql
![]()
搭建分支 1—— 计算平台整体平均互动基线
- 新建表输入读取
content_analysis数据;![]()
- 依次接入【排序记录】、【分组聚合】组件,不设置任何分组维度;
![]()
- 聚合规则:AVG (total_interaction) 输出 overall_avg;聚合完成后,接入“排序记录”组件,同样按“plantform”字段升序排序
![]()
- 下游添加【增加常量】组件,新增字段
feature_name = "整体均值"; - 作用:生成各平台互动基准值,用于后续对比关键词提升效果。
搭建分支 2—— 单关键词均值统计(以 “保姆级” 为例)
- 复制表输入组件新建独立分支;
- 【过滤记录】组件设置条件:
has_best = 1,仅保留标题含 “保姆级” 作品;![]()
- 排序 + 分组聚合,聚合指标:
- AVG(total_interaction) → avg_interaction
- COUNT(id) → sample_count
![]()
![]()
- 增加常量组件:
feature_name = "保姆级";![]()
- 常量字段作用:聚合后仅留存数值,增加文本标签用于和整体均值分支关联匹配。
记录集连接合并均值数据
- 拖拽【记录集连接】组件,两个输入分别接入「整体均值分支」「保姆级关键词分支」;
- 匹配关联字段设置为
feature_name,采用内连接; - 连接后单条数据同时包含关键词均值、平台整体均值、样本数量。
步骤 5:表输出写入汇总表
- 连接组件下游接入【表输出】,目标表选择
title_feature_analysis; - 关键配置:取消勾选运行前裁剪表,后续其他关键词数据追加写入,不删除已有记录;
- 核对全部字段映射关系,确认 platform、avg_interaction、overall_avg、sample_count 完整映射。
![]()
批量复制分支完成全部关键词统计 + 执行
- 完整复制 “保姆级” 整套分支,仅修改两处配置:
- 过滤条件:依次替换为
has_lowcode=1、has_practice=1、has_tutorial=1、has_pit=1 - 常量 feature_name:对应改为 “零代码”“实战”“教程 / 指南”“踩坑”;
- 依次运行 5 套关键词统计转换流;
![]()
- 探查
title_feature_analysis表,确认 5 个关键词、对应平台均值、样本数量全部入库。![]()
接下来加工其他关键词的数据:
只修改两处:过滤条件(如has_lowcode = 1)和常量值(如零代码),然后运行转换流。其他组件配置完全相同。
三、实验结果
3.1 输出成果
更新后的 content_analysis 作品明细表
- 新增字段:total_interaction、5 个标题 0/1 二分类特征;
- 数据价值:可直接用于学生作品排名、每日流量趋势、单作品互动分析,是后续 BI 可视化底层明细数据源,同时可导出为机器学习建模样本集。
![]()
新建 title_feature_analysis 关键词汇总表
- 数据粒度:单个关键词单条统计记录;
- 数据内容:存储各关键词平均互动、平台整体均值、对应作品样本量;
- 业务价值:量化标题文案对互动数据的增益效果,计算提升倍率(关键词均值 ÷ 整体均值),直接指导自媒体标题运营策略优化。
![]()
四、实验过程问题与解决
问题1 :表输出运行后关键词数据覆盖原有记录
- 解决方法:取消裁剪表勾选,采用追加写入模式,多条关键词数据共存。
问题 2:JS 代码运行后数据表无 5 个特征字段
- 解决方法:进入表管理,预先新增 5 个对应字段,重新运行转换流完成特征回填。
问题 3:多次运行插入更新组件,数据总量持续翻倍
- 解决方法:修改插入更新配置,将查询关键字设置为 id,以作品唯一 id 匹配更新,不再新增重复记录。
五、实验总结
本次实验我深刻认识到零代码数据平台的拓展优势,明确了平台的功能适配逻辑,当内置标准化组件无法实现精准文本匹配,特殊数据处理等需求时,可以通过自主编写脚本代码定制处理规则,既保留了便捷性,又增强了拓展,适配多样化的数据处理场景。在实验过程中,我遵循先细化处理单条作品的明细数据,再基于明细数据整合提炼关键词统计数据的流程,实现单层数据的多层深度利用,有效支撑不同维度的业务分析工作。