Add label master skill

This commit is contained in:
wuyang6
2026-05-09 17:49:53 +08:00
parent 84b715a293
commit 010dc1a88d
166 changed files with 13099 additions and 3 deletions
@@ -0,0 +1,46 @@
# 声纹
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:声纹
- Agent 包装候选(不代表最终):Agent(tag="声纹")
- Function 输出候选:Query:录入声纹code:(未共识)满足:录入用户声纹信息并存储,后续每次ASR识别会带上用户的声纹特征,基于此特征可以识别用户身份
- 推荐输出形态:待确认。
## 功能抽象
声纹
## 适用范围
声纹指的是基于用户的声音特征识别用户身份的能力,理论上声纹特征和指纹一样,拥有唯一性小爱在音箱、电视、车载等设备上支持通过声纹来识别用户的身份,以此来实现特定用户的功能满足。声纹类别主要用于处理声纹的识别、录入。声纹识别的打开、关闭:声纹识别:识别声音、识别声纹声纹录入:声音注册、录入声纹声纹识别打开:打开声音识别、打开声纹锁声纹识别关闭:关掉声音识别、关闭声纹锁
## 典型 Query
录入声纹识别我的声纹注册声音记录声纹
## 三级语义功能点
声纹垂域没有三级意图,只有老的intention意图
## Function / Agent 说明
Query:录入声纹code:(未共识)满足:录入用户声纹信息并存储,后续每次ASR识别会带上用户的声纹特征,基于此特征可以识别用户身份
## 满足边界问题
和个人信息、记忆存在冲突:记录电话记录外卖地址
## 易混淆标签
个人信息记忆
## 划分原则
和声纹的记录需要给声纹,其他场景的记录给记忆或个人信息
## 未解决问题
待补充。
@@ -0,0 +1,46 @@
# 家庭传声
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:家庭传声
- Agent 包装候选(不代表最终):Agent(tag="家庭传声")
- Function 输出候选:Query:对全家说生日快乐code:(未共识)满足:语义理解:明确是家庭传声需求通过米家成员信息接口获取家庭成员信息融合米家设备信息和小爱设备信息获取全部成员设备信息音频截取:根据ASR 提供的offest生成音频截取参数调用音频截取接口截取家庭传声语音消息内容provider(等同于skill)通过小爱长连接通道推送语音消息
- 推荐输出形态:待确认。
## 功能抽象
家庭传声
## 适用范围
家庭传声功能描述:家庭成员利用小爱的语音通道实现消息传递。例如,在手机端对着小爱说“和家里的音箱说一下今晚不回去吃饭了”,此时家庭传声链路会截取用户query中“今晚不回去吃饭了”的音频,然后将其转发给家里的音箱进行播报家庭传声支持的设备:被传声设备支持音箱和电视,主要支持家庭场景家庭传声的case语义特征较为明显,通常会包含“对xx说”,或者家庭关键字参考文档:【小爱研发项目】家庭传声
## 典型 Query
对全家说生日快乐对屋里人说今天外卖自己点对家庭讲下冰箱门开着
## 三级语义功能点
对全家说生日快乐(SendAction<object@IntercomMessage,to@IntercomUser>)
## Function / Agent 说明
Query:对全家说生日快乐code:(未共识)满足:语义理解:明确是家庭传声需求通过米家成员信息接口获取家庭成员信息融合米家设备信息和小爱设备信息获取全部成员设备信息音频截取:根据ASR 提供的offest生成音频截取参数调用音频截取接口截取家庭传声语音消息内容provider(等同于skill)通过小爱长连接通道推送语音消息
## 满足边界问题
边界1:和闲聊场景可能存在冲突对小红说你好(小红是音箱)让小红说你好(小红是音箱)对音箱说你好(小红是音箱)告诉小明记得吃饭
## 易混淆标签
闲聊
## 划分原则
有歧义的都认为是闲聊,只有明确语义的是家庭传声query中明确包含家庭传声场景关键字的才给到家庭传声,例如:包含房间或房屋信息:向屋里传个声门没关包含家庭、家人等关键字:跟家里人说洗澡水好了
## 未解决问题
待补充。
@@ -0,0 +1,46 @@
# 相机
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:相机
- Agent 包装候选(不代表最终):Agent(tag="相机")
- Function 输出候选:Query:打开相机倒计时code:(未共识)Query:打开相机code:(未共识)满足:调用系统级能力,打开相机或设置相机倒计时
- 推荐输出形态:待确认。
## 功能抽象
相机
## 适用范围
操作客户端执行和相机相关的操作录视频或者拍照:例如“录视频”、“拍个照片”设置拍摄模式或拍摄参数:例如“关掉中心坐标”、“打开相机倒计时”需要客户端有拍摄能力才能执行相机操作,有拍摄能力的客户端包括手机、车载、眼镜
## 典型 Query
设置照相机快捷键打开相机倒计时拍个照片打开相机关闭相机返回相机
## 三级语义功能点
相机相关的语义已迁移Agent,没有三级意图
## Function / Agent 说明
Query:打开相机倒计时code:(未共识)Query:打开相机code:(未共识)满足:调用系统级能力,打开相机或设置相机倒计时
## 满足边界问题
和相机相关的app边界存在冲突:打开黄油相机返回美图相机
## 易混淆标签
应用控制
## 划分原则
针对第三方相机,无法在系统层面进行控制。因此只有原生相机才给到“相机”tag,第三方相机的操作给应用控制
## 未解决问题
待补充。
@@ -0,0 +1,46 @@
# 系统定时控制
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:系统定时控制
- Agent 包装候选(不代表最终):Agent(tag="系统定时控制")
- Function 输出候选:Query:五分钟后关机code:(未共识)满足:调用系统层接口传输“定时” or “延时”参数,需要系统层支持才能实现此功能
- 推荐输出形态:待确认。
## 功能抽象
系统定时控制
## 适用范围
在系统控制的基础上增加时间相关的条件:定时控制:设定具体时间点,执行设备控制操作,例如“五点关机”延时控制:设定延时时间段,执行设备控制操作,例如“十分钟后关机”
## 典型 Query
十分钟后关机五点后关机五点后关闭音乐
## 三级语义功能点
五点后关闭音乐(ActivateAction<object@CloseIntent[timer]>)十分钟后关机(ShutdownAction<object@Device,when@ExecuteTime>)
## Function / Agent 说明
Query:五分钟后关机code:(未共识)满足:调用系统层接口传输“定时” or “延时”参数,需要系统层支持才能实现此功能
## 满足边界问题
自动任务和设备定时控制 & 系统定时控制的冲突:(全部统一成:条件任务,基于该前提重新review function定义)条件统一定义,时间或操作条件执行的action包括:控制、提醒、autotaskquery五分钟后关空调五点关空调五点关机倒车时后视镜自动下翻自动任务和提醒的冲突:早上五点提醒我吃饭十分钟后提醒我吃药
## 易混淆标签
自动任务系统定时控制设备定时控制备忘录-提醒设备控制
## 划分原则
长线:全端都统一为自动任务的表示方式短线:适配区分支持自动化和不支持的场景(中控推进)
## 未解决问题
待补充。
@@ -0,0 +1,46 @@
# 系统控制
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:系统控制
- Agent 包装候选(不代表最终):Agent(tag="系统控制")
- Function 输出候选:Query:音量大一点code:(未共识)Query:打开蓝牙code:(未共识)满足:调用系统层面接口完成对应控制,并返回TTS
- 推荐输出形态:待确认。
## 功能抽象
系统控制
## 适用范围
通用系统层能力控制:小米设备系统层能力控制,此类系统层能力的特点是不区分端,各端能力通用。例如“音量”、“屏幕亮度”、“音色”等除车载端外其他端特有控制也属于系统控制例如:眼镜端,query = 镜片颜色调深一点例如:扫地机,query = 充电控制的操作包括:打开or关闭系统功能:关机、打开护眼模式设置功能属性:音量大一点、亮度调到百分之五十
## 典型 Query
音量大一点音色设置为青葱眼镜颜色调深一点
## 三级语义功能点
关机(ShutdownAction<object@Device,when@ExecuteTime>)调整青葱音色(SwitchAction<object@ControlModule[adjustment]>)
## Function / Agent 说明
Query:音量大一点code(未共识)Query:打开蓝牙code:(未共识)满足:调用系统层面接口完成对应控制,并返回TTS
## 满足边界问题
边界1:系统控制和闲聊边界(TODO @苏会钰)q=再见,q=拜拜,认为是退出q=好了,再见吧q=睡觉了q=谢谢q=谢谢,拜拜q=休息吧部分设备端特有的控制功能可能和其他端存在冲突:镜片颜色调深一点眼镜端:tag = 系统控制手机端:tag = 相机这个内容帮我读一遍眼镜端:tag = 图片问答手机端:tag = 系统控制
## 易混淆标签
设备控制车载控制应用控制声纹相机控制设备查找闲聊
## 划分原则
控制类和端类型强相关,收音设备优先原则系统控制是偏向兜底控制的选择,其他类型的控制偏向白名单实现优先级高于系统控制。例如“声纹”、“相机控制”等功能本质也是调用当前设备系统层面的能力
## 未解决问题
待补充。
@@ -0,0 +1,46 @@
# 自动任务
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:自动任务
- Agent 包装候选(不代表最终):Agent(tag="自动任务")
- Function 输出候选:Query:上车时打开空调和座椅加热code:(未共识)Query:主驾下车时提醒我拿手机code:(未共识)满足:planning模型输出对应的function code,拆分条件和要执行的动作其中ConditionParser函数中的query会请求条件理解大模型,条件理解大模型对条件进行二次理解Agent函数中的query会请求对应Agent获取语义理解结果结果满足阶段会调用脚本生成服务,基于条件理解大模型和Agent的语义理解结果,生成可以在客户端执行创建自动任务的脚本客户端执行对应脚本完成自动任务创建目前仅车载端支持此功能
- 推荐输出形态:待确认。
## 功能抽象
自动任务
## 适用范围
触发某个条件后执行某个操作,目前存在两个场景:车载场景:触发条件:上下车、智驾开始、下雨、电量低执行操作:车控操作、导航、设置提醒示例query:“上车时打开空调”家庭场景:触发条件:温度/湿度 高于/低于某值,设备控制操作、设备状态、检测器检测结果执行操作:设备控制示例query:“每当关灯时关闭空调”、“每当卧室高于28度的时候打开电风扇”、“客厅有人移动时提醒我家里有人”参考文档:语音创建自动化方案
## 典型 Query
上车时打开空调和座椅加热主驾下车时提醒我拿手机
## 三级语义功能点
待补充。
## Function / Agent 说明
Query:上车时打开空调和座椅加热code:(未共识)Query:主驾下车时提醒我拿手机code:(未共识)满足:planning模型输出对应的function code,拆分条件和要执行的动作其中ConditionParser函数中的query会请求条件理解大模型,条件理解大模型对条件进行二次理解Agent函数中的query会请求对应Agent获取语义理解结果结果满足阶段会调用脚本生成服务,基于条件理解大模型和Agent的语义理解结果,生成可以在客户端执行创建自动任务的脚本客户端执行对应脚本完成自动任务创建目前仅车载端支持此功能
## 满足边界问题
待补充。
## 易混淆标签
待补充。
## 划分原则
如果query中的条件部分和定时或延时相关,且执行动作和设备控制、系统控制、提醒相关,则自动任务类别不召回。其他场景自动任务召回,自动任务需要召回的典型场景为:十分钟后导航去五彩城下车提醒我拿手机十分钟后关闭空调和座椅加热
## 未解决问题
自动化和系统定时控制、设备定时控制、备忘录之间的边界共识
@@ -0,0 +1,46 @@
# 设备定时控制
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:设备定时控制
- Agent 包装候选(不代表最终):Agent(tag="设备定时控制")
- Function 输出候选:Query:二十秒后关灯code:(未共识)Query:晚上五点打开空调code:(未共识)满足:Skill阶段调用米家服务控制对应被控设备,并在当前设备上回复“已经操作了,要是没成功等下再试试”类的引导话术米家服务会调用对应设备,控制结果会通过异步push的方式再发给指令发起设备,通知控制结果
- 推荐输出形态:待确认。
## 功能抽象
设备定时控制
## 适用范围
在设备控制的基础上增加时间相关的条件:定时控制:设定具体时间点,执行设备控制操作,例如“五点的时候打开空调”延时控制:设定延时时间段,执行设备控制操作,例如“十分钟后打开空调”
## 典型 Query
二十秒后关灯晚上五点打开空调
## 三级语义功能点
二十秒后关灯(TurnOffAction<object@Light>)晚上五点打开插座(TurnOnAction<object@Outlet>)
## Function / Agent 说明
Query:二十秒后关灯code:(未共识)Query:晚上五点打开空调code:(未共识)满足:Skill阶段调用米家服务控制对应被控设备,并在当前设备上回复“已经操作了,要是没成功等下再试试”类的引导话术米家服务会调用对应设备,控制结果会通过异步push的方式再发给指令发起设备,通知控制结果
## 满足边界问题
待补充。
## 易混淆标签
待补充。
## 划分原则
待补充。
## 未解决问题
待补充。
@@ -0,0 +1,46 @@
# 设备控制
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:设备控制
- Agent 包装候选(不代表最终):Agent(tag="设备控制")
- Function 输出候选:Query:关灯code(未共识)Query:开空调code:(未共识)满足:Skill阶段调用米家服务控制对应被控设备,并在当前设备上回复“已经操作了,要是没成功等下再试试”类的引导话术米家服务会调用对应设备,控制结果会通过异步push的方式再发给指令发起设备,通知控制结果
- 推荐输出形态:待确认。
## 功能抽象
设备控制
## 适用范围
通过语音控制IOT设备,IOT设备包含两种类型:主控设备:客户端安装小爱,具备语音交互能力,如:电视、扫地机被控设备:客户端没有安装小爱,不具备语音交互能力,如:空调、电饭煲、灯控制操作包括:打开关闭设备:例如“打开空调”、“关闭电视”设置设备属性:例如“洗衣机设置为烘干”、“空调二十六度”房间:对于有多个同类型设备的用户来说,可以通过房间槽位来区分不同设备,例如:“打开主卧空调”、“关闭次卧电视”
## 典型 Query
打开空调扫地机扫一下客厅打开电视
## 三级语义功能点
打开空调(TurnOnAction<object@AirConditioner>)扫地机扫一下客厅(ActivateAction<object@Vacuum[sweep]>)关闭电视(TurnOffAction<object@Television>)
## Function / Agent 说明
Query:关灯code(未共识)Query:开空调code:(未共识)满足:Skill阶段调用米家服务控制对应被控设备,并在当前设备上回复“已经操作了,要是没成功等下再试试”类的引导话术米家服务会调用对应设备,控制结果会通过异步push的方式再发给指令发起设备,通知控制结果
## 满足边界问题
待补充。
## 易混淆标签
待补充。
## 划分原则
待补充。
## 未解决问题
待补充。
@@ -0,0 +1,46 @@
# 设备查找
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:设备查找
- Agent 包装候选(不代表最终):Agent(tag="设备查找")
- Function 输出候选:Query:查找我的手机code:(未共识)满足:skill调用查找手机服务,获取设备信息,发送响铃操作等,满足用户意图手机回复:我在这呢,看到我了吗,快来找我吧通过动画、闪光灯、震动、音效回应(仅手机支持)Query:查找我的手环code:(未共识)满足:跳转查找设备页面(除手机外其他设备跳转查找设备页面)Query:打开查找设备页面code:(未共识)满足:打开设备查找页面
- 推荐输出形态:待确认。
## 功能抽象
设备查找
## 适用范围
设备查找功能描述:用户通过语音控制“小爱”来查找设备,此处包含两种情况:待查找设备可唤醒:例如用户找不到手机了,但是手机小爱可以唤醒。此时被唤醒的手机设备会通过声音、光效等方式提醒用户手机位置待查找设备不能唤醒:同样是查找手机,此时手机距离较远,用户无法直接唤醒手机,则可以通过唤醒音箱或电视设备来查找手机。同样会通过声音、光效等方式提醒用户手机位置可查找的设备:手机、平板、耳机。如果设备本身无法通过声音、光效等提醒用户位置(例如耳机),则会打开设备查找页面,告诉用户需要查找设备的位置信息除了直接查找设备,此类别也支持打开设备查找页面参考文档:findPhone功能迁移控制agent技术方案
## 典型 Query
小爱你在哪找一下我的红米打开查找手机打开查找设备我的手环放哪了
## 三级语义功能点
我的手机在哪(ActivateAction<object@FindPhone>)打开查找手机(OpenAction<object@FindPhone[setting]>)我的
## Function / Agent 说明
Query:查找我的手机code:(未共识)满足:skill调用查找手机服务,获取设备信息,发送响铃操作等,满足用户意图手机回复:我在这呢,看到我了吗,快来找我吧通过动画、闪光灯、震动、音效回应(仅手机支持)Query:查找我的手环code:(未共识)满足:跳转查找设备页面(除手机外其他设备跳转查找设备页面)Query:打开查找设备页面code:(未共识)满足:打开设备查找页面
## 满足边界问题
边界1:是否支持非小米设备:设备查找只支持小米手机、平板、耳机、手环。不支持其他品牌设备或其他物品查找,如下case不属于设备查找:我的苹果手机在哪我的袜子在哪帮我记住我的ipad放书包里了,之后问我的Ipad放哪了
## 易混淆标签
记忆个人信息
## 划分原则
小爱你在哪——控制xxxx在哪——无法区分设备是否是小米的可以记忆统一处理非小米手机、平板、耳机、手环的查找请求不属于设备查找,属于个人信息(TODO)
## 未解决问题
待补充。
@@ -0,0 +1,46 @@
# 车载控制
## 标注输出
> 注意:旧标签资料中同时存在 tag 标签和 Function 定义。本卡片不直接声明最终训练标签;生成数据前必须结合 `判断维度/标注输出形态.md` 确认当前任务使用 Agent 形式还是 Function 形式。
- 旧 tag 标签:车载控制
- Agent 包装候选(不代表最终):Agent(tag="车载控制")
- Function 输出候选:Query:打开车窗code(未共识)Query:关闭智驾code(未共识)code:device定义示例:满足:车载端本地执行调用对应设备执行操作,并获取执行结果,基于执行结果生成对应TTS
- 推荐输出形态:待确认。
## 功能抽象
车载控制
## 适用范围
车载端设备控制功能:设备类型:可控制的设备约200种,包括空调、雨刮、前备箱、灯等音区:设备和车内音区可以关联,音区包括主驾、副驾、后排、前排等,如果query中不包含音区则默认使用ASR识别音区。query中包含音区的示例为“打开主驾空调”、“关闭副驾车窗”。不包含音区的示例为“打开车窗”、“关闭雨刮”控制的操作包括:打开or关闭设备:例如“打开空调”、打开主驾空调设置设备属性:例如“前备箱最大开度设置为百分之五十”车载端特有控制功能:车载特有功能:智驾、泊车、哨兵、用车习惯、音区、行车记录仪、各类车控功能页面控制的操作包括:打开or关闭功能或页面:打开自动泊车、打开儿童锁页面设置功能属性:充电阈值设置为百分之八十参考文档:全量词表车控全功能梳理
## 典型 Query
打开空调打开座椅加热自动泊车
## 三级语义功能点
打开操作(ActivateAction<object@OpenIntent>)关闭操作CloseAction<object@VehicleModule[adjustment]>调整操作InformAction<object@VehicleModule[adjustment]>
## Function / Agent 说明
Query:打开车窗code(未共识)Query:关闭智驾code(未共识)code:device定义示例:满足:车载端本地执行调用对应设备执行操作,并获取执行结果,基于执行结果生成对应TTS
## 满足边界问题
(待讨论)边界1:车载设备和家庭设备区分车载既有设备属性又有房间属性,因此车载设备可能和家庭设备存在冲突,例如“空调”、“冰箱”、“灯”边界2:车载控制和自动任务(见下面自动任务)车载控制部分指令也存在条件,和自动任务语义存在冲突倒车时后视镜自动下翻需要明确定义出来到底哪些是车载控制,哪些是自动任务手机端等如果要接入自动任务存在相似问题边界3:车载端特有的控制功能,和其他端语义存在冲突 打开360——APP/车控——长线都是控制(只区分控制和IOT)打开监控——IOT/车控(device区分)驾驶模式——QA/车控(分端)以下问题同边界1:车载端特有的控制功能定义为“车载控制”,其他端特有的控制功能会定义成“xx控制”么(其他端暂不定义新的标签)如果把IOT设备拿到车上进行语控,是否属于车载控制(同边界1)对于主控设备的操作是否属于设备控制:(对手机说和对车说不一样,协同响应如何迁移planning模型?)打开车窗打开车辆座椅加热打开车辆方向盘加热打开电视电视播放小猪佩奇跟手机说——IOT电视跟电视说——主控设备跟车说——车载后排电视在当前设备上的系统级别控制请求,但是带设备关键字,是否属于设备控制:电视发起请求:query = 电视音量大一点电视发起请求:query = 电视亮一点手机控车、家控车不属于设备控制,任何控车场景都属于车载控制。例如手机或音箱端发起如下请求:打开车窗打开座椅加热打开方向盘加热主控设备(例如电视、音箱)只有支持spec协议的功能才支持IOT控制,其他不支持的功能需要走协同响应,但是两种场景query类别均属于“设备控制”。例如音箱控电视场景:走IOT控制的功能:打开电视走协同响应的功能:电视播放小猪佩奇在当前设备发起控制当前设备的指令属于系统控制,不属于设备控制:电视发起请求:query = 电视音量大一点音箱发起请求:query = 电视音量大一点
## 易混淆标签
系统控制设备控制应用控制自动任务车载设备状态查询QA
## 划分原则
边界1:设备识别统一建模,对全部任意device统一定义,不区分车载还是iot场景,默认device是本机。在device正确的前提下,是否走IOT spec协议或协同响应等由skill或control agent自己判断。(TODO,中控设备决策做到什么程度,音箱端:打开摄像头)目前扫地机、洗衣机、冰箱是3个特例。边界2:条件任务,统一建模,全部按照自动任务的形式出function边界3:在车载端,车控优先
## 未解决问题
待补充。