码上问学问代码之理,学编程之道

易混概念对比表

学生最怕的不是概念难,是概念长得像。课程标准要求「每讲一个概念必配一张易混概念对比表」—— 这里把数据标注里最容易混、考试最爱考的 12 组概念两两摆开,配上「一句话区分」与知识点回链。考前集中刷这一页就够了。

标注三方式图像四任务语义vs实例 监督vs无监督数据三形态蜜罐vs金标准 三角色一致vs准确两种Kappa 主动vs被动群智vs众包三种聚合
01

人工标注 / 自动标注 / 人机协同

三种标注方式:谁在动手,决定了速度与质量人工标注人工占比人 100%自动标注人工占比人 0%人机协同人工占比人 40% → 8%人机协同形成「数据飞轮」:模型先标 → 人只改错的 → 拿改过的再训练 → 模型更强 → 人改得更少一句区分:人工=全靠人;自动=全靠模型(会继承模型的错);人机协同=模型打底、人改错题
维度人工标注自动标注(预标注)人机协同
谁来标人 100%模型 100%模型先标,人只改错的
速度 / 成本慢、贵(基准)快、便宜介于两者之间,越转越省
质量风险慢但稳,易疲劳出错会跟着训练数据一起错错漏靠人兜底,但要防人偷懒
典型占比人工 100%人工 0%人工占比从 40% 降到 8%
一句话区分:人工=全靠人;自动=全靠模型(且会继承模型的错);人机协同=模型打底、人改错题,形成数据飞轮。
02

图像四任务:分类 / 检测 / 语义分割 / 实例分割

图像四任务:同一张图,四种问法、四种产物① 图像分类图里是什么狗② 目标检测有什么、在哪狗狗猫③ 语义分割逐像素,只分类别同类别 = 同一颜色④ 实例分割逐像素,还分个体每个个体 = 不同颜色细粒度由粗到细:整图一个标签 → 框 → 类别色块 → 个体色块,价格也逐级翻番
任务回答的问题标注产物细粒度单价量级
图像分类「图里是什么」1 个标签最粗几毛
目标检测「有什么、在哪」框 + 类别中几元
语义分割「每个像素属于哪类」逐像素类别图细十几元
实例分割「每个物体个体在哪」逐像素 + 区分同一类不同个体最细几十元(差 15 倍)
一句话区分:分类给标签,检测给框,语义分割给整片像素,实例分割给每个独立物体的像素。
03

语义分割 vs 实例分割

语义 vs 实例:关键在「同类的不同个体算不算一伙」语义分割 Semantic两只狗都是「狗」,不区分谁是谁实例分割 Instance狗1、狗2 各算一个实例考题陷阱:问「图中有几只狗」——语义分割答不出来,只有实例分割能数出个数
维度语义分割实例分割
核心区别只分「类」,不区分个体既分「类」,又区分同类的不同个体
图里有 3 只猫全部标成「猫」一种颜色3 只猫 3 种颜色,能数出有几只
难度 / 成本较低更高(要逐物体描边)
典型用途可行驶区域、天空地面自动驾驶行人/车辆逐辆计数
一句话区分:语义分割不分你我,实例分割一只有一个 ID。
04

监督学习 / 无监督学习

有没有「标准答案」,是两种学习的分水岭监督学习:照着答案学数据 + 标签(我们标的就是这个)训练学会「看到 X 就回答 Y」例:给猫图打上「猫」,模型学会认猫无监督学习:自己找规律只有数据,没有标签聚类把「长得像的」归成一堆例:把相似图片自动分组,但不叫出名字数据标注做的就是「给无标签数据造出标签」,好让监督学习有的可学
维度监督学习无监督学习
数据要不要标签要(这正是标注存在的理由)不要
学什么输入→输出的映射数据自身的结构 / 聚类
典型任务分类、检测、分割、NER聚类、降维、异常检测
和本课程关系绝大多数标注任务服务它极少直接标注,但可用于预聚类辅助
一句话区分:监督=有人教答案(数据标注主要服务的对象);无监督=自己找规律。
05

结构化 / 半结构化 / 非结构化数据

数据三形态:越往右越难标,也越值钱结构化数据库表、Excel行列固定、可直接统计半结构化JSON、XML、日志有标签但不规整{ "label": "猫" }非结构化图、文、音、视频占 80%+,最需要标注标注工作量的大头在非结构化数据——正因为机器读不懂,才需要人来做「翻译」
类型特征例子标注难度
结构化行列规整、字段固定数据库表、Excel低(基本不用标)
半结构化有标签但不强制 schemaJSON、XML、HTML中
非结构化无固定格式文本、图像、音频、视频高(标注主战场)
一句话区分:越「自由」越难标,非结构化数据是标注行业的主战场。
06

蜜罐(Gold Honeypot) vs 金标准(Gold Standard)

蜜罐与金标准:都是「已知答案的题」,用法不同蜜罐 Honeypot偷偷混进正常任务里的「送分题」标注员不知道它是考题用途:实时盯人,标错立刻发现作用时机:标注过程中像「随堂抽查」金标准 Gold Standard专家反复确认的「标准答案卷」用来对答案、算准确率用途:验收与考核整体质量作用时机:标注完成后像「期末标准答案」搭配使用:蜜罐管过程(防偷懒),金标准管结果(判对错)
维度蜜罐 / 金标准题普通任务题
谁已知答案出题方已知(埋进去的)出题方也未必逐条核
目的测「认不认真」(抓作弊/摸鱼)真正产出的标注数据
判定答对率→标注者可信度多人交叉→真值
占比通常 5%~10% 混入其余 90%+
一句话区分:蜜罐是测人的陷阱题,金标准是已知正确答案的参照;两者都用来给普通题的结果加权。
07

标注员 / 质检员 / 仲裁员

三角色流水线:谁标、谁查、谁拍板标注员按规范打标产出初稿质检员抽检 + 全检合格则通过仲裁员争议最终判定定标准答案提交有争议打回重标仲裁结论回流:既改这一条,也回头修订标注规范质检员不重标,只判定「过 / 不过」仲裁员解决的是「规范没写清」的场景
角色干什么看什么标准课程对应
标注员产出第一版标签原始数据 + Guideline模块 4 实操
质检员抽检标注结果,打回不合格标注结果模块 9 一致性
仲裁员解决争议、定夺真值多人分歧专家 / 高 Kappa 者
一句话区分:标注员生产,质检员把关,仲裁员拍板。课程要求同批学生角色轮换体会不同视角。
08

一致性(IAA) vs 准确率(Accuracy)

一致性看「人与人」,准确率看「人与真值」一致性 IAA两个标注员标同一批,有多像?甲:猫 乙:猫 ✓ / 甲:狗 乙:猫 ✗不需要真值,只比彼此用途:检验规范是否写得清楚准确率 Accuracy标的结果跟标准答案,有多像?标:猫 答案:猫 ✓ / 标:狗 答案:猫 ✗必须有真值(金标准)用途:验收这批货能不能收两人一致 ≠ 都对(可能一起错);所以高一致性只是必要条件,不是充分条件
维度一致性 IAA准确率 Accuracy
比较对象两个标注者之间标注结果 vs 标准答案
没有金标准时能算吗能(互相比)不能(没参照)
本课用什么指标Cohen's / Fleiss Kappa一般需金标准题
含义「两人标得像不像」「标得对不对」
一句话区分:一致性管「像不像」(过程质量),准确率管「对不对」(结果质量)。
09

Cohen's Kappa vs Fleiss Kappa

Cohen 管两人,Fleiss 管多人——别拿错公式Cohen's Kappa恰好 2 个标注员甲 ○ 乙 ○两人两两比对典型场景:甲乙双方验收互评Fleiss' Kappa3 人及以上(人数可不等)○ ○ ○ ○ ○多人对同一批样本 jointly 评分典型场景:众包平台上多人群标共同点:都扣掉了「蒙对的概率」,所以都比简单百分比更严格;>0.8 算高度一致
维度Cohen's KappaFleiss Kappa
比较人数2 个人≥2 个人(多人)
典型场景一对一交叉质检多人标注同一批数据的整体一致
课程对应交叉质检(Kappa≥0.6)群体一致性评估
一句话区分:Cohen 管两人,Fleiss 管一群人。期末交叉质检用 Cohen's。
10

主动学习 vs 被动学习(采样)

挑哪些样本先标:随机抽,还是让模型挑难的被动学习(随机采样)第 1 批:随便抽第 2 批:再随便抽模型提升慢,标了很多冗余主动学习(模型挑样本)第 1 批:随机少量起步第 2 批:专挑「最不确定」的同样标注量,涨点更快主动学习省的是「标注预算」:把钱花在模型最不会的那批数据上
维度被动学习主动学习
选哪些数据标随机 / 全量模型挑「最不确定」的样本先标
目的简单但费人工用更少标注达到同等精度
和群智化关系—主动学习是降本的关键策略
一句话区分:被动=全标;主动=让模型先挑不懂的给你标。
11

群智化(Crowdsourcing Annotation) vs 众包(Crowdsourcing)

众包是「方式」,群智化标注是它在 AI 数据上的具体用法众包 Crowdsourcing把任务分给网上的大众送外卖、问卷、创意征集…群智化标注众包 × AI 数据标注标框、标类别、转写语音多了:培训 / 蜜罐 / 聚合群智化不是「随便找人标」:它靠规范+培训+蜜罐+多数投票,把零散的众包结果变成可信数据
维度众包 Crowdsourcing群智化标注
范围泛指把任务分发给大众(含设计、翻译…)众包在「数据标注」这一领域的专门化
本课语境是手段(平台如 MTurk)是方法论(含流水线+质控+人员分层)
一句话区分:众包是大概念,群智化标注是它在数据标注领域加了质量机制后的落地形态。
12

多数投票 / 加权投票 / Dawid-Skene

三个人的答案不一致,听谁的?三种聚合方式多数投票甲:猫乙:猫丙:狗结果:猫(2:1)人人平等,看人头加权投票甲(老手 0.9):猫乙(新手 0.5):猫丙(新手 0.5):狗结果:猫(权重 1.4:0.5)按历史准确率加权Dawid-Skene先估每个人的可信度再估每题的真实答案迭代到收敛结果:猫(且知道谁常错)人和题一起估计由简到繁:多数投票最朴素;Dawid-Skene 会同时估计「谁靠谱」和「正确答案」,工业界最常用
聚合方法怎么定真值考虑置信度吗精度
多数投票少数服从多数否(一人一票)基线
加权投票按历史可信度加权是(蜜罐得分高权重高)较好
Dawid-SkeneEM 迭代估计每人混淆矩阵是(还修正了标注者自身偏差)最好
一句话区分:多数=数人头,加权=信得过的人票更重,Dawid-Skene=连人常犯哪种错都算进去。