万事俱备，只欠东风,开始训练……

行走的ccd 2024-02-29 11:20:48

课时名称	课时知识点
万事俱备，只欠东风,开始训练……	训练

...全文

78 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

YOLOv8的官方预训练模型，通常是在像COCO这样的大型通用数据集上训练的。COCO里有什么？人、车、猫、狗、交通灯、椅子……这些都是我们日常生活中的常见物体。模型学到的特征，比如边缘、纹理、颜色组合，都是为识别这些“日常风”物体优化的。现在，想象一下你的任务：医学影像分析：你要在病理切片中识别一种特定类型的癌细胞。这些细胞在显微镜下呈现的形态、纹理，与COCO里的任何东西都天差地别。模型预训练学到的“猫耳朵”的边缘特征，对识别癌细胞的核膜边界毫无帮助，甚至可能产生误导。工业质检

本篇文章共 25027 个词，一个字一个字手码的不容易，转载请标明出处：预训练语言模型的前世今生 - 从Word Embedding到BERT - 二十三岁的有德本文的主题是预训练语言模型的前世今生，会大致说下 NLP 中的预训练技术是一步一步如何发展到 Bert 模型的，从中可以很自然地看到 Bert 的思路是如何逐渐形成的，Bert 的历史沿革是什么，继承了什么，创新了什么，为什么效果那么好，主要原因是什么，以及为何说模型创新不算太大，为何说 Bert 是近年来 NLP 重大进展的集大成者。预训练语言

01-learning-Lenet, 主要讲的是如何用python写一个Lenet，以及用来对手写体数据进行分类(Mnist)。从此教程可以知道如何用python写prototxt，知道如何单步训练网络，以及采用单步训练的方法来获取每一步训练的loss和accuracy，用来绘制曲线图。其实并没有官方教程一说，只是在caffe/example/下有 00-classification.ipyn

Hugging Face分享大模型训练全流程指南，以SmolLM3为例详解训练决策、架构选择、数据工程及超参数调优。强调训练前需明确目标与必要性，系统介绍消融实验设计、基础设施搭建及后训练技术，帮助开发者避免常见陷阱，高效构建高性能语言模型。

通过上述的讲解，对图像预训练做个总结（可参照上图）：对于一个具有少量数据的任务 A，首先通过一个现有的大量数据搭建一个 CNN 模型 A，由于 CNN的浅层学到的特征通用性特别强，因此在搭建一个 CNN 模型 B，其中模型 B 的浅层参数使用模型 A 的浅层参数，模型 B 的高层参数随机初始化，然后通过冻结或微调的方式利用任务 A 的数据训练模型 B，模型 B 就是对应任务 A 的模型。这其实是 Bert 的非常大的优点，这意味着它几乎可以做任何NLP的下游任务，具备普适性，这是很强的。

扩视机器视觉-东哥的课程社区_NO_1

1

社区成员

27

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章