当前位置: 首页 > news >正文

10.13面试整理

1. NMS算法的流程

NMS也即非极大值抑制。在最近几年常见的物体检测算法(包括rcnn、sppnet、fast-rcnn、faster-rcnn等)中,最终都会从一张图片中找出很多个可能是物体的矩形框,然后为每个矩形框为做类别分类概率:

所谓非极大值抑制:依靠分类器得到多个候选框,以及关于候选框中属于类别的概率值,根据分类器得到的类别分类概率做排序,具体算法流程如下:

(1)将所有框的得分排序,选中最高分及其对应的框
(2)遍历其余的框,如果和当前最高分框的重叠面积(IOU)大于一定阈值,我们就将框删除。(为什么要删除,是因为超过设定阈值,认为两个框的里面的物体属于同一个类别。我们只需要留下一个类别的可能性框图即可。)
(3)从未处理的框中继续选一个得分最高的,重复上述过程。

2. 了解torch.utils.data.DataLoader中的pin_memory属性吗

pin_memory:表示要将load进来的数据是否要拷贝到pin_memory区中,其表示生成的Tensor数据是属于内存中的锁页内存区,这样将Tensor数据转移到GPU中速度就会快一些,默认为False。
通常情况下,数据在内存中要么以锁页的方式存在,要么保存在虚拟内存(磁盘)中,设置为True后,数据直接保存在锁页内存中,后续直接传入cuda;否则需要先从虚拟内存中传入锁页内存中,再传入cuda,这样就比较耗时了,但是对于内存的大小要求比较高。

3. 多卡训练

模型并行(model parallel) -> 大型网络(对速度没有提升)
当模型需要的显卡很大,一张GPU的显存放不下时,使用这种方式就可以训练一个大型的网络

数据并行(data parallel)-> 加速训练速度
可以将整个模型放到一张GPU时,我们可以将每一个模型放到每一个GPU上,让它们同时进行训练(正向传播+反向传播)

在使用多GPU训练时,每张GPU在进行完一个step后会产生梯度,我们需要将所有GPU的梯度求平均(并不是每张GPU各自学各自的,那样就没有意义了),这样才能将每张GPU的训练结果结合在一起。

实现多卡并行计算的两种方式:
1. DataParallel : PyTorch官方很久之前给出的一种方案
2. DistributedDataParallel: 更新一代的多卡训练方法

  • DP是一个单进程、多线程并且仅仅只能工作在单一的设备中(单节点,不适用于多机的情况)
  • DDP是一个多进程的,可以工作在单机或者多机的场景中
  • DP通常要慢于DDP(即便在单一的设备上)

相关文章:

  • Python爬虫之pyquery和parsel的使用
  • 2024 年广西职业院校技能大赛高职组《云计算应用》赛项样卷
  • 『大模型笔记』提示工程、微调和RAG之间对比
  • MCGS学习——MCGS仿真与实体西门子监控
  • java openCV4-专栏目录
  • C语言中常用的文件操作
  • 代码库管理工具Git介绍
  • 【JS】【Vue3】【React】获取滚轮位置的方法:JavaScript、Vue 3和React示例
  • uni-app webview 打开baidu.com
  • Java实战:Spring Boot集成MongoDB
  • 【Java基础面试题2】
  • Android Studio六大基本布局详解
  • 下一代 IDE 工具 JetBrains Fleet 正式公测
  • Node.js3---nodejs的内置模块之url模块
  • 什么样的小程序才能留住客户?
  • EXCEL表格-系统时间及进度自动记录工具制作
  • 走进元宇宙--手势交互技术详解
  • Zookeeper集群安装部署
  • 机器学习笔记 - 在Vehicles数据集上训练 YOLOv5 目标检测器
  • flutter系列之:把box布局用出花来
  • 计算机毕业设计JAVA旧物置换网站mybatis+源码+调试部署+系统+数据库+lw
  • GridView使用详情
  • springboot(四)
  • 基于腾讯云Docker部署PXC搭建MySQL集群
  • Node.js:模块化
  • java面试-GC垃圾回收机制
  • 没有谷歌翻译,我该怎么办?
  • Java Web Spring核心之AOP的解析及实战(AOP的实现、切入点、Aspect Spring的持久化 Hibernate)
  • kali中实用的小工具
  • C++ 算法竞赛中的排序算法
  • 斯坦福大学吴恩达教授最新来信:AI, GPU和芯片的未来
  • 高薪程序员面试题精讲系列155之项目介绍,说说你最熟悉的项目,遇到了哪些困难?