作壹條苟

螳臂挡车,蚍蜉撼树

技术总结 - 神经网络压缩与轻量化网络设计

读研期间主要做方向就是在显著性预测方向上进行网络轻量化的研究。虽然踩了很多坑,文章也一拖再拖,但神经网络的轻量化/压缩技术确实是一个具有市场潜力与实用价值的方向。在现在边缘计算从AGV到摄像头需求广泛,而算力平台大的如TX2,小的如Movidius能提供的算力还是需要极力去压榨的。 找到一个有意思的git repo:Neural Network Distiller,Intel AI L...

技术总结 - 深度学习框架与计算加速

用MxNet做了不少项目,也接触了TensorFlow一段时间,直观感觉两者在编程范式、设计上有较大的不同。如果能对两者在设计和实现上有一定认识,借助大佬巨佬的眼光来看深度学习,对于自己理解深度学习的workflow,以及计算编程能力都能有巨大的提高。 MxNet设计及实现 对于MxNet的设计及实现最好的资料应该是作者李沐的文章:MXNet设计和实现简介 TensorFlow...

瞎叽霸扯 - 反叛精神

此处的反叛精神并非具象到独立个体上体现出来的,可描述的反叛行为,而是指一切具有anti-establishment倾向的意识与行为。同时,此处对反叛精神的讨论是希望形成一种自洽的,对反叛精神的社会学意义的理解。 反叛精神的历史最佳载体并非摇滚,而是文学。艺术形式都是形式-内在形成的有机整体。通常意义上音乐作为一种过程体验,形式上给人的刺激是大于内容的。文学作为相对静止的体验则相反。...

论文笔记 - YOLOv3 An Incremental Improvement

对Yolo系列是直接从v3开始看的,这篇笔记是对整个Yolo系列方法的学习,同时也作为自己对object detection整体脉络理解的整理。 Yolo 的一大优势在于对可以端到端的回归出bounding box的位置、宽高、分类及其conf。而取得这种优势的源头在于其颠覆性(自己确实没有在其他work中见过类似思路)的对传统CNNs中特征张量不同维度的使用,将以channel分离的...