全国信息安全标准化技术委员会2019年第二次工作组“会议周”上，《人工智能安全标准化白皮书）》正式发布。白皮书由中国电子技术标准化研究院、清华大学、百度、华为、360、阿里巴巴等 29 家企事业单位共同编制。白皮书调研了人工智能发展情况，梳理了国内外人工智能安全的法规政策和标准化现状，分析了人工智能安全的风险挑战和属性内涵，研究给出了人工智能安全标准化体系框架，提出了人工智能安全标准化工作建议。[……]
月度归档： 2020年7月
Pytorch 结构化神经网络修剪神器
Torch-Pruning 是一个用于结构神经网络修剪和层依赖维护的 Pytorch工具包此工具将自动检测和处理层依赖(通道一致性)期间修剪。它能够处理各种网络架构，如 DenseNet、ResNet 和 Inception。
项目 GitHub 地址[……]
IDC 新零售白皮书《智能互联: 赋能零售新时代》
近日，高通联合国际知名市场研究机构 IDC 发表了最新的研究成果《智能互联 – 赋能零售新时代》白皮书。在这一新蓝海前，企业可在新价值、新技术、新生态三方面着力，挖掘新零售的全新商机。
核心观点
- 『新零售』和『传统零售』是一对相对的概念，回顾零售行业发展历程，每一次新技术的溁入应用，都催生出相对于当时来说新的零售模式，即当时时代背景下的『新零售』。
- 2016 年以来的新零售包括传统零售门店的数字化改造和由数字化技术应用带来的新兴业态，其本质是以数字化的思维和持续的技术投入为依托，以提供无摩擦、不间断的卓越消费体验为使命而持续进行的数字化转型，IDC 将其概括为『体验式零售』。[……]
开源教程 「NLP-Tutorial」
这个项目并不复杂，但却包含了基本的嵌入式表征模型、CNN、RNN、注意力模型、Transformer 等的 13 个重要模型的核心代码实现。整体而言，基本所有代码都是作者自己完成的，当然都会借鉴已有的实现。很多模型都同时有 TensorFlow 和 PyTorch 两种版本，但像 Transformer 和 BERT 等拥有谷歌官方实现的模型，作者只提供了 PyTorch 实现。据作者介绍，随后他计划将添加 Keras 版本的实现。
引入瞩目的是，这个项目中几乎所有模型的代码实现长度都在 100 行左右（除了注释和空行外），很多预处理、模型持久化和可视化等操作都被简化或删除了。因此精简后[……]
2020 年新一代人工智能 GPU 选型
Lambda 日前发布测评报告 —— 深度学习模型越来越强大的同时，也占用了更多的内存空间，但是许多GPU却并没有足够的显存（Video RAM）来训练它们。那么如果你准备进入深度学习，什么样的 GPU 才是最合适的呢？下面列出了一些适合进行深度学习模型训练的 GPU，并将它们进行了横向比较，一起来看看吧！
截至 2020 年 2 月，以下 GPU 可以训练所有当今语言和图像模型：
- RTX 8000：48GB VRAM，约 5500 美元
- RTX 6000：24GB VRAM，约 4000 美元
- Titan RTX：24GB VRAM，约 2500 美元
以下[……]
轻量级机器学习模型训练评估指标可视化工具
Model Log 是一款基于 Python3 的轻量级机器学习(Machine Learning)、深度学习(Deep Learning)模型训练评估指标可视化工具，与 TensorFlow、Pytorch、PaddlePaddle结合使用，可以记录模型训练过程当中的超参数、Loss、Accuracy、Precision、F1值等，并以曲线图的形式进行展现对比，轻松三步即可实现。可以通过调节超参数的方式多次训练模型，并使用 Model Log 工具进行记录，可以很直观的进行模型对比，堪称调参神器。以下是使用工具后模型训练时 Loss 的变化曲线图。
项目 GitHub 地址[……]
ICML2020 论文点评
今年的 ICML（International Conference on Machine Learning）大会已经改为在 2020 年 7 月 13 日至 18 日线上举行。ICML 2020 共提交 4,990 篇论文，最后接收论文 1,088 篇，接收率达 21.8%。这里给大家推荐一个一句话点评论文亮点的系统，由 Paper Digest Team 发布，总共 110 多页[……]
强化学习入门库
这是一个入门的深度强化学习库，是中科院深圳先进院的一位同学独立完成的，拥有全中文的文档：
- 轻量：仅含3个Python文件，仅需安装 PyTorch 和 GYM
- 稳定：尽可能减少超参数。绝不通过微调超参数得到虚高的性能
- 高效：循环内的代码注重效率，动态规划地编写计算流程
- 可读：我喜欢Python之父的Python之禅 import this，尽力保持代码优雅
- 易用：尽力降低代码耦合度，方便复制某段
目前，单智能体-无模型-深度-强化学习算法部分已经完成（多智能体、离散空间代码业已完成，有时间将整理上传）：
- 离线策略，确定策略梯度：DDPG，TD3[……]
深度学习语义分割理论与实战指南
图像分类、目标检测和图像分割是基于深度学习的计算机视觉三大核心任务。三大任务之间明显存在着一种递进的层级关系，图像分类聚焦于整张图像，目标检测定位于图像具体区域，而图像分割则是细化到每一个像素。基于深度学习的图像分割具体包括语义分割、实例分割和全景分割。语义分割的目的是要给每个像素赋予一个语义标签。语义分割在自动驾驶、场景解析、卫星遥感图像和医学影像等领域都有着广泛的应用前景。本文作为基于 PyTorch 的语义分割技术手册，对语义分割的基本技术框架、主要网络模型和技术方法提供一个实战性指导和参考。
项目 GitHub 地址[……]
一行代码比较 arXiv 论文版本差别
在计算机领域中，目前的预打印版网站 arxiv 可谓是撑起了前沿技术的一片天地，每天都有相当数量的论文上传。但是对于一篇文章，作者可能会上传 V1 / V2 / V3 等版本，对于我来说，我一般看最后的版本就行，但是有些同学想要看看这些版本直接到底有什么不同，这可怎么办，总不至于要花几个晚上时间研究不同的版本？
最近 Github 上的一个比较预印本论文版本差别的工具也许能帮到你，关键是只需一行代码就能实现。最近 Github 上的一个比较预印本论文版本差别的工具也许能帮到你，关键是只需一行代码就能实现。
项目 GitHub 地址[……]