Eleuther AI 推出的名为 GPT-Neo 的开源项目，开源了复现版 GPT-3 的模型参数（ 1.3B 和 2.7B 级别），并将其更新在 Colab notebook 之上。需要指出的是这次开源的模型里较大的那个版本也只是到了 GPT-3 商用版里最小模型的参数量，不过 Eleuther AI 表示未来会进一步开源 10B 版本和原始大小版本的 GPT3 模型参数。
但关于复现模型的性能，目前只说『实验表现与原版 GPT-3 相当』。风靡一时的拥有 1,750 亿超大参数量，一出道便被视作 NLP 领域最强 AI 模型的 GPT-3，得益于其庞大的参数量，使得 GPT-3 拥[……]
这个仓库里包括有医疗 NLP 领域（主要关注中文） 评测数据集 与 论文等相关资源。包括 ——
项目 GitHub 地址[……]
这个项目并不复杂，但却包含了基本的嵌入式表征模型、CNN、RNN、注意力模型、Transformer 等的 13 个重要模型的核心代码实现。整体而言，基本所有代码都是作者自己完成的，当然都会借鉴已有的实现。很多模型都同时有 TensorFlow 和 PyTorch 两种版本，但像 Transformer 和 BERT 等拥有谷歌官方实现的模型，作者只提供了 PyTorch 实现。据作者介绍，随后他计划将添加 Keras 版本的实现。
引入瞩目的是，这个项目中几乎所有模型的代码实现长度都在 100 行左右（除了注释和空行外），很多预处理、模型持久化和可视化等操作都被简化或删除了。因此精简后[……]
现在，你可以用 GitHub 上最火的 NLP 项目做机器翻译了。
没错，就是 Hugging Face （抱抱脸）标星 26.9 k 的 Transformer 项目。在最新更新的版本里，抱抱脸发布了 1,008 种模型，正式涉足机器翻译领域。模型涵盖 140 种不同语言组合，中文翻英文，英文译法语，法语翻阿拉伯语 …… 还能一对多翻译。据抱抱脸介绍，这1000+模型，是研究人员使用无监督学习和 OPUS 数据集训练的。OPUS 项目来自赫尔辛基大学及其全球合作伙伴，旨在收集和开源各种语言数据集，尤其是低资源（小语种）语言数据集。
项目 GitHub 地址[……]
光学字符识别（OCR）技术已经得到了广泛应用。比如发票上用来识别关键字样，搜题 App 用来识别书本上的试题等。近期，这个叫做 chineseocr_lite 的 OCR 项目开源了，这是一个超轻量级中文 OCR 实现中文自然场景文字检测及识别。该项目支持竖排文字识别，支持 ncnn 推理，psenet (8.5M) + crnn (6.3M) + anglenet (1.5M) 总模型仅 17M。
项目 GitHub 地址[……]
fast.ai 的创始人、前 Kaggle 首席科学家 Jeremy Howard 教授在 Github 上开源了和 Sylvain Gugger 合著的新书《Deep Learning for Coders with fastai and PyTorch》的初稿。全书草稿已公布 22 章，通过这份它你将学到：
