机器学习和深度学习项目在大多数企业中变得越来越重要。同时,一个完整的项目流程包括数据整理(Data Preparation)、构建分析模型以及部署至生产环境。该流程是一个:洞察与行动的循环,此循环能不断地改进分析模型。当你打算使用机器学习或深度学习技术来构建分析模型时,一个重要的任务是集成并通过各种数据源来准备数据集,这些数据源包括比如文件、数据库、大数据存储、传感器或社交网络等等。此步骤可占整个分析项目的 80%。显然,数据整理是数据科学的核心。它包括数据清洗和特征工程。另外领域知识(Domain Knowledge)也非常重要,它有助于获得好的结果。数据整理不能完全自动化,至少在初始阶段不[……]
标签: 数据清洗
高效数据清洗 Python 代码
数据清洗,是进行数据分析和使用数据训练模型的必经之路,也是最耗费数据科学家/程序员精力的地方。大数据工程师 Kin Lim Lee 在 Medium 上发表了一篇文章,介绍了8个用于数据清洗的Python代码。这些用于数据清洗的代码有两个优点:一是由函数编写而成,不用改参数就可以直接使用。二是非常简单,加上注释最长的也不过 11 行。
1. 删除多列
在进行数据分析时,并非所有的列都有用,用 df.drop 可以方便地删除你指定的列。
def drop_multiple_col(col_names_list, df):
'''
AIM -> Drop multiple[......]<p class="read-more"><a href="https://www.080910t.com/2019/01/20/%e9%ab%98%e6%95%88%e6%95%b0%e6%8d%ae%e6%b8%85%e6%b4%97-python-%e4%bb%a3%e7%a0%81/">继续阅读</a></p>
'''
AIM -> Drop multiple[......]<p class="read-more"><a href="https://www.080910t.com/2019/01/20/%e9%ab%98%e6%95%88%e6%95%b0%e6%8d%ae%e6%b8%85%e6%b4%97-python-%e4%bb%a3%e7%a0%81/">继续阅读</a></p>