可信任深度学习代码之单元测试

深度学习是一门很难评估代码正确性的学科。随机初始化、庞大的数据集和权重的有限可解释性意味着,要找到模型为什么不能训练的确切问题,大多数时候都需要反复试验。在传统的软件开发中,自动化单元测试是确定代码是否完成预期任务的面包和黄油。它帮助开发人员信任他们的代码,并在引入更改时更加自信。一个破坏性的更改将会被单元测试检测到。

从 GitHub 上许多研究库的情况来看,深度学习的实践者们还不喜欢这种方法。从业者不知道他们的代码是否正常工作,他们能接受吗?通常,由于上述三个原因,学习系统的每个组件的预期行为并不容易定义。然而,我相信实践者和研究人员应该重新考虑他们对单元测试的厌恶,因为它可以帮助研[……]

继续阅读

《人工智能安全标准化白皮书(2019版)》发布

全国信息安全标准化技术委员会2019年第二次工作组“会议周”上,《人工智能安全标准化白皮书)》正式发布。白皮书由中国电子技术标准化研究院、清华大学、百度、华为、360、阿里巴巴等 29 家企事业单位共同编制。白皮书调研了人工智能发展情况,梳理了国内外人工智能安全的法规政策和标准化现状,分析了人工智能安全的风险挑战和属性内涵,研究给出了人工智能安全标准化体系框架,提出了人工智能安全标准化工作建议。[……]

继续阅读

信通院发布《人工智能安全白皮书(2018年)》

此前,中国信息通信研究院、中国人工智能产业发展联盟首次联合发布《人工智能发展白皮书 – 技术架构篇(2018年)》。

人工智能作为引领未来的战略性技术,日益成为驱动经济社会各领域从数字化、网络化向智能化加速跃升的重要引擎。近年来,数据量爆发式增长、计算能力显著性提升、深度学习算法突破性应用,极大地推动了人工智能发展。自动驾驶智能服务机器人、智能安防、智能投顾等人工智能新产品新业态层出不穷,深刻地改变着人类生产生活,并对人类文明发展和社会进步产生广泛而深远的影响。

然而,技术的进步往往是一把『双刃剑』,人工智能作为一种通用目的技术,为保障国家网络空间安全、提升人类经济社会风险防控能[……]

继续阅读