自动机器学习 (AutoML) 与工业落地
机器学习方法已被用于各种现实世界的应用，从社交网络、在线图像/视频分享平台、电子商务到教育、医疗等。然而，机器学习方法的几个组成部分，包括：数据表示，超参数和模型架构，可以在很大程度上影响它们在实践中的性能。此外，数据规模和模型大小的爆炸式增长，使得机器学习开发人员对这些组件进行优化的时间越来越长。为了解决这些挑战，自动化机器学习 (AutoML) 的目标是自动化应用机器学习方法的过程，以解决现实世界的应用任务，减少调整机器学习方法的时间，同时保持良好的性能。目前，AutoML 主要的落地方向如下：
Auto Feature Generation（自动特征生成）
Neural Architecture Search（神经网络架构搜索）
Hyperparameters Optimization（超参数优化/调优）
Meta Learning（元学习）
在 2021 年 KDD（https://www.kdd.org/kdd2021/）大会上， 阿里团队（https://joneswong.github.io/KDD21AutoMLTutorial/）介绍了 AutoML 的主要研究主题，包括：超参数优化，神经结构搜索和元学习。同时，涵盖了 AutoML 的两个新兴主题，基于 DNN 的特征生成和机器学习引导数据库，它们是现实世界应用的重要组成部分。对于每一个主题，都包含来自行业的案例，说明最先进的方法，并从行业和学术界的角度讨论它们的利弊。结合行业经验和学术趋势，探讨未来的研究方向。
同时，随着以深度学习为代表的神经网络复杂性的增加，基于自动机器学习（AutoML）系统，通过一系列的智能化搜索策略，为机器学习模型寻找最优超参数和体系结构变得越来越重要。目前，自动化机器学习还处于初期探索阶段。其中，神经网络架构搜索和超参数训练是自动机器学习中关键的一个环节。
跨象乘云™ 深度学习与新一代人工智能科研环境管理平台（简称：KXCY-AI-K8S）集成自动机器学习系统模块，为人工智能科研项目，人工智能业务研发提供各种自动机器学习特性支持。自动机器学习系统模块独立于机器学习开发框架，可以在用户选择的任何语言编写的应用程序中实现超参数调优，并原生支持广泛的机器学习开发框架。支持：网格搜索、随机搜索、贝叶斯优化、协方差矩阵自适应进化策略、Hyperband、TPE、多元TPE搜索、Sobol 准随机搜索等智能算法优化超参数调优流程；支持 DAS（Differentiable Architecture Search）、ENAS（Efficient Neural Architecture Search）神经网络架构搜索。通过高效地建立更精确的模型、降低运营和基础设施成本来改善业务结果。同时，对自动机器学习这项前沿性技术的试验与支撑。
