图灵Java架构班第六期
图灵Java架构班第六期
download：https://www.51xuebc.com/thread-575-1-1.html
月7日，国际人工智能顶会CVPR 2023举行的第一届大模型应战赛（CVPR 2023 Workshop on Foundation Model:1st foundation model challenge）落下帷幕，本次竞赛吸收了来自全球著-名高校和知名企业的1024名参赛者。经过为期2个月的剧烈角逐，天翼云AI团队（队名CTRL）在多任务大模型赛道中表现出色，荣获本届大赛冠军。
CVPR会议是由IEEE主办的关于计算机视觉和形式辨认的国际学术会议，收录了该范畴最新的研讨成果和技术开展，是全球计算机视觉三大顶-级会议之一。
传统的视觉模型消费流程通常采用单任务，从零开端锻炼，各个任务之间无法互相自创。由于单任务数据有限，招致模型的实践效果过于依赖任务数据散布，通常关于不同场景的泛化效果不佳。
近年来，大数据预锻炼技术疾速开展，经过应用大量数据学习通用学问并将其迁移到下游任务中的办法，实质上完成了不同任务之间的互相自创。基于海量数据取得的预锻炼模型具有较好的学问完备性，即便在下游任务中运用少量数据停止微调，依然可以取得良好的效果。但是，基于预锻炼+下游任务微调的模型消费流程需求为每个任务单独锻炼模型，这在研发上耗费了大量资源。相比之下，多任务锻炼计划经过运用多个任务的数据锻炼一个功用强大的通用模型，能够直接应用于处置多个任务，从而有效进步模型消费效率和泛化才能。
在本次竞赛中，参赛者需求运用单一模型同时完成交通场景下的分类、检测和分割三个代表性任务的结合锻炼。天翼云AI团队在模型设计方面凭仗丰厚的算法开发经历，选择了参数量仅为第2名60%的预锻炼模型，用更少的参数却取得了更高的精度。
为理解决多任务锻炼中各分支损失函数和梯度不分歧招致收敛迟缓的问题，天翼云AI团队采用了损失平衡和梯度尺度统一的办法，以此来均衡各任务分支的损失函数，并使梯度具有分歧的尺度，从而进步模型的锻炼效率和收敛速度。此外，天翼云AI团队还经过精心设计的任务专属特征金字塔和留意力机制，使各分支任务可以应用主干网络中对本身任务更有效的特征，进一步提升了整体模型的精度和性能。
经过以上模型设计和锻炼战略，天翼云AI团队在竞赛中获得了优良成果，充沛展现了在图像、音频及多模态范畴的深沉积聚和持续创新才能。将来，天翼云将继续在宽广的人工智能范畴停止创新和探究，以更先进的技术和杰出的成果惠及更多用户，为千行百业的数字化开展提供支撑。
