低成本算法,大幅提升视觉分类鲁棒性!悉尼大学华人团队发布全新EdgeNet方法
低成本算法,大幅提升视觉分类鲁棒性!悉尼大学华人团队发布全新EdgeNet方法EdgeNet可以处理从干净的自然图像或嘈杂的对抗性图像中提取的边缘,产生鲁棒的特征,具有轻量级、即插即用等特点,能够无缝集成到现有的预训练深度网络中,训练成本低。
来自主题: AI资讯
12076 点击 2024-04-08 16:17
搜索
EdgeNet可以处理从干净的自然图像或嘈杂的对抗性图像中提取的边缘,产生鲁棒的特征,具有轻量级、即插即用等特点,能够无缝集成到现有的预训练深度网络中,训练成本低。
早在 2020 年,陶大程团队就发布了《Knowledge Distillation: A Survey》,详细介绍了知识蒸馏在深度学习中的应用,主要用于模型压缩和加速。随着大语言模型的出现,知识蒸馏的作用范围不断扩大,逐渐扩展到了用于提升小模型的性能以及模型的自我提升。
微软和Google在AI技术领域的竞争和王权更迭。微软宣布将OpenAI的最新技术集成到Bing搜索引擎和Edge浏览器中,以应对Google在搜索领域的垄断地位。同时,Google也推出类似ChatGPT的产品Bard,但发布会遭遇失误导致股价暴跌。文章还回顾了微软与Google在人工智能领域的历史角力,从微软错失深度学习机会到Google在深度学习领域的失误。