迈向多语言医疗大模型：大规模预训练语料、开源模型与全面基准测试
迈向多语言医疗大模型：大规模预训练语料、开源模型与全面基准测试在医疗领域中，大语言模型已经有了广泛的研究。然而，这些进展主要依赖于英语的基座模型，并受制于缺乏多语言医疗专业数据的限制，导致当前的医疗大模型在处理非英语问题时效果不佳。
来自主题: AI技术研报
9411 点击 2024-09-29 22:38
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
在医疗领域中，大语言模型已经有了广泛的研究。然而，这些进展主要依赖于英语的基座模型，并受制于缺乏多语言医疗专业数据的限制，导致当前的医疗大模型在处理非英语问题时效果不佳。
如何处理小众数据，如何让这些模型高效地学习专业领域的知识，一直是一个挑战。斯坦福大学的研究团队最近提出了一种名为EntiGraph的合成数据增强算法，为这个问题带来了新的解决思路。
说好的AI给人类打工呢？ 为了拿到新数据、训练AI大模型，字节等互联网大厂正在亲自下场，以单次300元不等的价格招募“AI录音员”，定制语料库。
如今一场席卷人工智能圈的“石油危机”已经出现，几乎每一家AI厂商都在竭力寻求新的语料来源，但再多的数据似乎也填不满AI大模型的胃口。更何况越来越多的内容平台意识到了手中数据的价值，纷纷开始敝帚自珍。为此，“合成数据”也成为了整个AI行业探索的新方向。
「原来以为语料已经匮乏了，大模型训练已经没有语料了，实际上不是的，数据还远远没有跑光」。
推动金融大模型高质量发函，关键是要妥善处理好通用模型与专用模型、模型能力与语料输入、模型应用与金融监管三大关系。
在以英语为主的语料库上训练的多语言LLM，是否使用英语作为内部语言？对此，来自EPFL的研究人员针对Llama 2家族进行了一系列实验。
如今各路AI厂商围绕语料这个资源，可谓是各显神通。
无论投资界还是产业界，已经没有人质疑AI的兴起是大事件。但无论是谁，奥特曼或者霍夫曼，都无法确定AI领域的投资最终如何获利。
过去一年，AI大模型无疑是科技行业中最亮眼的主角，从FAAMG到BAT、再到一众初创企业，无数优秀的大脑、海量的资源都投入到了这个有望解放人类生产力的赛道中。