Ai2 发布后训练方案 Tülu 3
2024年11月21日,Ai2 发布 Tülu 3(8B 与 70B),由 Llama 3.1 微调而来;其后训练方案在监督微调与偏好调优之外加入可验证奖励的强化学习,数据、代码与检查点全部公开。
共 671 · 清除筛选
2024年11月21日,Ai2 发布 Tülu 3(8B 与 70B),由 Llama 3.1 微调而来;其后训练方案在监督微调与偏好调优之外加入可验证奖励的强化学习,数据、代码与检查点全部公开。
2024 年 11 月 18 日,Mistral AI 发布开放权重多模态模型 Pixtral Large,同日更新 Mistral Large 24.11 并升级 Le Chat。
2024 年 11 月 5 日,腾讯在 Hugging Face 上开源了总参数 3890 亿的混合专家模型混元 Large。此前一天,腾讯已将其技术报告提交至 arXiv。
2024 年 11 月 4 日,Anthropic 推出 Claude 3.5 Haiku,定价为前代 Claude 3 Haiku 的四倍,并称新模型更聪明。约一个月后,公司下调了价格。
2024 年 11 月,Hugging Face 发布 SmolLM2,包含 135M、360M 和 1.7B 三个尺寸的小型语言模型,权重开放,另有指令模型和公开训练配方的技术论文。
2024 年 10 月 31 日,Physical Intelligence 发布 π0:一个用大规模多任务、多机器人数据训练的机器人控制原型模型,可通过提示或微调控制多种机器人。
2024年10月24日,科大讯飞在全球1024开发者节上发布讯飞星火4.0 Turbo,称其七项核心能力全面超过GPT-4 Turbo,并联合推出飞星二号算力平台、公布推理模型计划。
2024 年 10 月 22 日,Anthropic 宣布升级版 Claude 3.5 Sonnet、新的 Claude 3.5 Haiku,以及公开测试版的电脑操作功能。
2024年10月22日,Runway 在 Gen-3 Alpha 中发布 Act-One,它能把演员表演和声音的视频转换成动画角色,不需要动作捕捉设备,也不需要手动面部绑定。
Stability AI 发布 Stable Diffusion 3.5 系列含 Large、Large Turbo 与 Medium,年收入低于 100 万美元可免费商用。
2024 年 10 月,零一万物推出 Yi-Lightning。据李开复介绍,该模型在 LMSYS 盲测排名中位列全球第六,中国模型中第一;API 价格为每百万词元 0.99 元。
2024 年 10 月 16 日,Mistral AI 发布 Ministral 3B 与 Ministral 8B,面向端侧与边缘计算,支持 128K token 上下文,API 单价低,8B Instruct 权重开放用于研究。
2024 年 10 月 4 日,Meta 首次展示 Movie Gen,这是一组可以生成视频、图像和音频的媒体基础模型。Meta 没有公开发布这些模型,表示将先与电影制作人和内容创作者合作。
2024 年 10 月 2 日,Black Forest Labs 发布文生图模型 FLUX1.1 [pro],同时通用开放 BFL API,定价为每张图 4 美分。
2024 年 10 月,Cohere 研究实验室发布 Aya Expanse,有 8B 和 32B 两种规模,覆盖包括日语在内的 23 种语言,并与多款模型进行胜率比较。
2024 年 9 月 25 日,Ai2 发布开放视觉语言模型系列 Molmo,规模从 MolmoE-1B 到 Molmo-72B,能按文字要求在图中指出物体;Ai2 称 Molmo-72B 在人类偏好评价中仅次于 GPT-4o。
2024 年 9 月 25 日,Meta 发布 Llama 3.2。它为 Llama 系列加入了图像理解能力,推出 11B 和 90B 两款视觉模型,并推出面向手机等端侧设备的 1B 和 3B 小型文本模型。
2024 年 9 月 19 日,阿里巴巴发布通义千问 Qwen2.5,一次开放 13 个模型。该系列预训练数据最多达 18 万亿 token,上下文支持 128K,覆盖 29 种以上语言。
2024 年 9 月 17 日,Mistral AI 发布 Pixtral 12B:以 Apache 2.0 许可开放权重,由 4 亿参数视觉编码器与 120 亿参数解码器组成,MMMU 得分 52.5%、DocVQA 90.7。
2024 年 9 月 12 日,OpenAI 推出首批推理模型 o1-preview 和 o1-mini,设计目标是回答前多花时间思考。完整版 o1 于同年 12 月发布。