多模态 原理

多模态模型在同一个模型里处理不止一种输入或输出，例如图像和文本。CLIP 与 Flamingo 这两项工作展示了这类模型怎样训练出来，又怎样靠文字提示迁移到新任务。

视觉-语言-动作模型（VLA）是一种机器人策略：输入摄像头图像和一句语言指令，直接输出动作，通常由预训练的视觉-语言模型改造而来。

计算机使用（computer use）是 Anthropic 在 2024 年 10 月开放公开测试的一项能力，让模型像人一样看屏幕、移动光标、点击和打字，从而操作原本为人设计的普通软件。