AI 应用的交互设计

这篇适合谁、读完能做到什么

这篇适合正在做 AI 应用的开发者，也适合负责产品设计的人。读完你能用一份清单检查自己的应用：它是否有用、是否可靠、是否照顾到不同能力的用户、是否让人愿意用，以及用户能否在信任和控制之间找到合适的位置。^[1]

用户体验包括哪些方面

用户体验（UX）是用户与某个产品或服务互动、使用它的全部过程，这个产品可以是一个系统、一个工具或一个设计。^[1] 做 AI 应用时，开发者既要保证效率，也要考虑伦理，让系统真正服务于用户的需求。^[1]

一个好的 AI 应用需要同时满足四个要求：有用（useful）、可靠（reliable）、无障碍（accessible）和愉快（pleasant）。^[1]

• 有用：功能要符合应用的用途。比如自动批改作业的应用，应当能根据预先设定的标准，准确、高效地给出分数；生成复习卡片的应用，应当能基于资料生成相关且多样的题目。^[1]
• 可靠：应用要稳定地完成任务，不出错。AI 和人一样不是完美的，可能出错，遇到意外情况时需要人来介入和纠正。所以要想清楚出错时怎么办。^[1]
• 无障碍：要把体验延伸到不同能力的用户，包括有残障的用户，遵循无障碍指南和原则，让没有人被落下。^[1]
• 愉快：应用要让人用得舒服。好的体验会让用户愿意回来，也会对商业收入产生积极影响。^[1]

另外要记得，并不是每个问题都适合用 AI 解决。AI 的作用是增强用户体验，比如自动化重复的手工操作，或者为用户提供个性化的体验。^[1]

信任：既不能不信，也不能全信

设计 AI 应用时，建立信任至关重要。用户需要相信应用能完成工作、结果稳定，并且结果是自己需要的。这里有两种风险。一种是不信任（mistrust），用户几乎不相信 AI 系统，于是拒绝使用你的应用。另一种是过度信任（overtrust），用户高估了 AI 的能力，什么都交给它。^[1]

过度信任的一个例子是：如果自动批改系统结果很好，老师就可能不再抽查一部分试卷，结果可能导致不公平或不准确的分数，也会错过给学生反馈和改进的机会。^[1]

要把信任放在设计中心，有两种方法：可解释性（explainability）和控制（control）。^[1]

让用户看得懂：可解释性

可解释性指的是让人理解 AI 应用是怎么做出决定的。当 AI 参与到教育这样的场景中，老师和家长尤其需要了解它的判断过程。设计时，应当加入能说明 AI 如何得出输出结果的细节，并且让用户明确知道内容是 AI 生成的，而不是人写的。^[1]

措辞也有讲究。比如，与其说「立即开始和你的导师聊天」，不如说「使用能根据你的需要调整、并按你的节奏帮你学习的 AI 导师」。前者只是邀请，后者让用户知道对面是 AI，也知道它会怎样配合。^[1]

面向学生的 AI 还可以设计成不直接给答案，而是引导用户自己思考如何解决问题。^[1] 说明应用能做什么、不能做什么时，要用简单、易懂的语言，因为学生和老师未必是 AI 专家。^[1]

让用户有掌控感：可控性

生成式 AI 让用户和 AI 形成协作。用户可以修改提示词，得到不同的结果；生成之后，也可以再修改输出，这样才有掌控感。^[1]

以 Microsoft Copilot（原名 Bing Chat）为例，用户可以按格式、语气和长度来调整提示，并对输出做修改。它还允许用户选择加入或退出 AI 使用的数据。比如一个学生可能希望把自己的笔记和老师的资料一起用来复习，同时决定哪些内容参与。^[1]

这些设计的目的之一，是避免用户过度信任，对 AI 产生不切实际的期待。一个办法是在提示和结果之间设置一点「摩擦」，提醒用户这是 AI，而不是一个人类同伴。^[1]

出错时怎么办：反馈和边界

AI 应用难免出错。用户请求超出能力范围的内容时，应用该怎么回应？应用要能接收用户反馈，也要向用户反馈，这样系统能不断改进，用户也更愿意信任它。一个最简单的反馈循环，可以是输出旁边的赞和踩两个按钮。^[1]

同时要把能力和局限讲清楚。比如一个只训练了历史和数学资料的应用，遇到地理问题时，可以说明它训练过哪些学科，并告诉用户它无法回答这个问题。^[1] 出错的处理方式要简单，并且容易解释。^[1]

对照清单自查

拿你做过的 AI 应用，可以按下面几项逐一检查：

1. 愉快：是否在需要的地方加了说明，是否鼓励用户探索，错误提示的措辞是否友好。^[1]
2. 有用和无障碍：如果是网页应用，确保只用鼠标或只用键盘都能完成主要操作。^[1]
3. 信任和透明：不要完全相信 AI 的输出，想一想怎样加入人工环节来核对结果，并考虑其他能提升透明度的做法。^[1]
4. 控制：让用户掌控自己提供的数据，实现数据收集的选择加入和退出。^[1]

限制和常见问题

这些设计原则并不能替代测试。它们规定的是应用应当做到什么，但具体的措辞、按钮位置和反馈方式，仍需要用真实用户来验证。这种判断需要结合具体的应用场景。^[1]

下一步

如果你想先打好用户体验的基础，可以先阅读关于用户体验和设计思维的资料。想进一步了解 AI 应用的安全问题，可以继续阅读关于如何保障 AI 应用安全的内容。^[1]

本文改编自 Microsoft 开源课程《Generative AI for Beginners》第 12 课^[1]，原文以 MIT 许可证发布。