课程总览DAY 06

预计 180 分钟 · 软顺序学习

Tool Calling、Agent、安全与 MCP

未开始

理解模型生成调用意图和应用执行动作之间的边界，能设计最小权限与人工确认策略。

必看资料0/5
知识小测0/5
AI 作业待提交

01 / 学习

先建立正确的判断框架

0/5 已完成

逐项打开资料并在看完后打卡。选看不影响本日通过，但适合在有余量时补充。

01
Function calling OpenAI Developers
02
Using tools OpenAI Developers
03
Tool use with Claude Anthropic Claude Platform
04
Safety best practices OpenAI Developers
05
LLM Prompt Injection Prevention Cheat Sheet OWASP
选看资料 · 不影响通过条件
01
Understanding prompt injections OpenAI
02
Reduce hallucinations Anthropic Claude Platform
03
Introduction to MCP Model Context Protocol
04
Introducing the Model Context Protocol Anthropic

02 / 产出

写下可以被检查的答案

需 ≥ 70 分

当天任务

## Day 6 学习作业

为「AI 日程助理」设计权限系统。分别列出：
- 允许直接做的只读动作
- 必须用户确认的写入动作
- 明确禁止的越权动作

再写出工具调用策略，必须覆盖：权限校验、参数校验、日志记录、人工确认，以及把网页、邮件、文档视为不可信输入的 prompt injection 防护。

最后给出一个恶意外部指令的例子，并解释系统如何阻止它影响高风险操作。
验收标准

能说明 tool calling 是模型生成意图、应用层校验并执行；能力越强越需要最小权限、人工确认和可观测性。

0/12000

03 / 考核

五题概念检查

通过线 4/5

答完后立即查看解释。可以不限次数重做，系统保留最高分。

  1. 01function calling 中，谁真正执行实际动作？

  2. 02哪项高风险动作应默认要求确认？

  3. 03对外部邮件中隐藏指令的正确态度是？

  4. 04最小权限原则意味着？

  5. 05为什么工具调用需要参数校验？

本日完成定义

完成资料、通过小测、拿到 70 分以上作业评分。

不需要一次完成。进度与草稿会留在此浏览器，之后可从设置页导出备份。