Mobile-AI-Use Agent 使用说明
🤖 AI 智能助手 + 手机自动化操控,一句话让 AI 帮你操作手机。
目录
初次使用:配置 AI
点击右上角 ⚙️ 齿轮图标 打开「AI 设置」。
| 配置项 | 说明 |
|---|---|
| 供应商 | 选择 AI 服务商(通义千问、DeepSeek、豆包、OpenAI 等) |
| API Key | 在对应官网申请,填入后自动保存到本地 |
| 模型 | 可选填,留空则使用供应商默认模型 |
⚠️ 重要提示:使用 Agent 操控手机时,必须选择支持视觉的模型,AI 才能看懂手机屏幕。
推荐视觉模型:
qwen-vl-max、doubao-1-5-vision-pro-32k、gpt-4o
设置完成后点空白处关闭,无需额外保存,自动持久化。
普通对话模式
默认状态为普通对话模式(右上角机器人图标未高亮)。
基本操作:
- 输入消息:在底部文本框输入,按
Enter发送 - 换行:按
Shift + Enter - 上传文件:点击输入框左侧 📎 回形针图标,支持图片、视频、PDF、文档等
- 停止回复:AI 回复过程中,点击发送按钮变为的 ⏹ 停止键
欢迎界面快捷指令:
首次进入对话时,可以点击页面中间的建议按钮快速开始:
| 快捷按钮 | 示例目标 |
|---|---|
| 💻 地图导航 | 用高德地图导航到深圳湾公园 |
| 📊 点外卖 | 在美团 app 点一份肯德基外卖 |
| 🖼️ 发微信 | 发微信给 zhc,说早上好啊 |
| 🎬 谷歌搜索 | 打开谷歌搜索 deepseek |
| 📥 查新闻 | 打开百度新闻,返回前 5 条新闻 |
Agent 模式:让 AI 操控手机
开启 Agent 模式
点击右上角 🤖 机器人图标,图标高亮(蓝色)即表示已开启。
开启后底部会出现 Agent 状态栏,显示当前连接状态:
✅ 已就绪:手机已连接 + API Key 已配置,可以使用⚠️ 未连接手机:请先在投屏页面连接设备⚠️ 未配置 API Key:请先完成 AI 设置
发送任务
在输入框输入你想让手机做的事,然后发送,AI 会自动执行。
指令写法建议:
| ✅ 好的指令 | ❌ 模糊的指令 |
|---|---|
打开微信,在搜索框输入"李四" |
帮我联系一下李四 |
打开设置,找到蓝牙开关,截图 |
查看手机设置 |
打开高德地图,搜索深圳南山科技园 |
用地图找个地方 |
进入淘宝首页,滚动到第 3 屏截图 |
看看淘宝有什么 |
指令越具体,执行越准确。
执行过程
任务提交后,AI 会在聊天区域实时展示执行过程:
📋 已生成执行计划(共 N 步)
1. 启动微信
2. 点击搜索框
3. 输入用户名
...
▶️ 步骤 1:启动微信
🔧 launch_app("com.tencent.mm")
→ 已启动微信
✅ 步骤完成(1.3s)
[步骤前截图] [步骤后截图]
▶️ 步骤 2:...
每个步骤结束后会自动附上执行前后的截图,可点击查看大图。
中止任务
任务执行中,点击输入框右侧的 ⏹ 停止按钮可立即中止。
查看任务历史
每次 Agent 任务完成后,记录会自动保存到当前对话中。
点击顶栏右侧 📋 任务历史图标(数字徽标表示任务数量)打开任务历史抽屉。
每条任务记录显示:
| 信息 | 说明 |
|---|---|
| 状态标签 | ✅ 完成 / ❌ 失败 / ⏹ 中止 等 |
| 创建时间 | 任务开始时间 |
| 目标 | 当时输入的任务指令 |
| 步骤 | 成功步骤数 / 总步骤数 |
| 耗时 | 任务总用时 |
| 结论 | AI 对本次任务的总结 |
| 错误信息 | 失败时显示原因 |
删除任务记录:点击任务卡右侧 🗑️ 图标,确认后删除(用于释放存储空间)。
任务回放视频
在任务历史抽屉中,点击任务卡上的 ▶ 回放 按钮,打开 Canvas 回放弹窗。
回放控制
| 控件 | 功能 |
|---|---|
| ▶ / ⏸ | 播放 / 暂停 |
| ⏮ / ⏭ | 上一帧 / 下一帧 |
| 进度条 | 拖动跳转到任意帧 |
| 速度倍率 | 0.5× / 1× / 2× / 4× 调节播放速度 |
导出视频
点击 📹 导出视频 按钮,等待录制完成后自动下载 .webm 格式视频文件。
💡 导出时间取决于任务步骤数,通常约等于任务实际执行时长,请耐心等待。
下载测试报告
方式一:通过任务历史抽屉(针对某条历史任务)
在任务卡底部点击对应格式按钮。
方式二:通过底部 Agent 状态栏(针对最近一次任务)
Agent 状态栏右侧有三个下载按钮。
| 格式 | 说明 | 适用场景 |
|---|---|---|
.md |
Markdown 格式,含截图 | 粘贴到文档/GitHub/Notion |
.html |
独立网页,可直接双击打开 | 发送给他人离线查看 |
.json |
完整原始数据 | 数据分析、程序处理、存档备份 |
报告内容包含:任务概览、AI 结论、每步执行前后截图、工具调用记录。
对话历史管理
点击左上角 ☰ 菜单图标 打开对话历史侧边栏。
| 操作 | 方法 |
|---|---|
| 新建对话 | 点击侧边栏顶部「+ 新建对话」或顶栏右侧 + 图标 |
| 切换对话 | 点击侧边栏中的对话条目 |
| 收藏对话 | 点击顶栏标题旁的 ☆ 星标图标(收藏后置顶显示) |
| 删除对话 | 鼠标悬停对话条目,点击右侧 🗑️ 图标 |
| 清空消息 | 点击顶栏右侧 🧹 扫帚图标(仅清空消息,保留对话) |
📌 所有对话历史和 Agent 任务记录均保存在本地浏览器存储中,清除浏览器数据会丢失。
消息操作
每条消息底部悬停可见操作按钮:
| 按钮 | 功能 |
|---|---|
| 📋 复制 | 复制 AI 回复内容(仅助手消息) |
| 🗑️ 删除 | 删除单条消息 |
附件操作:
- 图片:点击任意截图/图片,全屏预览,再次点击关闭
- 视频:内嵌播放器,支持播放/暂停/进度拖动
- 文件:点击下载到本地
常见问题
Q:AI 一直显示"加载中",怎么办?
A:检查网络连接,以及 API Key 和供应商是否配置正确。部分供应商有地区限制,可尝试切换供应商。
Q:Agent 任务失败了?
A:常见原因:① 指令过于模糊,请细化描述;② 手机屏幕元素位置与模型预期不符,可重试;③ 模型不支持视觉,需更换视觉模型。
Q:任务报告中截图是空白/黑屏?
A:截图依赖 ADB 连接稳定性,重新连接设备后重试。
Q:任务历史占用太多存储?
A:在「📋 任务历史」中删除不需要的任务(尤其是含大量截图的任务)。
Q:视频导出很慢?
A:导出视频以真实时速录制,步骤越多耗时越长。可先用「回放」预览,确认有导出需要再下载。
Q:关闭浏览器后记录还在吗?
A:会保留。数据存储在浏览器的 localStorage 中,不卸载浏览器数据就不会丢失。
Mobile-AI-Use Agent · 让 AI 成为你的手机操作员