Mobile-AI-Use Agent 使用说明

Mobile-AI-Use Agent 使用说明

🤖 AI 智能助手 + 手机自动化操控,一句话让 AI 帮你操作手机。


目录

  1. 初次使用:配置 AI
  2. 普通对话模式
  3. Agent 模式:让 AI 操控手机
  4. 查看任务历史
  5. 任务回放视频
  6. 下载测试报告
  7. 对话历史管理
  8. 消息操作
  9. 常见问题

初次使用:配置 AI

点击右上角 ⚙️ 齿轮图标 打开「AI 设置」。

配置项 说明
供应商 选择 AI 服务商(通义千问、DeepSeek、豆包、OpenAI 等)
API Key 在对应官网申请,填入后自动保存到本地
模型 可选填,留空则使用供应商默认模型

⚠️ 重要提示:使用 Agent 操控手机时,必须选择支持视觉的模型,AI 才能看懂手机屏幕。

推荐视觉模型:qwen-vl-max、doubao-1-5-vision-pro-32k、gpt-4o

设置完成后点空白处关闭,无需额外保存,自动持久化。


普通对话模式

默认状态为普通对话模式(右上角机器人图标未高亮)。

基本操作:

  • 输入消息:在底部文本框输入,按 Enter 发送
  • 换行:按 Shift + Enter
  • 上传文件:点击输入框左侧 📎 回形针图标,支持图片、视频、PDF、文档等
  • 停止回复:AI 回复过程中,点击发送按钮变为的 ⏹ 停止键

欢迎界面快捷指令:

首次进入对话时,可以点击页面中间的建议按钮快速开始:

快捷按钮 示例目标
💻 地图导航 用高德地图导航到深圳湾公园
📊 点外卖 在美团 app 点一份肯德基外卖
🖼️ 发微信 发微信给 zhc,说早上好啊
🎬 谷歌搜索 打开谷歌搜索 deepseek
📥 查新闻 打开百度新闻,返回前 5 条新闻

Agent 模式:让 AI 操控手机

开启 Agent 模式

点击右上角 🤖 机器人图标,图标高亮(蓝色)即表示已开启。

开启后底部会出现 Agent 状态栏,显示当前连接状态:

  • ✅ 已就绪:手机已连接 + API Key 已配置,可以使用
  • ⚠️ 未连接手机:请先在投屏页面连接设备
  • ⚠️ 未配置 API Key:请先完成 AI 设置

发送任务

在输入框输入你想让手机做的事,然后发送,AI 会自动执行。

指令写法建议:

✅ 好的指令 ❌ 模糊的指令
打开微信,在搜索框输入"李四" 帮我联系一下李四
打开设置,找到蓝牙开关,截图 查看手机设置
打开高德地图,搜索深圳南山科技园 用地图找个地方
进入淘宝首页,滚动到第 3 屏截图 看看淘宝有什么

指令越具体,执行越准确。

执行过程

任务提交后,AI 会在聊天区域实时展示执行过程:

📋 已生成执行计划(共 N 步)
  1. 启动微信
  2. 点击搜索框
  3. 输入用户名
  ...

▶️ 步骤 1:启动微信
  🔧 launch_app("com.tencent.mm")
  → 已启动微信
  ✅ 步骤完成(1.3s)
  [步骤前截图] [步骤后截图]

▶️ 步骤 2:...

每个步骤结束后会自动附上执行前后的截图,可点击查看大图。

中止任务

任务执行中,点击输入框右侧的 ⏹ 停止按钮可立即中止。


查看任务历史

每次 Agent 任务完成后,记录会自动保存到当前对话中。

点击顶栏右侧 📋 任务历史图标(数字徽标表示任务数量)打开任务历史抽屉。

每条任务记录显示:

信息 说明
状态标签 ✅ 完成 / ❌ 失败 / ⏹ 中止 等
创建时间 任务开始时间
目标 当时输入的任务指令
步骤 成功步骤数 / 总步骤数
耗时 任务总用时
结论 AI 对本次任务的总结
错误信息 失败时显示原因

删除任务记录:点击任务卡右侧 🗑️ 图标,确认后删除(用于释放存储空间)。


任务回放视频

在任务历史抽屉中,点击任务卡上的 ▶ 回放 按钮,打开 Canvas 回放弹窗。

回放控制

控件 功能
▶ / ⏸ 播放 / 暂停
⏮ / ⏭ 上一帧 / 下一帧
进度条 拖动跳转到任意帧
速度倍率 0.5× / 1× / 2× / 4× 调节播放速度

导出视频

点击 📹 导出视频 按钮,等待录制完成后自动下载 .webm 格式视频文件。

💡 导出时间取决于任务步骤数,通常约等于任务实际执行时长,请耐心等待。


下载测试报告

方式一:通过任务历史抽屉(针对某条历史任务)
在任务卡底部点击对应格式按钮。

方式二:通过底部 Agent 状态栏(针对最近一次任务)
Agent 状态栏右侧有三个下载按钮。

格式 说明 适用场景
.md Markdown 格式,含截图 粘贴到文档/GitHub/Notion
.html 独立网页,可直接双击打开 发送给他人离线查看
.json 完整原始数据 数据分析、程序处理、存档备份

报告内容包含:任务概览、AI 结论、每步执行前后截图、工具调用记录。


对话历史管理

点击左上角 ☰ 菜单图标 打开对话历史侧边栏。

操作 方法
新建对话 点击侧边栏顶部「+ 新建对话」或顶栏右侧 + 图标
切换对话 点击侧边栏中的对话条目
收藏对话 点击顶栏标题旁的 ☆ 星标图标(收藏后置顶显示)
删除对话 鼠标悬停对话条目,点击右侧 🗑️ 图标
清空消息 点击顶栏右侧 🧹 扫帚图标(仅清空消息,保留对话)

📌 所有对话历史和 Agent 任务记录均保存在本地浏览器存储中,清除浏览器数据会丢失。


消息操作

每条消息底部悬停可见操作按钮:

按钮 功能
📋 复制 复制 AI 回复内容(仅助手消息)
🗑️ 删除 删除单条消息

附件操作:

  • 图片:点击任意截图/图片,全屏预览,再次点击关闭
  • 视频:内嵌播放器,支持播放/暂停/进度拖动
  • 文件:点击下载到本地

常见问题

Q:AI 一直显示"加载中",怎么办?
A:检查网络连接,以及 API Key 和供应商是否配置正确。部分供应商有地区限制,可尝试切换供应商。

Q:Agent 任务失败了?
A:常见原因:① 指令过于模糊,请细化描述;② 手机屏幕元素位置与模型预期不符,可重试;③ 模型不支持视觉,需更换视觉模型。

Q:任务报告中截图是空白/黑屏?
A:截图依赖 ADB 连接稳定性,重新连接设备后重试。

Q:任务历史占用太多存储?
A:在「📋 任务历史」中删除不需要的任务(尤其是含大量截图的任务)。

Q:视频导出很慢?
A:导出视频以真实时速录制,步骤越多耗时越长。可先用「回放」预览,确认有导出需要再下载。

Q:关闭浏览器后记录还在吗?
A:会保留。数据存储在浏览器的 localStorage 中,不卸载浏览器数据就不会丢失。


Mobile-AI-Use Agent · 让 AI 成为你的手机操作员