OpenMobile-2: Building Versatile Mobile Agents with Scalable Environments and App-Native Tools

作者(12 位)

Chenyang Yan, Yingying Zhang, Kanzhi Cheng, Qiushi Sun, Zhengyuan Pan, Zheng Ma, Hang Yan, Yian Wang, Nuo Chen, Jialin Cao, Xingdong Gong, Wenpo Song

2026-10-09 · arXiv · PDF

该工作面向开放社区缺乏可扩展移动训练环境与数据的困境,构建了涵盖110余个应用的可控模拟与仿真环境、近12K轨迹与2K余可验证强化学习任务,并提出GUI动作与应用原生工具交替使用的混合交互范式。

问题与背景

移动智能体(mobile agent,指通过点击、滑动、输入等动作操作手机界面的视觉语言模型智能体)的能力高度依赖大规模交互经验,但高质量轨迹数据大多掌握在闭源机构手中,开放社区的训练资源有限,开放模型明显落后。要低成本扩展交互经验,需要一个多样且可控的移动实验场。现有开放工作多依赖Android模拟器中的少量开源应用:交互真实,但第三方应用难以可靠重置,完整Android栈的并行化成本高。

近期的模拟应用环境可以高效重置与并行,但应用数量少、功能浅,且缺乏可扩展的构建方法。商业应用上的长程跨应用工作流训练与评测环境因此尤其缺失。[2][4]

核心思路

论文把“环境规模化”作为核心抓手:在MobileGym模拟框架上重建35个高保真商业风格应用(合计63个可安装客户端),配合新配置的Android模拟器应用形成覆盖110余个应用的训练场;由于应用状态完全可序列化,可做确定性重置与程序化验证。在此基础上用教师模型合成并过滤轨迹与可验证任务,得到OpenMobile-Data-v2,用于监督微调与强化学习。

第二条主线是交互通道的扩展:让应用把部分功能以“应用原生工具”(app-native tools,即应用自身暴露的结构化查询或写入接口)的形式与GUI并列提供,工具与GUI操作同一份应用状态、共享同一终局判定。这样同一任务既可用纯GUI完成,也可用GUI与工具交替完成,从而在同一任务集上受控比较两种通道。[2][7][8]

方法如何工作

构建可控商业风格模拟应用

以MobileGym运行时为基础,先写数据模式与交互图规格,再渲染界面。每个应用维护订单、预算、行程等持久业务状态,观测只有原始屏幕像素,无无障碍树,智能体不能直接读取业务状态。设备状态可完全序列化,支持确定性重置与轻量并行实例化。交付前做覆盖检查(声明的交互是否都有实现)与核心流程回放检查。[4][5][21]

打通跨应用工作流机制

所有应用运行在共享、可重置的设备上,通过剪贴板传递、应用间分享、支付跳转、媒体选择等机制让信息与动作跨应用边界流动,从而支持真实的多应用工作流而非孤立单应用任务。[6]

设计应用原生工具接口

每个工具是对应用自身业务对象的结构化查询或写入,并与对应GUI交互语义等价;工具调用与GUI操作修改同一持久状态、由同一终局条件判定。工具仅在该应用位于前台时可用,因此策略每步在GUI动作与可用工具间选择。共在50余个应用上实现300余个工具,任务全部仍可纯GUI完成。[7][17]

合成任务与采集轨迹

为每个应用构建状态—动作转移图,形成全局视图与局部视图;在模拟器侧探索界面并合并相似截图,在MobileGym++侧直接由后端规格导出。以Gemini-3.1-Pro-Preview依据视图生成可执行用户指令并做质量与多样性过滤,再作为教师智能体执行任务产生轨迹,仅保留通过验证器的成功轨迹,并逐步过滤无意义循环与不改变状态的动作。[10]

两阶段训练与混合训练

从基座模型做两次5轮监督微调:GUI-only只用GUI轨迹,Hybrid用完整混合数据(含1,774条GUI与工具交替的模拟器轨迹)。强化学习从Hybrid检查点初始化,在512个可执行任务上采用组相对优势与DAPO目标,奖励由验证器、工具使用加成、长度因子与格式/虚假完成惩罚相乘构成。[12][17][18]

同任务双模式评测

提出MobileGym++ Bench,215个任务覆盖单应用到四应用,每个任务绑定初始状态与对业务状态前后差异的程序化检查器,不检查轨迹或截图、不用模型裁判。同一任务集同时评测纯GUI与混合模式,主指标为成功率。[8]

从应用规格构建可控模拟应用,经任务合成与轨迹过滤得到训练数据,再经两次SFT与RL训练,并在同一任务集上做纯GUI与混合评测
OpenMobile-2 环境、数据与训练流程(示意图,步骤摘自已核对的方法分节)

一个例子(帮助理解,非原文实验)

以下为解释性示例,并非原文实验。设想一个任务:“在小红书搜索‘旅行’,把前十条结果里点赞最高的两篇帖子标题写进系统备忘录”。纯GUI模式下,智能体要自己点搜索框、输入关键词、滑动浏览、比较点赞数、长按复制标题、切到备忘录粘贴,步骤多且易错。

混合模式下,应用暴露了搜索与读取摘要的工具:智能体可先调用类似 search_items 的工具拿到候选列表与点赞数,再用工具取回标题文本,最后仍需切到备忘录用GUI粘贴并提交。注意工具只覆盖部分功能,例如结算类工具只打开确认页而不生成订单与支付,收尾仍要在GUI完成。

这正体现论文的设计:工具与GUI共享同一应用状态、同一成功判定,因此两种通道可在同一任务上受控比较;而原文发现,未经混合训练时模型很少主动调用工具,收益有限,混合训练后工具调用才显著变得更有效。[7][13][29][30]

证据与实验

  • 主结果:27B模型在AndroidWorld达79.9、MobileWorld达50.4,SPA-Bench(真实设备)从基座31.9提升到59.6;9B模型从基座54.3提升到74.0(AndroidWorld),两个规模在MobileWorld与MobileGym++上也一致提升。[13]
  • 强化学习效果:MobileGym成功率从35.9升至38.3(9B)、48.4升至51.2(27B),27B的SPA-Bench从57.4升至59.6;其他基准增益有限,作者认为RL收益依赖训练环境与评测场景的对齐。[13]
  • 工具通道:MobileGym++ Bench混合评测中,混合SFT相对GUI-only SFT在9B为41.9到44.7、27B为57.7到65.6,纯GUI成功率基本持平。MobileWorld MCP上混合SFT为27.5和45.0,对照12.5和35.0。[13]
  • 环境覆盖分析:固定2K模拟器轨迹预算,训练应用数从15增至53,未见应用Pass@1从60.7升至67.5,分布内Pass@1从73.7小幅降至71.4。[14]
  • 工具使用分析:混合SFT后工具调用覆盖任务数升至113与128(共215),涉及110与115个不同工具,工具带来增益升至5.6与10.3分,轨迹分别缩短4.8与5.8步。[14]
指标本文对比/基线数据集条件单位来源
AndroidWorld Pass@174.054.3AndroidWorld(116任务,20个真实应用)9B模型,基座Qwen3.5-9B,混合SFT+RL成功率%§5.2 Main results「the 9B model gains 19.7 points on Androi」
AndroidWorld Pass@179.967.1AndroidWorld27B模型,基座Qwen3.6-27B,混合SFT+RL成功率%§5.2 Main results「the 27B model gains 12.8 points (67.1 to」
MobileGym 成功率51.248.4MobileGym27B,混合SFT对比混合SFT+RL成功率%§5.2 Main results「raising MobileGym success rate from 35.9」
MobileGym++ Bench 混合模式成功率65.657.7MobileGym++ Bench(215任务)27B,混合SFT对比GUI-only SFT,混合评测成功率%§5.2 Main results「27B: 57.7 to 65.6」
MobileWorld MCP 通过率45.035.0MobileWorld(MCP模式)27B,混合SFT对比GUI-only SFT,工具未见Pass@1 %§5.2 Main results「hybrid SFT achieves 27.5 and 45.0 versus」
未见应用 Pass@167.560.7AndroidWorld(留出应用)固定2K模拟器轨迹,应用覆盖15到53成功率%§5.3 Analysis「Pass@1 increasing from 60.7 to 67.5」
工具调用任务覆盖数128102MobileGym++ Bench(215任务)27B,混合SFT后对比基座任务数§5.3 Analysis「tool calls appear in 113 and 128 tasks」

各行数值来自标注章节的原句,以原文为准。

适用场景与局限

适合以下场景:一是需要在商业风格应用上做长程、跨应用移动智能体训练与评测的研究,尤其是关注订单、预算、行程等业务状态写入的任务;二是希望在同一任务集上受控比较纯GUI与GUI加工具混合交互的研究者,可借助共享状态与共享判定设计对照实验;三是需要可确定性重置、可并行化、可程序化验证的强化学习实验平台;四是关心模拟环境训练向真实设备迁移的团队,论文在SPA-Bench上报告了迁移结果。

数据侧可直接使用近12K示范轨迹与2K余可执行RL任务,覆盖模拟器与模拟客户端两类来源。[2][9][13][14]

  • 工具使用是探索性设置,工具由人为划定范围并在模拟应用内实现,与真实商业应用是否愿意暴露同类接口存在差距。(解读者观点)
  • 作者指出强化学习只在训练对齐的环境上带来明显增益,其他基准提升有限,表明RL收益依赖训练与评测场景的对齐。
  • 模拟客户端为高保真重建而非真实应用,登录摩擦、不可逆副作用等真实约束被规避,保真度与真实部署仍有差距。(解读者观点)
  • 作者用嵌入相似度检查训练与评测目标的重叠,但仅报告相似度阈值统计,不能完全排除隐性泄漏。(解读者观点)

结论与来源

论文给出了一套开放的移动智能体训练栈:环境侧以MobileGym++与新增模拟器应用构成110余个应用的可控训练场,数据侧发布近12K示范轨迹与2K余带自动奖励的可执行RL任务,并训练出在AndroidWorld(79.9)与MobileWorld(50.4)上具竞争力的模型,在真实设备SPA-Bench上从31.9提升到59.6。

作者的核心发现是:单纯提供工具收益有限,混合训练才能显著放大工具价值,并提升交互效率;同时扩大应用覆盖可在固定数据预算下改善对未见应用的迁移。以上结论均来自作者报告。[1][13][14][15]

原文与来源

AI 依据论文正文生成,经人工审核;数字与结论以原文为准。