AI自主操作手机成现实,XPhoneUse让Agent直接控制真机
一款名为XPhoneUse的工具让AI Agent可以直接操作真实手机,无需专用设备。通过简单的技能安装和指令交互,AI已能完成多邻国学习、微信消息发送等复杂任务,标志着手机Agent从概念走向实用。
在人工智能领域,一个令人兴奋的新进展正在发生:AI Agent不再只是虚拟助手,它们已经能够直接操作真实的智能手机。这项技术的核心是XPhoneUse,一个由开发者jkindle推出的创新工具,它为像Codex、Claude这样的AI Agent提供了"眼睛和手",使其能够像人类一样使用手机。
XPhoneUse的工作原理类似于手机镜像工具Scrcpy,但它更进一步,集成了一个"Skill"功能,可以指挥AI Agent对手机进行操作。用户只需下载Windows或macOS客户端,将安卓或iPhone手机连接到电脑,并向AI Agent发出指令,如安装特定技能或执行具体任务,AI就能按照要求完成操作。
在实际测试中,使用DeepSeek V4.1 Flash模型配合omp,AI Agent成功完成了多项任务,包括数应用数量、查看多邻国连胜记录、发送微信消息以及完成日语学习任务。这些操作的实现,得益于XPhoneUse提供的无障碍树结构和屏幕截图能力,使AI能够理解并操作手机界面。
然而,AI在操作过程中也遇到了挑战。例如,在没有视觉模型的情况下,AI无法直接识别微信界面内容,需要额外开发OCR工具来辅助识别。此外,AI在执行某些任务时也会出现误操作,如错误点击系统会话窗口。这些情况促使开发者不断优化AI的操作逻辑,例如制定"不知道屏幕上有什么,就不碰;一次动作,一次验证"的原则,以提高操作的准确性和安全性。
这一技术的发展,不仅展示了AI在手机操作领域的潜力,也为未来的手机智能生态开辟了新的可能性。随着AI Agent能力的不断提升,未来手机将不仅仅是个人智能的入口,更将成为实现个人ASI(递归式自主进化)的关键路径。
与此同时,阿里巴巴集团也在这一领域发力。在2026云栖大会上,阿里发布了Qwen Intelligence(简称QI),这是一个面向手机智能的全栈解决方案。QI覆盖了从先进模型到全栈平台,再到具体手机任务的一整套能力,旨在让手机里的AI从一个"回答问题的助手",变成一个持续执行任务的Agent。
阿里QI方案的核心在于其三套Agent系统:Mobile Planner Agent、Mobile-Use Agent和Mobile Creative Agent,分别负责任务规划、跨应用执行和影像创作。这些系统的推出,标志着AI手机产业分工格局正在加速变化,中国厂商有望在谷歌、苹果主导的市场中跑出自己的范本。
总的来说,AI自主操作手机的技术正在快速发展,从最初的Demo演示阶段,逐步走向实际应用。这不仅改变了我们对手机的认知,也为未来的智能生活带来了无限可能。
