深度解析豆包AI手机如何通过感知-规划-行动循环与Android无障碍服务,实现从自然语言指令到手机APP端到端操作的自动化全流程。
1 案例实战:浏览器新闻搜索
1.1 初始阶段:宏观规划
输入:用户指令 打开浏览器搜索今天的新闻。
规划结果:大模型通过 截图+指令 在后台生成了针对信息获取的流程图:打开默认浏览器 -> 点击搜索栏 -> 输入‘2025年12月3日新闻’ -> 确认搜索 ->执行多次滚动操作以覆盖更多内容-> 视觉模型读取屏幕文字 -> 生成摘要反馈给用户。
1.2 执行阶段:启动搜索
步骤 1:启动App
思考:识别桌面上的浏览器或Chrome图标。
ACTION:OPEN:['Browser']。
步骤 2:激活搜索
思考:确认浏览器已打开,视觉定位到顶部的搜索框或中心的搜索栏。