AcmeX's Blog

项目

机器人视觉与算法工程实践 — 6 个项目

查看项目详情

AuraVLA 具身智能闭环控制系统

独立开发

集成 VLM 多模态理解、Schema 验证规划、Lula IK/RRT 运动规划、Isaac Sim 仿真与几何验证的自主机器人操作系统,实现感知-规划-执行-验证的完整闭环与自动重规划能力。

  • Lula IK + RRT 混合规划:warm-start 连续 IK + 碰撞避障全局路径搜索
  • Schema 验证安全规划:禁止底层运动指令,防止 VLM 幻觉生成不安全参数
  • 稀疏关键姿态扩散:minimum jerk 插值生成 C² 连续轨迹,满足动力学约束
  • 双臂协同控制:实时 TCP 间距约束(18cm)+ 力反馈独立双指抓取
  • 文件桥接通信:零依赖跨进程集成 ROS2 与 Isaac Sim,支持心跳与独占控制
VLA ROS2 Lula RRT Isaac Sim cuRobo VLM Python
8-25ms IK 求解
0.5-3s RRT 规划
±3.5cm TCP 精度
78% 重规划成功率
GitHub
查看项目详情

双臂机器人 ACT 训练闭环优化

独立开发

基于 Tron2 双臂机器人构建的 Expert → Data → ACT → Evaluation 闭环优化系统,系统性解决从数据采集到策略部署的全链路质量问题,覆盖单臂调整、双臂抓举、双碗堆叠和三碗长时序堆叠四类递增难度任务。

  • ACT 数据契约:16维双臂状态空间、三相机语义顺序、action/qpos 时序对齐校验
  • 训练策略优化:KL权重Warmup、分层学习率、高EMA系数、Keyframe-Aware采样
  • Expert 轨迹优化:阶段化任务分解、实时放置对齐、抓取候选fallback策略
  • 评测基础设施:固定Seed rollout、分层堆叠评分、多维度模型选择
ACT PyTorch 模仿学习 RoboTwin SAPIEN cuRobo
0%→20% T4 Expert成功率
≥17.7% 采集速度提升
6500 epochs 训练完成度
查看项目详情

RCIA-Vision-2025

核心算法负责人

基于ROS2架构的机器人自动瞄准跟踪系统,涵盖装甲板检测、位姿解算、多传感器融合跟踪与弹道补偿的完整管线。同时负责UE5虚实仿真环境的搭建,实现算法在虚拟和真实环境下的闭环验证。

  • ROS2架构:Component节点封装、TF2坐标系转换、DDS实时通信
  • 装甲板检测:OpenCV灯柱检测、PnP位姿解算、Ceres BA联合优化
  • 目标跟踪:EKF多传感器融合 + 四阶龙格库塔弹道补偿
  • UE5虚实仿真:搭建竞技场景,实现算法双向闭环验证
ROS2 OpenCV PnP Ceres EKF C++ UE5 Docker
±1.5° 跟踪精度
60fps 检测帧率
一等奖 全国赛
查看项目详情

DicePoseEst

独立完成

基于YOLOv10 + PnP + BA + PoseNet多模型融合的骰子6D姿态估计系统,训练损失MAE低至0.034 rad。支持图像、视频与实时屏幕捕获多源输入,PyQt5交互界面提供参数调节与结果检查。

  • 多模型融合策略:YOLO目标检测 + PnP初始位姿 + Ceres BA优化 + PoseNet回归
  • 多源输入:图像文件、视频流、Windows实时屏幕捕获
  • PyQt5交互界面:参数调节、模式切换、3D轴投影可视化
  • 模块化架构:易于扩展新算法与模型
YOLOv10 PnP Ceres PoseNet PyQt5 Python
0.034 rad 训练损失MAE
95%+ 检测mAP
GitHub

CycleGAN 艺术风格迁移及3D纹理渲染系统

独立完成

基于CycleGAN实现任意风格图像的艺术风格迁移,并整合Blender自动化渲染管线,将迁移结果作为3D模型的纹理贴图完成高质量渲染输出。

  • CycleGAN模型训练与调优,实现任意风格间的双向迁移
  • Blender Python脚本自动化纹理贴图 + 批量渲染管线
  • Docker容器化部署,保证环境一致性
CycleGAN PyTorch Blender Python Docker
45.2 风格迁移FID
全自动化 渲染管线

RoboMaster 全国赛备场调度系统

独立开发

为RoboMaster全国赛队伍的场地训练时间调度开发的Web应用,支持队员排班、时段预约和冲突检测,显著提升团队备场效率。

  • Vue3响应式排班系统,支持多队伍、多时段灵活调度
  • 冲突检测算法确保无重复预定
Vue3 JavaScript Vite
80% 效率提升
30+ 用户数