Skip to content

Welcome to the RM-01 Developer Guide! This repository contains detailed developer documentation for the RM-01 high-performance portable AI device.

License

Notifications You must be signed in to change notification settings

RMinte/RM-01-Developer-Guide

Repository files navigation

RM-01 Developer Guide

Language: Multilingual Device: RM-01 Documentation: Complete

Language / 语言选择: 🇺🇸 English | 🇨🇳 中文


English

Welcome to the RM-01 Developer Guide! This repository provides comprehensive multilingual developer documentation for the RM-01 high-performance portable AI device.

🚀 About RM-01

RM-01 is a revolutionary portable AI HPC featuring three integrated modules: Inference Module, Application Module, and Out-of-Band Management Module. Simply connect via USB Type-C to automatically create a local network environment for easy AI model deployment, testing, and execution.

🔧 Core Components

Component Specifications IP Address
Application Module Intel Core i3-N305, up to 24GB LPDDR5 10.10.99.99
Inference Module Up to 128GB VRAM, 2,070 TFLOPS (FP4) 10.10.99.98
Management Module RobOS Monitoring Dashboard 10.10.99.97
User Host Auto-assigned 10.10.99.100

✨ Key Features

  • 🔌 Plug & Play: Auto network setup via USB Type-C
  • 🧠 AI-Optimized: Pre-installed vLLM and TEI frameworks
  • 📊 Real-time Monitoring: RobOS system performance dashboard
  • 🔧 Flexible Deployment: Docker containerized applications
  • 💾 Model Management: CFexpress Type-B storage for models

📚 Documentation Languages

Choose your language for detailed developer documentation:

Language Documentation Link Status
🇬🇧 English RM-01 Developer Guide ✅ Complete
🇨🇳 简体中文 RM-01 开发者使用指南 ✅ Complete
🇯🇵 日本語 RM-01 開発者ガイド ✅ Complete
🇰🇷 한국어 RM-01 개발자 가이드 ✅ Complete
🇫🇷 Français Guide du Développeur RM-01 ✅ Complete
🇮🇹 Italiano Guida per Sviluppatori RM-01 ✅ Complete
🇪🇸 Español Guía del Desarrollador RM-01 ✅ Complete

🛠️ Quick Start

1. Connect Device

# Connect RM-01 to your computer using USB Type-C cable

2. Network Verification

# Verify network connection
ping 10.10.99.99  # Application Module
ping 10.10.99.98  # Inference Module  
ping 10.10.99.97  # Management Module

3. SSH Access

# Connect to Application Module
ssh [email protected]
# Default password: rm01

4. Web Interface

🔧 Development Workflow

Model Deployment

  1. Automatic Mode

    # Place model files directly in auto/llm/ directory of CFexpress card
  2. Manual Mode

    # Create dev/llm/llm_run.yaml configuration file
    model: /home/rm01/models/dev/llm/your-model
    port: 58000
    gpu_memory_utilization: 0.85
    max_model_len: 24576

Application Deployment

# Upload Docker image to Application Module
docker save your-app:latest | ssh [email protected] 'docker load'

📋 System Requirements

Host System

  • OS: macOS 10.15+, Windows 10+, Linux (Ubuntu 18.04+)
  • Interface: USB Type-C data interface
  • Network: USB Ethernet adapter support

CFexpress Storage Card

  • Type: CFexpress Type-B
  • Capacity: Recommended 256GB+ (1TB+ for large models)
  • Speed: PCIe 3.0 x2 or higher

🔒 Security Notes

⚠️ Important: Change default password immediately after first SSH login

# Change Application Module password
passwd

🤝 Contributing

We welcome issues and improvement suggestions! Please follow our contribution guidelines.

Issue Reporting

📄 License

This project is licensed under the MIT License - see the LICENSE file for details.

📞 Support


中文

欢迎来到 RM-01 开发者指南!本仓库提供 RM-01 高性能便携 AI 设备的完整多语言开发者文档。

🚀 关于 RM-01

RM-01 是一款革命性的便携式 AI 超算,集成了三个独立模组:推理模组应用模组带外管理模组。通过 USB Type-C 连接即可自动创建本地网络环境,让您能够轻松部署、测试和运行 AI 模型。

� 核心组件

组件 规格 IP 地址
应用模组 Intel Core i3-N305, 最高 24GB LPDDR5 10.10.99.99
推理模组 最高 128GB 显存, 2,070 TFLOPS (FP4) 10.10.99.98
管理模组 RobOS 监控面板 10.10.99.97
用户主机 自动分配 10.10.99.100

✨ 主要特性

  • 🔌 即插即用: USB Type-C 连接自动配置网络环境
  • 🧠 AI 推理优化: 预装 vLLM 和 TEI 框架
  • 📊 实时监控: RobOS 系统性能监控面板
  • 🔧 灵活部署: 支持 Docker 容器化应用
  • 模型管理: CFexpress Type-B 存储卡模型加载

📚 文档语言版本

选择您的语言版本以获取详细的开发者指南:

语言 文档链接 状态
🇬🇧 English RM-01 Developer Guide ✅ 完整
🇨🇳 简体中文 RM-01 开发者使用指南 ✅ 完整
🇯🇵 日本語 RM-01 開発者ガイド ✅ 完整
🇰🇷 한국어 RM-01 개발자 가이드 ✅ 완료
🇫🇷 Français Guide du Développeur RM-01 ✅ 完整
🇮🇹 Italiano Guida per Sviluppatori RM-01 ✅ 完整
🇪🇸 Español Guía del Desarrollador RM-01 ✅ 完整

🛠️ 快速开始

1. 连接设备

# 使用 USB Type-C 数据线连接 RM-01 到您的电脑

2. 网络验证

# 验证网络连接
ping 10.10.99.99  # 应用模组
ping 10.10.99.98  # 推理模组
ping 10.10.99.97  # 管理模组

3. SSH 访问

# 连接到应用模组
ssh [email protected]
# 默认密码: rm01

4. Web 界面

🔧 开发工作流

模型部署

  1. 自动模式

    # 将模型文件直接放入 CFexpress 存储卡的 auto/llm/ 目录
  2. 手动模式

    # 创建 dev/llm/llm_run.yaml 配置文件
    model: /home/rm01/models/dev/llm/your-model
    port: 58000
    gpu_memory_utilization: 0.85
    max_model_len: 24576

应用部署

# 上传 Docker 镜像到应用模组
docker save your-app:latest | ssh [email protected] 'docker load'

📋 系统要求

主机系统

  • 操作系统: macOS 10.15+, Windows 10+, Linux (Ubuntu 18.04+)
  • 接口: USB Type-C 数据接口
  • 网络: 支持 USB Ethernet 适配器

CFexpress 存储卡

  • 类型: CFexpress Type-B
  • 容量: 建议 256GB+ (推荐 1TB+ 用于大模型)
  • 速度: PCIe 3.0 x2 或更高

🔒 安全须知

⚠️ 重要: 首次 SSH 登录后请立即修改默认密码

# 修改应用模组密码
passwd

🤝 贡献

欢迎提交问题和改进建议!请确保遵循我们的贡献指南。

问题报告

📄 许可证

本项目采用 MIT 许可证 - 查看 LICENSE 文件了解详情。

📞 支持


🚀 Start Your RM-01 AI Development Journey! | 开始您的 RM-01 AI 开发之旅!🚀

About

Welcome to the RM-01 Developer Guide! This repository contains detailed developer documentation for the RM-01 high-performance portable AI device.

Topics

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published