📄️ Notebooks
Notebooks 提供了一种在 LLMOS 集群内运行 JupyterLab、RStudio 和 VS Code 的轻量级基于 Web 的开发环境的方式,您可以在其中运行交互式代码、数据分析和机器学习任务。
📄️ 模型服务
LLMOS 平台通过 ModelService 简化了大语言模型(LLM)的部署, 为用户提供了简单,友好的配置和管理界面。推理服务利用强大的 vLLM 服务引擎。通过指定模型名称、Hugging Face 配置、资源要求等参数,用户可以轻松高效地设置和部署模型,并支持大规模运行。