TrueFoundry是一个智能AI平台,专注于构建复合AI系统。公司提供将用户需求转换为最优基础设施配置的服务,支持云、硬件和性能需求的定制。主营业务包括快速迭代、高性能模型训练与服务、成本优化、统一部署、LLM模型部署与微调、训练作业与批量推理管理、Jupyter Notebook与SSH服务器支持、向量数据库与应用集、灵活的代码支持等。
Velvet 是一个为工程师设计的人工智能(AI)网关,专注于在生产环境中使用大型语言模型(LLM)。它通过将请求存储到您控制的数据库中,帮助您分析、评估和监控AI功能。Velvet 提供了数据互操作性、细粒度分析、智能缓存、实验运行、持续监控和数据集生成等功能,以优化成本、提高效率并支持模型的微调。