Wallaroo.AI 是一个AI推理平台,支持任何模型、任何硬件、任何地点的AI部署。它提供快速、即插即用的推理微服务,无需复杂的工程操作,即可在CPU或GPU上部署,适用于任何云或边缘环境。Wallaroo.AI 旨在帮助AI团队消除部署、监控和管理AI模型中的常见瓶颈,实现更快速的AI生产部署,支持更多的AI部署,并通过高效的资源利用和自动化降低部署成本。
TrueFoundry是一个智能AI平台,专注于构建复合AI系统。公司提供将用户需求转换为最优基础设施配置的服务,支持云、硬件和性能需求的定制。主营业务包括快速迭代、高性能模型训练与服务、成本优化、统一部署、LLM模型部署与微调、训练作业与批量推理管理、Jupyter Notebook与SSH服务器支持、向量数据库与应用集、灵活的代码支持等。