浙江建设厅网站安全员证书查询,wordpress添加新建标签页,网站如何能吸引用户,wordpress主题文件在最近结束的 VMware Explore 2023 拉斯维加斯大会上#xff0c;VMware 推出了新的 Private AI 产品#xff0c;以促进企业采用生成式人工智能并挖掘可信数据的价值。VMware 宣布了以下几点#xff1a; 与 NVIDIA 合作推出 VMware Private AI Foundation#xff0c;将两家…在最近结束的 VMware Explore 2023 拉斯维加斯大会上VMware 推出了新的 Private AI 产品以促进企业采用生成式人工智能并挖掘可信数据的价值。VMware 宣布了以下几点 与 NVIDIA 合作推出 VMware Private AI Foundation将两家公司的战略合作扩展到为运行 VMware 云基础架构的企业准备适应下一代生成式人工智能的能力。 推出 VMware Private AI 开源参考架构通过支持当前和未来的最佳开源软件OSS技术帮助客户实现他们期望的人工智能成果。 其中VMware Private AI 开源参考架构如下图所示为客户和合作伙伴提供了灵活性使他们能够 利用最佳模型、框架、应用程序和数据服务、工具和适合其业务需求的硬件基于标准化的 VMware 验证体系实现快速、可重复、安全的部署。通过利用完全记录的架构和相关代码示例以及通过消除系统设计、测试、启动、配置和供应过程中的复杂性实现快速的交付价值。在共同的本地云基础设施堆栈上运行所有 AI 工作负载最大化资源利用率从而提高投资回报率。利用流行的开源项目如 ray.io、Kubeflow、PyTorch、pgvector 以及 Hugging Face 提供的模型。 Kubeflow 专为在 Kubernetes 环境中进行机器学习工作而设计的开源机器学习平台目前已被 CNCF 接受作为其孵化项目。它的主要功能如下 提供一系列工具和组件帮助用户更轻松地部署、管理和扩展机器学习工作负载。帮助开发人员和数据科学家在容器化的环境中构建、训练和部署机器学习模型。提供自动化的资源调度、监控和日志记录等功能使机器学习任务更加高效和可管理性。提供安全工作组、集成软件物料清单、基于 Serviceaccount 的身份验证、对大多数 API 进行身份验证以及加固 lstio 和网络策略等安全性特性。 许多 VMware 的客户已经在 vSphere 上投入了大量资源来运行关键应用程序而如今他们希望将 vSphere 扩展为支持 AI/ML 工作负载并都希望在他们的知识库上训练一个大语言模型。通过 VMware 提供经过优化的 Kubeflow 发行版 Kubeflow VMware DistributionVMware 客户可以充分利用经过验证的 VMware 技术栈来解决这些挑战。这使得企业更容易在 vSphere 上安全地进行大规模的 Kubeflow 部署和管理并且在值得信任的虚拟化基础之上高效地实现客户的 AI/ML 工作负载需求。 Kubeflow VMware Distribution 的架构图如下所示 Kubeflow VMware Distribution 的主要特点包括 通过与 VMware 基础架构的无缝集成允许客户在现有 VMware 投资基础上更快地部署 Kubeflow从而利用成熟的 vSphere、VMware NSX、vSAN 等企业特性高效地部署人工智能 / 机器学习项目。使用 Carvel 打包技术将 Kubeflow 核心组件与 Tanzu Kubernetes Grid 自然集成打造 vSphere 上的一站式 Kubeflow 部署经验。提供了与 vSphere 集成的 Pinniped 的统一身份管理先进的 GPU 动态管理、集成监控堆栈、多租户控制访问等企业级功能和产品就绪能力。支持不同类型的机器学习工作负载包括自然语言处理NLP、图像分类、视频识别等特别是时下流行的开源大语言模型部署、微调及预训练。 未来Kubeflow VMware Distribution 将持续改进与更多 VMware 产品特性进行深度融合充分利用来自 VMware 合作伙伴的众多商业 MLOps 工具例如 Anyscale、cnvrg.io、Domino Data Lab、NVIDIA、One Convergence、Run:ai 和 Weights Biases 等在中国我们也将与浪潮、超聚变等合作伙伴在此领域进行合作。让我们共同期待 本文作者贺黎VMware高级项目经理刘奇VMware高级工程师曹磊VMware工程师。 内容来源公众号VMware 中国研发中心 有任何疑问欢迎扫描下方公众号联系我们哦