Soul Machines 加快下一代 AI 引擎的开发进程
Human OSTM 平台开发人员利用 HP Z8 工作站的高性能、大内存和出众虚拟化功能提升品牌体验
每个企业都希望以更有意义的方式与客户建立联系……
Soul Machines 通过其 Human OS 平台在个性化服务领域开辟新疆界。这家初创公司致力于创建能够在基于 AI 的模拟平台上运行的 Digital People™，为终端用户提供无缝交互体验，从而让这一服务行业更加贴近大众。为了训练机器学习和 AI 模型，Soul Machines 需要具备快速高效的图形处理能力且不受内存和计算能力约束的强大计算机。该公司将 HP Z8 G4 工作站与 Nvidia Rapids 软件套件搭配使用，为训练大型模型（例如内部版 Facebook BlenderBot，一款安装在工作站上的机器学习聊天机器人）铺平了道路，同时向着颠覆客户更进一步。
行业
技术
目标
在 HP Z8 G4 工作站上运行大型内存密集型人工智能训练模型和虚拟化项目
方法
训练复杂的机器学习模型，例如
包含 90 亿个参数的内部版 Facebook BlenderBot
人机协作的美好前景
Soul Machines 率先打造出了 Digital People™，将计算机生成的超真实图像和自制动画巧妙地结合在一起，带来如真人一般的互动效果，为各行各业提供强大的品牌体验。Soul Machines 软件和技术副总裁 Shane Blackett 表示：“Soul Machines 的目标是通过打造 Digital People 来拉进这一服务行业与大众的距离，从而使我们能够在教育、医学以及其他非常需要个性化服务的领域提供帮助。”
Soul Machines 总部位于旧金山，在新西兰奥克兰设有研发中心。该公司会与富有远见的客户合作，帮助他们为其终端客户提供更愉快的客户体验。
“拥有一台能够有效推进工作进度而不必处理额外工程任务的计算机至关重要。否则，我们可能无法顺利完成工作”
Shane Blackett
软件和技术副总裁，
Soul Machines
“我们想要更进一步，让数字人、用户和网页上的内容能够以三方交互的方式共存，其中，数字人可以提出建议，用户则执行操作，或者他们也可以协同合作。”Blackett 表示，“我们正在尝试提供一个可扩展的平台来创建这些数字人，同时我们也在运行基于 AI 的模拟，以提供保真度和逼真体验。”
Soul Machines 已成功开发出一款 Human OS 平台，该平台配有一个获得专利的数字大脑，可帮助实现人机协作。该公司构建了各种模型，例如 AI 模型、机器模型和联想学习模型，以及其他复杂的解决方案。Soul Machines 的客户遍布从金融机构到消费品在内的各行各业。应用示例：日本一家业界前沿的全球 CPG 利用会说日语和英语的在线数字人出售化妆品。
“在我们现有的计算机中， Z8 的强劲性能可谓傲视群雄。”
Aiireza Nejati
Soul Machines 高阶研发软件工程师
数字人的核心实际上是一个在后台运行的模型，它经过专门训练，可识别从学习和感知到行为的认知过程。但是，如果要训练和运行各种基于 AI 的模型和机器学习模型，并对这些图像进行渲染，强大的计算能力、视频内存和显卡缺一不可。HP Z8 工作站能够满足这些需求。
Soul Machines 高阶研发软件工程师 Alireza Nejati 的团队成员们目前使用 HP Z8 工作站开展工作，他指出：“我们许多训练模型之前都受到内存的约束，促使我们选择该工作站的一大原因是它具备足够的内存空间和强大的图形处理能力 (GPU)。”
IT 事务
• 发挥 HP Z8 工作站强大的计算能力
• 利用较大的 GPU 内存容量
• 在单一计算机中训练大量机器学习和 AI 模型
• 使用集群管理软件分配任务
• 扩展虚拟化能力
商业事务
• 探索可助力 AI 开发的全新可用技术
• 发挥速度和效率
• 减少对人工干预的需求
• 为网络赋予实时学习能力
• 利用高性能工作站完成面向未来的项目
关于 Soul
Machines
Soul Machines 专注于实现人性化的人工智能，并借此打造 Digital People™。其 Human OS™ 平台以反应迅速、可关联且无可挑剔的方式，发挥人机协作的强大功能。Soul Machines 公司是唯一拥有专利数字大脑的企业，基于该数字大脑的数字人可提供逼真的交互体验。该公司与世界上一些业界前沿的品牌合作，致力于通过 AI 改变客户体验。
充分运用强大的内存和性能
2020 年初，当 Soul Machines 决定使用 HP Z8 工作站时，新西兰为了应对新冠病毒 (COVID-19) 肺炎疫情已实施封城措施。该公司将大部分 IT 运维工作转变成通过远程方式来完成，Nejati 的团队不得不等待时机，终于在当年 6 月用上了该工作站。
“在我们现有的计算机中，Z8 的强劲性能可谓傲视群雄，”Nejati 表示，“我们可以使用它运行许多模型，由于这些模型需要大量内存，其他计算机根本无法满足需求。”
他指出 Z8 工作站具有较高配置：2 个至强金牌处理器、高达 3 TB DDR5 ECC 内存、4 个 NVMe M.2 高速数据存储插槽，以及高达 96 GB 的 GPU 内存和 2 块 RTX 8000 显卡。在处理复杂的大型数据集方面，Z8 的英特尔® 傲腾™ DC 持久性内存也是一大优势。
起初，Soul Machines 将 Z8 工作站部署为服务器，并通过手动方式运行。后来，该公司转向使用与 Z8 捆绑的 Nvidia Rapids 软件库套件，以便高效管理资源。Soul Machines 之前在 HP Z8 工作站上训练的较大模型是内部版 Facebook BlenderBot，这是一款开放域聊天机器人，其通过多个来源的在线对话和精心打造的数据集对其进行训练。虽然 BlenderBot 没有其他机器学习模型那么大，但是它也包含 90 亿个参数。
“要在一台计算机上训练该模型是件困难的事情，因为您需要 96 GB 的视频内存来训练该模型。”Nejati 表示，“如果视频内存大小只有 50 GB，便无法完成该工作。”
他表示，以前模型较小时，一个 GPU 就足以满足训练所需。
“现代模型普遍较大，有的模型实例甚至大到需要分散在多个 GPU 上进行训练，如果这些 GPU 可以安装在一台计算机中，这项工作无疑会轻松许多。”Nejati 表示，“如果 GPU 位于不同的计算机上，将会产生软件工程问题。您需要在多个 GPU 中正确分布整个模型，因为模型是按顺序运行的，无法并行运行。”
客户概览
应用
训练机器学习模型和基于 AI 的模型，提供个性化的客户体验
硬件
HP Z8 G4 工作站
有能力更上一层楼
HP Z8 还可帮助 Soul Machines 更有效地使用资源。例如，该公司希望通过 BlenderBot 项目了解如何结合 Soul Machine 的软件推动该技术向前发展。功能强大的 HP Z8 让 Soul Machines 这样的小公司成功做到了这件事。
“拥有一台能够有效推进工作进度而不必处理额外工程任务的计算机至关重要。”Blackett 表示，“否则，我们可能无法顺利完成工作。”
除了训练各种模型，Soul Machines 还使用 HP Z8 执行很多虚拟化任务。
Nejati 说道：“开发这些机器学习模型的一大挑战是，必须能够运行其他人的代码并基于该代码进行构建。”
在本机上运行各种计算机所开发的开源代码可能很困难，而且环境中很容易出现错误。Nejati 表示，虚拟化可提供很大的优势。
“要想更好地完成虚拟化工作，一台像 Z8 这样强大的计算机必不可少。许多我原本以为无法做到的事情，都在虚拟化的协助下成为可能。”
Aiireza Nejati
Soul Machines 高阶研发软件工程师
“您可以在计算机上设置满足所需规格的虚拟机，然后由它运行该代码。”他表示，“您希望尽可能快速地运行各种机器学习模型。HP Z8 可为您提供助力，让您可以像使用本地计算机一样运行虚拟机，这节省了大量时间。”
Soul Machines 也曾尝试在其他工作站上本地运行模型，但是在没有虚拟化的情况下，这些尝试都以失败而告终。
“只有像 Z8 这样功能强大的计算机才能很好地完成虚拟化工作。”Nejati 表示，“许多我原本以为无法做到的事情，都在虚拟化的协助下迎刃而解。”
为了打造无缝的用户体验，需要实现快速、实时的机器学习，即通过少量的训练样本来训练网络，使其变得更会学习。系统能够快速处理即时请求也是一大优势。Soul Machines 团队了解到，将复杂的机器学习任务发送给 HP Z8 比在本地执行这些任务要快得多。
“在我们以前使用的硬件上构建该系统简直是不可能的事情，”Blackett 表示。
随着情报和数据变得愈加复杂，HP Z8 这样的工作站为 Soul Machines 带来了很多机会。在公司发展壮大的过程中，基于模型构建并发现新可能的能力至关重要。
“我确信以后我们还会遇到其他困难，到时我们会需要某种方式来进行调查，评估如何解决困难以顺利开展业务。”Blackett 说道，“如果我们因为没有强大的计算能力而被拒之门外，那么作为一家创业公司，我们将很难取得期望的业务成绩。知道我们有 Z8 这样的工具来帮助处理大型模型，真的非常重要。”
让我们帮助您立即创建出众的业务解决方案
您还可能有兴趣了解以下内容
了解产品
强劲性能来自
英特尔® 至强®
和英特尔® 酷睿™ i9 处理器。
有疑问？
联系销售支持。
不知道该怎么选
Z 系列工作站？
需要 Z 系列工作站方面的支持？
免责声明
4AA7-9918ENW，2021 年 8 月
产品的Logo及位置可能与图片有所差异，不影响产品性能和功能，请以实物为准。
产品图片仅供参考，因不同国家可能存在稍许差异，实际产品以销售为准。
本文所载信息如有变更，恕不另行通知。惠普产品与服务的完整保修条款见此类产品和服务附带的正式保修声明。本文中的任何信息概不构成额外的保修条款。惠普对于本文中所包含的技术或编辑错误或遗漏概不负责。
英特尔、英特尔标志、酷睿和至强是英特尔公司或其子公司在美国和其他国家（地区）的商标或注册商标。Microsoft 和 Windows 是 Microsoft Corporation 在美国和/或其他国家（地区）的注册商标或商标。NVIDIA 和 Quadro 是 NVIDIA Corporation 在美国和其他国家（地区）的商标和/或注册商标。Linux® 是 Linus Torvalds 在美国和其他国家（地区）的注册商标。AMD 是 Advanced Micro Devices, Inc. 的商标。