You need to enable JavaScript to run this app.
导航
启用 ML 服务
最近更新时间:2024.09.26 11:38:08首次发布时间:2024.05.15 11:57:47

伴随着语言大模型的兴起,云搜索服务提供了机器学习功能,您可以在实例中开启 ML 服务,并部署不同的模型服务,以适用于搜索相关性、语义分析、以图搜图、音视频识别、向量搜索等不同业务场景。

注意事项

  • 仅 OpenSearch 实例支持 ML 服务功能。
  • ML 服务资源与 OpenSearch 实例的常规节点彼此独立,与常规的计算资源不互通,仅服务于任务和模型。
  • 启用 ML 服务后,启动任务和模型将占用 ML 服务资源,系统将根据 ML 服务的实际资源使用量进行计费。详细计费详情,请参见计费项说明

前提条件

已提前创建 OpenSearch 2.9.0 版本实例,并获取实例名称。如何创建实例,请参见创建实例

操作步骤

  1. 登录云搜索服务控制台

  2. 在顶部导航栏,选择目标项目和地域。

  3. 在左侧导航栏选择 ML 服务,然后单击创建 ML 服务

  4. 创建 ML 服务对话框,设置 ML 服务名称,选择目标 OpenSearch 实例,然后选择资源类型并配置资源。
    图片

    参数

    配置

    服务名称

    自定义设置 ML 服务名称。

    • 不能以数字、中划线(-)开头。
    • 只能包含中文、字母、数字、下划线(_)和中划线,长度为 1~128 个字符。

    实例名称

    从下拉列表中选择目标 OpenSearch 实例。支持根据实例名称的关键字进行模糊搜索。

    说明

    仅 OpenSearch 实例支持 ML 服务功能。。

    资源类型

    目前支持 CPU 和 GPU 两种资源类型,请按需选择。

    状态

    是否启用 CPU 或 GPU 资源类型。您可以只选择启用 CPU 或 GPU 中的一种,也可以同时启用两种类型。

    注意

    如果您需要在 ML 服务中创建并运行 AI 任务,那么必须启用 CPU 资源类型,否则不能配置 Header 节点资源。

    CPU/内存比例

    当您启用 CPU 资源类型时,需要选择资源比例,即 CPU 和内存的比例。
    目前支持1:21:41:8三种比例,不同比例的价格不相同,以界面显示为准。如需了解计费详情,请参见计费项说明

    GPU 卡类型

    当您启用 GPU 资源类型时,需要选择 GPU 卡类型。
    目前支持L4A10A30三种类型,不同类型的价格不相同,以界面显示为准。如需了解计费详情,请参见计费项说明

    说明

    如果某种 GPU 卡类型呈现灰色,并提示已售罄,请选择其他类型的 GPU 卡。

  5. 完成 ML 服务资源配置后,阅读并勾选相关协议,然后单击确定