描述 #

基于 DeepSeek-R1 模型的深度思考能力
使用具备深度思考能力的 DeepSeek-R1 模型对文本进行分析理解，并返回结构化输出。模型在回答问题前，会进行问题分析与拆解，并基于此生成回答。

核心功能 #

• 深度思考机制：模型在回答问题前自动进行问题拆解和逻辑推理，生成思维链（reasoning_content），提升回答的全面性和深入性。
• 纯文本输入：此算子变体专为文本任务设计，仅支持 texts 列输入。
• 灵活的思考模式：支持通过 thinking_type 参数控制深度思考模式（enabled / disabled / auto），在回答质量与性能之间灵活权衡。

输入输出规范 #

• 输入格式：
  • texts (文本)：string 或 list 类型，作为用户输入的问题或提示词。
• 输出格式：
  • 默认模式：返回 struct 类型，包含：
    • llm_result：模型生成的最终回答。
    • reasoning_content：模型的思维链或推理过程。
  • 诊断与溯源模式：
    • 当设置环境变量 LAS_LLM_FINISH_REASON_CHECK=true 时，struct 中额外包含 finish_reason 字段，用于判断输出终止原因（如 stop, length）。
    • 当设置环境变量 LAS_LLM_BOTS_REFERENCES=true 时，struct 中额外包含 references 字段（JSON 字符串），用于携带模型引用的外部知识信息。

版本兼容性说明 #

该算子（ArkLLMThinkingVision）在 Daft 0.6.5（及其以下版本），使用方式与 0.6.14 版本（及其以上版本）不相同。

• 在 Daft 0.6.14 及其以上版本中，输入时可以指定 images、texts、 videos 字段，分别对应模型的图片、文本、视频输入，支持同时输入。下面是一个示例：

df = df.with_column(

        "llm_result",

        las_udf(

            ArkLLMThinkingVision,

            construct_args={

                "model": "deepseek-r1",

                "system_text": "你是一个专业的旅行规划助手。",

                "inference_type": "online",

            },

        )(texts=col("query")),

    )

• 在 Daft 0.6.5 及其以下版本中，输入时只支持传入视频或图片，不支持同时传入视频和图片，通过multimodal_type指定输入类型，multimodal_type支持传入 "video" 和 "image"、"text"。同时也支持通过指定prompt传入文本信息。下面是一个示例：

df = df.with_column(

        "llm_result",

        las_udf(

            ArkLLMThinkingVision,

            construct_args={

                "model": "deepseek-r1",

                "multimodal_type": "text", 

                "inference_type": "online",

            },

        )(col("query")),

    )

算子参数 #

输入 #

输出 #

默认情况下，返回字段类型为 struct，包含以下字段：

• llm_result: 模型输出的最终回答内容。
• reasoning_content: 模型输出的思维链内容（推理过程）。

当设置相应环境变量时，返回的 struct 中会额外包含以下字段：

• finish_reason (当 LAS_LLM_FINISH_REASON_CHECK=true 时)：模型输出结束原因，常见取值包括 stop（正常终止）、length（达到长度上限）、content_filter（命中内容过滤策略）。
• references (当 LAS_LLM_BOTS_REFERENCES=true 时)：JSON 字符串形式的引用信息，用于承载模型引用的外部知识。

参数 #

如参数没有默认值，则为必填参数

调用示例 #

下面的代码展示了如何使用 ArkLLMThinkingVision.Deepseek-R1 算子进行文本深度思考。

from __future__ import annotations

import os

import daft
from daft import col
from daft.las.functions.ark_llm.ark_llm_thinking_vision import ArkLLMThinkingVision
from daft.las.functions.udf import las_udf

if os.getenv("DAFT_RUNNER", "native") == "ray":
    import logging

    import ray

    def configure_logging():
        logging.basicConfig(
            level=logging.INFO,
            format="%(asctime)s - %(name)s - %(levelname)s - %(message)s",
            datefmt="%Y-%m-%d %H:%M:%S.%s".format(),
        )
        logging.getLogger("tracing.span").setLevel(logging.WARNING)
        logging.getLogger("daft_io.stats").setLevel(logging.WARNING)
        logging.getLogger("DaftStatisticsManager").setLevel(logging.WARNING)
        logging.getLogger("DaftFlotillaScheduler").setLevel(logging.WARNING)
        logging.getLogger("DaftFlotillaDispatcher").setLevel(logging.WARNING)

    ray.init(dashboard_host="0.0.0.0", runtime_env={"worker_process_setup_hook": configure_logging})
    daft.context.set_runner_ray()

daft.set_execution_config(min_cpu_per_task=0)

if __name__ == "__main__":
    # 需配置环境变量 LAS_API_KEY ： LAS_API_KEY 通过在 LAS 服务页面上创建获取
    queries = {"query": ["帮我规划5月去新疆的10天旅行安排"]}

    df = daft.from_pydict(queries)
    df = df.with_column(
        "llm_result",
        las_udf(
            ArkLLMThinkingVision,
            construct_args={
                "model": "deepseek-r1",
                "system_text": "你是一个专业的旅行规划助手。",
                "inference_type": "online",
            },
        )(texts=col("query")),
    )

    df = df.with_column("reasoning_content", col("llm_result").struct.get("reasoning_content"))
    df = df.with_column("llm_result", col("llm_result").struct.get("llm_result"))
    df.show()

    # 输出 (每次大模型推理结果可能不同)
    # +------------------------------------+--------------------------------------------------+--------------------------------------------------------------------+
    # | query                              | llm_result                                       | reasoning_content                                                  |
    # | Utf8                               | Utf8                                             | Utf8                                                               |
    # +====================================+==================================================+====================================================================+
    # | 帮我规划5月去新疆的10天旅行安排    | 以下是为你规划的5月新疆10天旅行安排，主打北疆... | 好的，用户让我帮忙规划一个5月份去新疆的10天旅行安排。首...         |
    # +------------------------------------+--------------------------------------------------+--------------------------------------------------------------------+