算子ID：daft.las.functions.video.video_adaptive_keyframes_sampling.VideoAdaptiveKeyframesSampling

描述 #

视频自适应关键帧抽取处理器，基于CLIP和自适应算法进行智能抽帧。

核心功能： #

• 语义理解：基于CLIP模型计算视频帧与文本描述的相似度，智能选择代表性关键帧。
• 多格式支持：兼容本地路径/URL、base64编码和二进制流输入。
• 高效处理：支持批量推理和分布式计算，大幅提升处理速度。
• 灵活配置：可自定义CLIP模型和推理精度，满足不同场景需求。

应用场景： #

• 视频内容摘要、视频检索、视频分析、多媒体内容管理。

算子参数 #

输入 #

输出 #

包含关键帧信息的结构体数组，每个元素包含：

• tos_paths: 关键帧图片的 TOS 路径列表
• frame_ids: 关键帧的原始帧索引列表
• scores: 关键帧的语义相似度分数列表

参数 #

如参数没有默认值，则为必填参数

调用示例 #

下面的代码展示了如何使用 Daft（适用于分布式）运行算子进行视频自适应关键帧抽取。

from __future__ import annotations

import os

import daft
from daft import col
from daft.las.functions.udf import las_udf
from daft.las.functions.video.video_adaptive_keyframes_sampling import VideoAdaptiveKeyframesSampling

if __name__ == "__main__":
    # 抽取的关键帧会保存到指定的 TOS 路径下，因此，需要设置好环境变量以保证有权限写入 TOS，包括：ACCESS_KEY,SECRET_KEY,TOS_ENDPOINT,TOS_REGION,TOS_TEST_DIR
    TOS_TEST_DIR = os.getenv("TOS_TEST_DIR", "your-bucket")
    output_tos_dir = f"tos://{TOS_TEST_DIR}/video_adaptive_keyframes_sampling"
    
    if os.getenv("DAFT_RUNNER", "native") == "ray":
        import logging

        import ray

        def configure_logging():
            logging.basicConfig(
                level=logging.INFO,
                format="%(asctime)s - %(name)s - %(levelname)s - %(message)s",
                datefmt="%Y-%m-%d %H:%M:%S",
            )
            logging.getLogger("tracing.span").setLevel(logging.WARNING)
            logging.getLogger("daft_io.stats").setLevel(logging.WARNING)
            logging.getLogger("DaftStatisticsManager").setLevel(logging.WARNING)
            logging.getLogger("DaftFlotillaScheduler").setLevel(logging.WARNING)
            logging.getLogger("DaftFlotillaDispatcher").setLevel(logging.WARNING)

        ray.init(dashboard_host="0.0.0.0", runtime_env={"worker_process_setup_hook": configure_logging})
        daft.set_runner_ray()
    daft.set_execution_config(actor_udf_ready_timeout=600)
    daft.set_execution_config(min_cpu_per_task=0)

    # 使用环境变量构建 URL
    tos_dir_url = os.getenv("TOS_DIR_URL", "las-cn-beijing-public-online.tos-cn-beijing.volces.com")
    samples = {
        "video": [
            f"https://{tos_dir_url}/public/shared_video_dataset/cooking.mp4"
        ]
    }

    ds = daft.from_pydict(samples)

    keyframe_sampler = las_udf(
        VideoAdaptiveKeyframesSampling,
        construct_args={
            "text": "spoon",
            "output_tos_dir": output_tos_dir,
            "max_num_frames": 4,
            "fps": 2.0,
            "batch_size": 16,
            "rank": 0,
            "return_keyframes": True,
            "img_type": ".jpg", 
        },
        num_gpus=1,
        concurrency=1,
        batch_size=1,
    )

    # 使用 Daft 进行分布式处理
    ds = ds.with_column("keyframes", keyframe_sampler(col("video")))

    ds.show()
    # ╭────────────────────────────────┬───────────────────────────────────────────────────────────────────────────────╮
    # │ video                          ┆  keyframes                                                                    │
    # │ ---                            ┆ ---                                                                           │
    # │ Utf8                           ┆ Struct[tos_paths: List[Utf8], frame_ids: List[Int64], scores: List[Float32]]  │
    # ╞════════════════════════════════╪═══════════════════════════════════════════════════════════════════════════════╡
    # │ https://las-cn-beijing-publi-… ┆  {tos_paths: [las-cn-beijing…, ...], frame_ids: [123, ...], scores: [...]}    │
    # ╰────────────────────────────────┴───────────────────────────────────────────────────────────────────────────────╯