描述 #

视频关键帧抽取处理器，支持多算法动态检测。

核心功能 #

• 多算法支持：
  • 像素差分法(difference)
  • 光流法(optical_flow)
  • 直方图法(histogram)
  • I型关键帧标识(I_frame)
• 支持自定义阈值与数量控制
• 提供时间戳定位功能
• 支持多种输出格式与存储选项

格式支持 #

• 输入：MP4, AVI, MOV 等常见视频格式
• 输出：JPG, PNG 图片格式

性能建议 #

• I_frame 方法效率最高，推荐优先使用

算子参数 #

输入 #

输出 #

处理后的数组，结构体字段包括：

• keyframes: list[list[list[list[int]]]]，关键帧图片的 array 格式
• base64: list[str]，关键帧图片的 base64 编码
• timestamps: list[float]，关键帧对应的时间戳（单位：秒）
• tos_paths: list[str]，关键帧在 TOS 上的存储路径

参数 #

如参数没有默认值，则为必填参数

调用示例 #

下面的代码展示了如何使用 Daft（适用于分布式）运行算子抽取视频关键帧。

from __future__ import annotations

import os

import daft
from daft import col
from daft.las.functions.udf import las_udf
from daft.las.functions.video import VideoKeyframes

if __name__ == "__main__":

    # 更改完抽取的关键帧会保存到指定的TOS路径下，因此，需要设置好环境变量以保证有权限写入TOS，包括：ACCESS_KEY,SECRET_KEY,TOS_ENDPOINT,TOS_REGION,TOS_TEST_DIR
    TOS_DIR = os.getenv("TOS_TEST_DIR", "tos_bucket")
    output_tos_dir = f"tos://{TOS_DIR}/video/video_keyframes"
    
    if os.getenv("DAFT_RUNNER", "native") == "ray":
        import logging

        import ray

        def configure_logging():
            logging.basicConfig(
                level=logging.INFO,
                format="%(asctime)s - %(name)s - %(levelname)s - %(message)s",
                datefmt="%Y-%m-%d %H:%M:%S.%s".format(),
            )
            logging.getLogger("tracing.span").setLevel(logging.WARNING)
            logging.getLogger("daft_io.stats").setLevel(logging.WARNING)
            logging.getLogger("DaftStatisticsManager").setLevel(logging.WARNING)
            logging.getLogger("DaftFlotillaScheduler").setLevel(logging.WARNING)
            logging.getLogger("DaftFlotillaDispatcher").setLevel(logging.WARNING)

        ray.init(dashboard_host="0.0.0.0", runtime_env={"worker_process_setup_hook": configure_logging})
        daft.context.set_runner_ray()
    daft.set_execution_config(actor_udf_ready_timeout=600)
    daft.set_execution_config(min_cpu_per_task=0)

    # 使用环境变量构建URL
    tos_dir_url = os.getenv("TOS_DIR_URL", "las-cn-beijing-public-online.tos-cn-beijing.volces.com")
    samples = {
        "video_path": [
            f"https://{tos_dir_url}/public/shared_video_dataset/sample.mp4"
        ]
    }

    ds = daft.from_pydict(samples)

    extractor = las_udf(
        VideoKeyframes,
        construct_args={
            "method": "I_frame",
            "keyframes_cnt": 5,
            "output_tos_dir": output_tos_dir,
        },
    )

    # 使用 Daft 进行分布式处理
    ds = ds.with_column("results", extractor(col("video_path")))

    ds.show()
    # ╭────────────────────────────────┬────────────────────────────────────────────────────────────────────────────────────────────────────────────╮
    # │ video_path                     ┆ results                                                                                                    │
    # │ ---                            ┆ ---                                                                                                        │
    # │ Utf8                           ┆ Struct[keyframes: List[List[List[List[Int64]]]], base64: List[Utf8], timestamps: List[Float64], tos_paths: │
    # │                                ┆ List[Utf8]]                                                                                                │
    # ╞════════════════════════════════╪════════════════════════════════════════════════════════════════════════════════════════════════════════════╡
    # │ https://las-cn-beijing-publi-…  ┆ {keyframes: [[[[9, 17, 16], […                                                                             │
    # ╰────────────────────────────────┴────────────────────────────────────────────────────────────────────────────────────────────────────────────╯