文档格式转换处理器,支持多种办公文档格式互转
输入列名 | 说明 |
|---|---|
files | 输入文件路径,支持 tos 与 https 路径 |
输出文件路径,仅支持 tos 路径
如参数没有默认值,则为必填参数
参数名称 | 类型 | 默认值 | 描述 |
|---|---|---|---|
target_format | str | 目标格式,必填,支持 pdf/odt/html/txt/docx | |
output_dir | str | 输出路径,必填,可以是本地路径或 TOS/S3 路径 | |
convert_time_out | int | 60 | 转换超时时间,单位为秒 默认值:60 |
下面的代码展示了如何使用 Daft(适用于分布式)执行 docx 转 pdf。
# Copyright (c) Beijing Volcano Engine Technology Ltd. from __future__ import annotations import os import daft from daft import col from daft.las.functions.doc import DocConvert from daft.las.functions.udf import las_udf if __name__ == "__main__": # 更改完转换的文档会保存到指定的TOS路径下,因此,需要设置好环境变量以保证有权限写入TOS,包括:ACCESS_KEY,SECRET_KEY,TOS_ENDPOINT,TOS_REGION,TOS_TEST_DIR TOS_DIR = os.getenv("TOS_TEST_DIR", "tos_bucket") output_dir = f"tos://{TOS_DIR}/doc/doc_convert" if os.getenv("DAFT_RUNNER", "native") == "ray": import logging import ray def configure_logging(): logging.basicConfig( level=logging.INFO, format="%(asctime)s - %(name)s - %(levelname)s - %(message)s", datefmt="%Y-%m-%d %H:%M:%S.%s".format(), ) logging.getLogger("tracing.span").setLevel(logging.WARNING) logging.getLogger("daft_io.stats").setLevel(logging.WARNING) logging.getLogger("DaftStatisticsManager").setLevel(logging.WARNING) logging.getLogger("DaftFlotillaScheduler").setLevel(logging.WARNING) logging.getLogger("DaftFlotillaDispatcher").setLevel(logging.WARNING) ray.init(dashboard_host="0.0.0.0", runtime_env={"worker_process_setup_hook": configure_logging}) daft.context.set_runner_ray() daft.set_execution_config(actor_udf_ready_timeout=600) daft.set_execution_config(min_cpu_per_task=0) tos_dir_url = os.getenv("TOS_DIR_URL", "las-cn-beijing-public-online.tos-cn-beijing.volces.com") samples = { "docx": [ f"https://{tos_dir_url}/public/shared_doc_dataset/sample.docx" ], } df = daft.from_pydict(samples) constructor_kwargs = {"target_format": "pdf", "output_dir": output_dir} # 使用 Daft 进行分布式处理 df = df.with_column( "pdf", las_udf(DocConvert, construct_args=constructor_kwargs, concurrency=1)(col("docx")), ) df.show() # ╭──────────────────────────────────────────────┬──────────────────────────────────────────────╮ # │ docx ┆ pdf │ # │ --- ┆ --- │ # │ Utf8 ┆ Utf8 │ # ╞══════════════════════════════════════════════╪══════════════════════════════════════════════╡ # │ https://las-cn-beijing-publi-… ┆ tos://tos_bucket/doc/doc_convert/sample.pdf │ # ╰──────────────────────────────────────────────┴──────────────────────────────────────────────╯