Apache Pig 操作符¶
Apache Pig 是一个用于分析大规模数据集的平台,由一种用于表达数据分析程序的高级语言以及用于评估这些程序的基础设施组成。Pig 程序能够实现大量并行化,这反过来使其能够处理非常大的数据集。
使用 PigOperator 执行 Pig 脚本。
run_this = PigOperator(
task_id="run_example_pig_script",
pig="ls /;",
pig_opts="-x local",
)