Amazon Comprehend¶

Amazon Comprehend 使用自然语言处理 (NLP) 来提取有关文档内容的见解。它通过识别文档中的实体、关键短语、语言、情绪和其他常见元素来发展见解。

先决条件任务¶

要使用这些操作器，您需要做一些事情

使用 AWS 控制台或 AWS CLI 创建必要的资源。
通过 pip 安装 API 库。
pip install 'apache-airflow[amazon]'
详细信息请参阅 Airflow™ 的安装
设置连接.

通用参数¶

aws_conn_id

对 Amazon Web Services 连接 ID 的引用。如果此参数设置为 None，则使用默认的 boto3 行为，而不进行连接查找。否则，使用存储在连接中的凭据。默认值：aws_default

region_name

AWS 区域名称。如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 region_name。否则，使用指定的值而不是连接值。默认值：None

verify

是否验证 SSL 证书。

False - 不验证 SSL 证书。
path/to/cert/bundle.pem - 要使用的 CA 证书包的文件名。如果要使用与 botocore 使用的 CA 证书包不同的 CA 证书包，则可以指定此参数。

如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 verify。否则，使用指定的值而不是连接值。默认值：None

botocore_config

提供的字典用于构造 botocore.config.Config。此配置可用于配置避免限制异常、超时等。

示例，有关参数的更多详细信息，请查看 botocore.config.Config¶

{
    "signature_version": "unsigned",
    "s3": {
        "us_east_1_regional_endpoint": True,
    },
    "retries": {
      "mode": "standard",
      "max_attempts": 10,
    },
    "connect_timeout": 300,
    "read_timeout": 300,
    "tcp_keepalive": True,
}

如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 config_kwargs。否则，使用指定的值而不是连接值。默认值：None

注意

指定空字典 {} 将覆盖 botocore.config.Config 的连接配置

操作器¶

创建 Amazon Comprehend 开始 PII 实体检测作业¶

要创建 Amazon Comprehend 开始 PII 实体检测作业，您可以使用 ComprehendStartPiiEntitiesDetectionJobOperator。

tests/system/providers/amazon/aws/example_comprehend.py[源代码]

start_pii_entities_detection_job = ComprehendStartPiiEntitiesDetectionJobOperator(
    task_id="start_pii_entities_detection_job",
    input_data_config=input_data_configurations,
    output_data_config=output_data_configurations,
    mode="ONLY_REDACTION",
    data_access_role_arn=test_context[ROLE_ARN_KEY],
    language_code="en",
    start_pii_entities_kwargs=pii_entities_kwargs,
)

创建 Amazon Comprehend 文档分类器¶

要创建 Amazon Comprehend 文档分类器，您可以使用 ComprehendCreateDocumentClassifierOperator。

tests/system/providers/amazon/aws/example_comprehend_document_classifier.py[源代码]

create_document_classifier = ComprehendCreateDocumentClassifierOperator(
    task_id="create_document_classifier",
    document_classifier_name=classifier_name,
    input_data_config=input_data_configurations,
    output_data_config=output_data_configurations,
    mode="MULTI_CLASS",
    data_access_role_arn=test_context[ROLE_ARN_KEY],
    language_code="en",
    document_classifier_kwargs=document_classifier_kwargs,
)

传感器¶

等待 Amazon Comprehend 开始 PII 实体检测作业¶

要等待 Amazon Comprehend 开始 PII 实体检测作业的状态，直到它达到最终状态，您可以使用 ComprehendStartPiiEntitiesDetectionJobCompletedSensor。

tests/system/providers/amazon/aws/example_comprehend.py[源代码]

await_start_pii_entities_detection_job = ComprehendStartPiiEntitiesDetectionJobCompletedSensor(
    task_id="await_start_pii_entities_detection_job", job_id=start_pii_entities_detection_job.output
)

等待 Amazon Comprehend 文档分类器¶

要等待 Amazon Comprehend 文档分类器的状态，直到它达到最终状态，您可以使用 ComprehendCreateDocumentClassifierCompletedSensor。

tests/system/providers/amazon/aws/example_comprehend_document_classifier.py[源代码]

await_create_document_classifier = ComprehendCreateDocumentClassifierCompletedSensor(
    task_id="await_create_document_classifier", document_classifier_arn=create_document_classifier.output
)

参考¶

Amazon Comprehend 的 AWS boto3 库文档