tests.system.amazon.aws.example_hive_to_dynamodb

此 DAG 将无法工作,除非您按照此处的步骤 1-4(含)创建一个运行 Apache Hive 的 Amazon EMR 集群并将数据复制到其中: https://docs.aws.amazon.com/amazondynamodb/latest/developerguide/EMRforDynamoDB.Tutorial.html

属性

DAG_ID

HIVE_CONNECTION_ID_KEY

HIVE_HOSTNAME_KEY

sys_test_context_task

DYNAMODB_TABLE_HASH_KEY

HIVE_SQL

test_context

test_run

函数

create_dynamodb_table(table_name)

get_dynamodb_item_count(table_name)

DynamoDB 表有一个 ItemCount 值,但它每六小时才更新一次。

delete_dynamodb_table(table_name)

configure_hive_connection(connection_id, hostname)

模块内容

tests.system.amazon.aws.example_hive_to_dynamodb.DAG_ID = 'example_hive_to_dynamodb'[source]
tests.system.amazon.aws.example_hive_to_dynamodb.HIVE_CONNECTION_ID_KEY = 'HIVE_CONNECTION_ID'[source]
tests.system.amazon.aws.example_hive_to_dynamodb.HIVE_HOSTNAME_KEY = 'HIVE_HOSTNAME'[source]
tests.system.amazon.aws.example_hive_to_dynamodb.sys_test_context_task[source]
tests.system.amazon.aws.example_hive_to_dynamodb.DYNAMODB_TABLE_HASH_KEY = 'feature_id'[source]
tests.system.amazon.aws.example_hive_to_dynamodb.HIVE_SQL = 'SELECT feature_id, feature_name, feature_class, state_alpha FROM hive_features'[source]
tests.system.amazon.aws.example_hive_to_dynamodb.create_dynamodb_table(table_name)[source]
tests.system.amazon.aws.example_hive_to_dynamodb.get_dynamodb_item_count(table_name)[source]

DynamoDB 表有一个 ItemCount 值,但它每六小时才更新一次。为了验证此 DAG 是否工作,我们将手动扫描表并计算项目数。

tests.system.amazon.aws.example_hive_to_dynamodb.delete_dynamodb_table(table_name)[source]
tests.system.amazon.aws.example_hive_to_dynamodb.configure_hive_connection(connection_id, hostname)[source]
tests.system.amazon.aws.example_hive_to_dynamodb.test_context[source]
tests.system.amazon.aws.example_hive_to_dynamodb.test_run[source]

此条目有帮助吗?