tests.system.amazon.aws.example_hive_to_dynamodb
此 DAG 将无法工作,除非您按照此处的步骤 1-4(含)创建一个运行 Apache Hive 的 Amazon EMR 集群并将数据复制到其中: https://docs.aws.amazon.com/amazondynamodb/latest/developerguide/EMRforDynamoDB.Tutorial.html
模块内容
-
tests.system.amazon.aws.example_hive_to_dynamodb.DAG_ID = 'example_hive_to_dynamodb'[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.HIVE_CONNECTION_ID_KEY = 'HIVE_CONNECTION_ID'[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.HIVE_HOSTNAME_KEY = 'HIVE_HOSTNAME'[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.sys_test_context_task[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.DYNAMODB_TABLE_HASH_KEY = 'feature_id'[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.HIVE_SQL = 'SELECT feature_id, feature_name, feature_class, state_alpha FROM hive_features'[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.create_dynamodb_table(table_name)[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.get_dynamodb_item_count(table_name)[source]
DynamoDB 表有一个 ItemCount 值,但它每六小时才更新一次。为了验证此 DAG 是否工作,我们将手动扫描表并计算项目数。
-
tests.system.amazon.aws.example_hive_to_dynamodb.delete_dynamodb_table(table_name)[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.configure_hive_connection(connection_id, hostname)[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.test_context[source]
-
tests.system.amazon.aws.example_hive_to_dynamodb.test_run[source]