- Impression
Intégration AWS - Récupérer toutes les tables Tulip dans une fonction Lambda
Rationaliser l'extraction des données de Tulip vers AWS pour élargir les possibilités d'analyse et d'intégration.
Objectif
Ce guide explique étape par étape comment récupérer toutes les données de Tulip Tables sur AWS via une fonction Lambda.
Cela va au-delà de la requête de base de récupération et itère à travers toutes les tables dans une instance donnée ; cela peut être utile pour un travail ETL hebdomadaire (Extraire, Transformer, Charger).
La fonction Lambda peut être déclenchée par l'intermédiaire de diverses ressources telles que des minuteries Event Bridge ou une passerelle API.
Un exemple d'architecture est présenté ci-dessous :
Configuration
Cet exemple d'intégration nécessite les éléments suivants
- Utilisation de l'API Tulip Tables (Obtenir la clé API et le secret dans les paramètres du compte)
- Tulip Table (Obtenir l'ID unique de la table)
Étapes de haut niveau : 1. Créer une fonction AWS Lambda avec le déclencheur approprié (API Gateway, Event Bridge Timer, etc.) 2. Récupérer les données de la table Tulip avec l'exemple ci-dessous ``python import json import pandas as pd import requests from sqlalchemy import create_engine import os
def lambda_handler(event, context) : # initialize db host = os.getenv('host') user = os.getenv('username') password = os.getenv('password') db = os.getenv('database')