AWS 통합 - Tulip 테이블에서 데이터 가져오기
  • 21 Oct 2024
  • 1 읽을 분
  • 기여자

AWS 통합 - Tulip 테이블에서 데이터 가져오기


기사 요약

더 광범위한 분석 및 통합 기회를 위해 Tulip에서 AWS로 데이터 가져오기 간소화

목적

이 가이드에서는 람다 함수를 통해 Tulip 테이블 데이터를 AWS로 가져오는 방법을 단계별로 안내합니다.

람다 함수는 이벤트 브리지 타이머 또는 API 게이트웨이와 같은 다양한 리소스를 통해 트리거할 수 있습니다.

아키텍처 예시는 다음과 같습니다:

image

API 게이트웨이와 람다 함수를 사용하면 Tulip 측에서 사용자 이름과 비밀번호로 데이터베이스를 인증할 필요 없이 AWS 내부의 IAM 인증 방법을 사용할 수 있기 때문에 람다 함수 내에서 AWS 작업을 수행하는 것이 더 쉬워질 수 있습니다. 또한 Redshift, DynamoDB 등과 같은 다른 AWS 서비스를 활용하는 방법도 간소화됩니다.

설정

이 예제 연동에는 다음이 필요합니다:

  • 튤립 테이블 API 사용(계정 설정에서 API 키 및 비밀번호 가져오기)
  • 튤립 테이블(테이블 고유 ID 가져오기

상위 단계: 1. 관련 트리거(API 게이트웨이, 이벤트 브리지 타이머 등)가 있는 AWS Lambda 함수 생성 2. 아래 예제```pythonimport jsonimport pandas as pdimport numpy as npimport 요청으로 Tulip 테이블 데이터 가져오기``를 사용하여 Tulip 테이블 데이터 가져오기

# 참고 AWS의 pandas 레이어는 다음이 필요합니다.

# 를 람다 함수에 추가해야 합니다.

def lambda_handler(event, context): auth_header = OBTAIN FROM API AUTH header = {'Authorization' : auth_header} base_url = 'https://[INSTANCE].tulip.co/api/v3' offset = 0 function = f'/tables/[TABLE_ID]/records?limit=100&offset={offset}&includeTotalCount=false&filterAggregator=all' r = requests.get(base_url+function, headers=header) df = pd.DataFrame(r.json()) length = len(r.json()) while length > 0: offset += 100 function = f'/tables/[TABLE_ID]/records?limit=100&offset{offset}&includeTotalCount=false&filterAggregator=all' r = requests.get(base_url+function, headers=cdm_header) length = len(r.json()) df_append = pd.DataFrame(r.json()) df = pd.concat([df, df_append], axis=0) df.shape # 이것은 데이터 프레임에 100개의 기록을 추가한 다음 S3, Firehose 등에 사용할 수 있게 합니다. # 데이터 변수를 사용하여 S3, Firehose 등에 쓸 수 있습니다,
# 데이터베이스 등에 쓰기 위해 데이터 변수를 사용합니다.

  1. 트리거는 타이머로 실행하거나 URL을 통해 트리거할 수 있습니다.
  2. 아래 이미지에 필요한 Pandas 레이어를 참고하세요image.png
  3. 마지막으로 필요한 연동 기능을 추가합니다. 데이터베이스, S3 또는 람다 함수에서 알림 서비스에 데이터를 쓸 수 있습니다.

사용 사례 및 다음 단계

lambda와의 통합을 완료한 후에는 새그메이커 노트북, QuickSight 또는 기타 다양한 도구를 사용하여 데이터를 쉽게 분석할 수 있습니다.

1. 결함 예측 - 생산 결함이 발생하기 전에 미리 파악하여 개선하기 위한 핵심 생산 동인을 파악합니다.

2. 품질 최적화 비용- 고객 만족도에 영향을 주지 않고 제품 설계를 최적화할 수 있는 기회 파악

3. 생산 에너지 최적화- 에너지 소비 최적화를 위한 생산 레버 식별

4. 납기 및 계획 예측 및 최적화- 고객 수요 및 실시간 주문 일정에 따라 생산 일정 최적화

5. 글로벌 기계/라인 벤치마킹- 유사 기계 또는 장비의 표준화를 통한 벤치마킹

6. 글로벌/지역별 디지털 성과 관리- 통합된 데이터로 실시간 대시보드 생성


이 문서가 도움이 되었습니까?