데이터베이스와 분석
Microsoft Fabric, OneLake, Data Factory, Event Hubs, Databricks (분석 플랫폼 고르기)
SaaS 분석 플랫폼 Microsoft Fabric 의 용량(F SKU)과 작업 영역, OneLake 와 바로 가기, 미러링, Fabric 안의 Data Factory 와 Azure Data Factory 의 차이, 스트리밍 수집의 Event Hubs, 그리고 Azure Databricks 를 언제 고르는지 정리합니다.
지도부터
| 서비스 | 형태 | 핵심 역할 |
|---|---|---|
| Microsoft Fabric | SaaS (용량 구매) | 레이크하우스, 웨어하우스, 파이프라인, 실시간 분석, Power BI 를 한 곳에 |
| OneLake | Fabric 에 포함 | 테넌트당 하나인 논리 데이터 레이크. 기본 형식 Delta Parquet |
| Data Factory (Fabric 안) | Fabric 항목 | 파이프라인, Dataflow Gen2, 복사 작업 |
| Azure Data Factory | Azure PaaS | 독립형 데이터 통합. 기존 ETL, 자체 호스팅 런타임 |
| Event Hubs | Azure PaaS | 초당 수백만 이벤트 수집. Kafka 호환 엔드포인트 |
| Azure Databricks | Azure 퍼스트 파티 서비스 | Spark, Delta Lake, Unity Catalog 기반 데이터, AI 플랫폼 |
Microsoft Fabric
Fabric 은 용량(capacity) 을 사서 그 위에 작업 영역(workspace)을 붙여 씁니다. 용량은 F2 부터 F2048 까지 크기가 있고, 모든 워크로드(Spark, SQL, 파이프라인, Power BI, 실시간 인텔리전스)가 같은 용량 단위(CU)를 나눠 씁니다.
- 종량제 용량은 Azure 포털에서 만들고 일시 중지, 재개할 수 있습니다. 일시 중지하면 컴퓨트 요금이 멈추고 OneLake 저장소 요금은 계속 나옵니다.
- 예약 용량으로 1년 약정 할인을 받을 수 있습니다.
- 순간적으로 용량을 넘는 작업은 버스팅과 평활화(smoothing) 로 이후 시간에 나눠 정산됩니다. 계속 넘으면 제한(throttling)이 걸려 대화형 작업이 지연되거나 거부되므로, Fabric Capacity Metrics 앱으로 사용률을 봅니다.
- Power BI 콘텐츠를 무료 사용자가 보려면 F64 이상 용량이 필요하다는 라이선스 규칙이 있으니, 보고서 공유가 목적이면 크기 선택 때 같이 봅니다.
주요 항목
| 항목 | 설명 |
|---|---|
| 레이크하우스 | Delta 테이블과 파일. Spark 노트북, SQL 분석 엔드포인트(읽기 전용 T-SQL) |
| 웨어하우스 | T-SQL 로 읽고 쓰는 웨어하우스. 저장은 OneLake 의 Delta |
| 이벤트하우스, Eventstream | 실시간 수집과 KQL 분석 (Real-Time Intelligence) |
| 의미 체계 모델, 보고서 | Power BI. Direct Lake 모드로 OneLake 를 복사 없이 읽음 |
| SQL database in Fabric, Cosmos DB in Fabric | Fabric 안의 운영 DB (Ignite 2025 에 GA 발표) |
OneLake
OneLake 는 테넌트 전체에 하나뿐인 레이크입니다. 작업 영역과 항목이 폴더처럼 들어가고, ADLS Gen2 와 같은 API(abfss://)로 접근할 수 있습니다.
- 바로 가기(shortcut): ADLS Gen2, Amazon S3, Google Cloud Storage, 다른 작업 영역의 데이터를 복사 없이 OneLake 경로로 보이게 합니다.
- 미러링(mirroring): Azure SQL Database, Cosmos DB, PostgreSQL, Snowflake 같은 원본을 거의 실시간으로 OneLake 의 Delta 테이블로 복제합니다. 운영 DB 에 분석 부하를 주지 않고 분석할 수 있습니다.
- 보안은 작업 영역 역할(Admin, Member, Contributor, Viewer)과 항목 권한, OneLake 보안 역할로 겹쳐 적용됩니다.
Data Factory: Fabric 안과 밖
| Fabric 의 Data Factory | Azure Data Factory | |
|---|---|---|
| 과금 | Fabric 용량 | 활동, 데이터 이동 단위 종량제 |
| 변환 | Dataflow Gen2 (Power Query), 노트북 | 매핑 데이터 흐름 (Spark) |
| 온프레미스 연결 | 온프레미스 데이터 게이트웨이 | 자체 호스팅 통합 런타임 |
| 맞는 경우 | 목적지가 OneLake, Fabric 중심 분석 | 기존 ADF 자산, Fabric 을 쓰지 않는 통합 |
새 분석 플랫폼을 Fabric 으로 정했다면 파이프라인도 Fabric 안에서 만드는 것이 관리가 쉽습니다. 기존 ADF 파이프라인은 그대로 운영하면서 점진적으로 옮길 수 있습니다.
Event Hubs
스트리밍 수집의 입구입니다. 생산자는 이벤트를 보내고, 소비자 그룹별로 각자 읽습니다.
| 계층 | 보존 | 특징 |
|---|---|---|
| Basic | 1일 | 소비자 그룹 1개, Kafka 미지원 |
| Standard | 최대 7일 | 처리량 단위(TU), Kafka 엔드포인트, Capture |
| Premium | 최대 90일 | 처리 단위(PU), 격리, 더 큰 파티션 수 |
| Dedicated | 최대 90일 | 단일 테넌트 클러스터 |
- 처리량 단위 하나는 초당 1 MB(또는 1,000 이벤트) 수신, 2 MB 송신입니다. 자동 팽창(auto-inflate) 으로 TU 를 자동으로 늘립니다.
- 파티션 수가 소비 병렬도의 상한입니다. Standard 에서는 만든 뒤 늘릴 수 없으니 넉넉히 잡습니다.
- Kafka 클라이언트를 코드 수정 없이
<네임스페이스>.servicebus.windows.net:9093으로 붙일 수 있습니다. - Capture 로 들어온 이벤트를 ADLS Gen2 에 Avro, Parquet 로 자동 저장하고, Fabric Eventstream 이나 Stream Analytics 로 실시간 처리합니다.
Azure Databricks
Azure Databricks 는 Microsoft 가 Databricks 와 함께 운영하는 퍼스트 파티 서비스입니다. 청구는 Azure 구독으로 오고, Entra ID, VNet 주입, Private Link 와 통합됩니다.
- 대규모 Spark 엔지니어링, MLOps, Unity Catalog 기반의 세밀한 거버넌스, 멀티 클라우드 일관성이 중요하면 Databricks 가 강합니다.
- Fabric 과 둘 중 하나를 고르기보다 같이 쓰는 경우도 많습니다. Databricks 가 Delta 로 쓴 테이블을 OneLake 바로 가기로 읽거나, Unity Catalog 를 Fabric 에 미러링해 Power BI 의 Direct Lake 로 보고서를 만듭니다.
- Databricks 자체의 깊은 내용은 형제 사이트 Databricks 지식 창고에 정리되어 있습니다.
고르는 기준
| 상황 | 추천 |
|---|---|
| Power BI 중심, 데이터 팀이 작고 SaaS 를 원함 | Fabric |
| 대규모 Spark 엔지니어링, ML 플랫폼, 여러 클라우드 | Azure Databricks (+ Fabric 은 BI 계층) |
| 실시간 이벤트 수집 | Event Hubs + Fabric Real-Time Intelligence 또는 Databricks 스트리밍 |
| 기존 SQL Server 기반 DW 이전 | Fabric 웨어하우스 |
| 기존 ADF 파이프라인이 많음 | ADF 유지, 새 작업부터 Fabric |
2025~2026 흐름
- Ignite 2025 에서 Fabric IQ 가 Preview 로 발표되었습니다. 비즈니스 개념(온톨로지)을 정의해 에이전트가 데이터를 이해하게 하는 계층이고, Build 2026 시점에도 Preview 입니다.
- 같은 행사에서 SQL database in Fabric 과 Cosmos DB in Fabric 이 GA 로 발표되어, 운영 DB 와 분석을 Fabric 한 곳에서 다룰 수 있게 되었습니다.
- 자격증은 Fabric 중심으로 바뀌었습니다. DP-203(Azure Data Engineer)은 2025-03-31 에 퇴역했고, 데이터 엔지니어는 DP-700 을 봅니다 (자격증).