Microsoft Foundry 와 Azure OpenAI (이름 변경과 리소스 구조)

이름 변경 정리

Azure 의 AI 플랫폼은 이름이 여러 번 바뀌었습니다. 오래된 문서와 블로그를 읽을 때 아래 표로 맞춰 봅니다.

Azure OpenAI 라는 이름은 사라지지 않았습니다. OpenAI 모델을 Azure 에서 제공하는 서비스로서 계속 쓰이고, 지금은 Microsoft Foundry 의 Foundry Models 안에서 다른 공급자(Microsoft, Anthropic, Meta, Mistral, Cohere 등)의 모델과 함께 배포합니다. 문서에 따르면 카탈로그의 모델은 1만 개가 넘습니다.

리소스 구조

새 Foundry 포털은 GA 입니다. 다만 범위가 정해져 있습니다.

• Foundry 프로젝트의 모델 배포, 에이전트 개발, 운영 핵심 시나리오가 GA 입니다.
• 독립형 Azure OpenAI 리소스와 hub 기반 프로젝트는 새 포털에서 쓸 수 없습니다. Foundry (classic) 포털을 쓰거나, Foundry 리소스로 업그레이드, 마이그레이션합니다.
• 모니터링, 에이전트용 가드레일, 메모리, AI Gateway 같은 일부 기능은 2026-10 기준 Preview 이고, Workflows 는 Preview 상태에서 2026-12-01 Retiring 가 예고되었습니다(대신 Microsoft Agent Framework 권장).

Azure OpenAI 리소스 업그레이드

기존 Azure OpenAI 리소스는 Foundry 리소스로 업그레이드할 수 있고, 엔드포인트, API 키, 기존 배포가 유지된다고 문서는 안내합니다. 새로 시작한다면 처음부터 Foundry 리소스와 프로젝트를 만듭니다.

모델 배포 유형

같은 모델이라도 배포 유형에 따라 처리 위치, 가격, 할당량이 다릅니다.

Global 유형의 데이터 처리는 다른 리전에서 일어날 수 있으므로, 개인정보나 규제 데이터를 다룬다면 처리 위치 요건을 먼저 확인하고 Data Zone 이나 지역 배포를 고릅니다. 특정 모델이 Korea Central 에서 어떤 배포 유형으로 제공되는지는 모델 가용성 표에서 확인해야 하고 자주 바뀝니다.

할당량과 429

• 토큰당 배포는 구독, 리전(또는 Global), 모델, 배포 유형별 TPM(분당 토큰) 할당량을 배포들이 나눠 씁니다. 배포를 만들 때 TPM 을 떼어 주고, 그에 비례해 RPM(분당 요청) 한도도 정해집니다.
• 한도를 넘으면 HTTP 429 와 retry-after 헤더가 옵니다. 지수 백오프로 재시도하고, 큰 요청(max_tokens)을 줄이고, 필요하면 할당량 상향을 요청합니다. 더 자세한 내용은 할당량 오류 문서에 있습니다.
• PTU 는 처리량을 미리 사 두는 방식이라 지연이 일정하지만, 사용률이 100% 를 넘으면 마찬가지로 429 가 돌아옵니다. 비용이 크므로 사용률 메트릭을 보고 크기를 정하고, 넘치는 요청은 Standard 배포로 보내는 구성을 씁니다.

API: v1 경로와 Responses API

새 Foundry 는 매달 바뀌던 api-version 매개 변수 대신 안정적인 v1 경로(/openai/v1/)를 씁니다. 표준 OpenAI SDK 를 그대로 쓸 수 있고, 인증은 Entra 토큰을 권장합니다.

from openai import OpenAI
from azure.identity import DefaultAzureCredential, get_bearer_token_provider

token = get_bearer_token_provider(DefaultAzureCredential(), "https://cognitiveservices.azure.com/.default")
client = OpenAI(
    base_url="https://<foundry-resource>.openai.azure.com/openai/v1/",
    api_key=token(),  # 토큰은 만료되므로 운영에서는 요청마다 새로 받는 래퍼를 씀
)
resp = client.responses.create(model="<배포 이름>", input="Korea Central 의 가용성 영역 수는?")
print(resp.output_text)

model 에는 모델 이름이 아니라 배포 이름을 넣습니다. 에이전트를 만들 때는 azure-ai-projects 2.x SDK 로 프로젝트 엔드포인트 하나에 붙습니다 (Agent Service).

보안과 네트워크

일부 기능(트레이스, 워크플로 에이전트)은 네트워크 격리를 완전히 지원하지 않는다고 문서에 적혀 있으니, 폐쇄망 요건이 있으면 기능별로 확인합니다.

비용 요령

1. 개발은 Global Standard 로 시작하고, 꾸준한 대량 트래픽이 확인되면 PTU 를 검토합니다.
2. 대량 오프라인 작업(분류, 요약)은 Batch 로 돌립니다.
3. 프롬프트 캐시가 되는 모델은 긴 시스템 프롬프트를 앞에 고정해 캐시 적중률을 높입니다.
4. 비용 분석에서 배포별로 나누려면 배포마다 태그 대신 리소스나 프로젝트를 나눕니다.

공식 문서

• What is Microsoft Foundry?
• Microsoft Foundry portal general availability overview
• Upgrade Azure OpenAI to Microsoft Foundry