No. 62

AI 비용 통제 · 컴퓨트 확보 · 에이전트 보안

AI 경쟁의 초점이 모델 발표에서 컴퓨트 확보, 비용 통제, 에이전트 보안으로 이동하고 있습니다.

오늘의 핵심

오늘의 흐름은 “AI를 많이 쓰기 시작한 뒤 드러나는 운영 비용”입니다. 구글은 수요 폭증에 대응하기 위해 SpaceX에서 대규모 GPU 용량을 빌리고, 기업들은 토큰 비용을 클라우드 비용처럼 관리해야 하는 단계로 들어섰습니다. 동시에 에이전트가 보안, 디자인, 개발 워크플로 깊숙이 들어가면서 비용, 권한, 검증, 네트워크 격리가 모두 제품 경쟁력의 일부가 되고 있습니다.

구글, SpaceX에서 월 9억 2,000만 달러 규모 AI 컴퓨트 확보

TechCrunch는 구글이 SpaceX와 2026년 10월부터 2029년 6월까지 월 9억 2,000만 달러를 지불하는 컴퓨트 계약을 맺었다고 보도했습니다. 계약 대상은 약 11만 개 NVIDIA GPU와 CPU, 메모리 등으로, 구글은 Gemini Enterprise 수요가 예상보다 커졌기 때문이라고 설명했습니다.

  • 브리지 용량: 구글은 자체 TPU와 대규모 데이터센터를 보유하고도 단기 수요 대응을 위해 외부 GPU 용량을 사들이고 있습니다.
  • SpaceX의 포지션: Anthropic과의 대형 계약에 이어 구글 계약까지 확보하면서 SpaceX는 우주·통신 기업을 넘어 AI 컴퓨트 공급자 역할을 강화하고 있습니다.
  • 계약 리스크: 양사는 일정 조건 아래 90일 통지로 계약을 해지할 수 있고, GPU 제공량이 목표에 못 미치면 수수료 조정 또는 즉시 해지가 가능합니다.
📢 AI 플랫폼 경쟁은 모델 성능만이 아니라, 급증하는 고객 수요를 버틸 수 있는 단기 컴퓨트 조달 능력까지 포함합니다.

출처: Google will pay SpaceX $920M per month for compute — TechCrunch

AI 토큰 비용, 기업 IT 예산의 새 통제 과제로 부상

TechCrunch는 기업들이 AI 도입 후 토큰 지출을 추적하고 통제하는 데 어려움을 겪고 있다고 분석했습니다. Uber, Microsoft, Priceline 사례처럼 AI 코딩 도구와 에이전트 사용량이 빠르게 늘면서, “얼마나 잘 쓰는가”보다 “어디에 얼마를 쓰는가”가 구매·운영 의사결정의 핵심이 되고 있습니다.

  • 비용 가시성 전환: OpenAI 엔터프라이즈 쪽에서도 고객 대화의 초점이 모델 능력에서 감사 가능성, 토큰 통제, 모델 효율로 이동했다고 설명했습니다.
  • 표준화 움직임: Linux Foundation 산하 FinOps Foundation은 AI 토큰 사용량과 과금 기준을 다루는 Tokenomics Foundation을 준비하고 있습니다.
  • ROI 문제: 일부 엔지니어의 생산성이 높아져도 토큰 사용량이 10배 이상 늘면, 실제 비즈니스 가치와 연결해 측정해야 합니다.
📢 에이전트 도입의 다음 병목은 성능이 아니라, 토큰·GPU·벤더 비용을 운영 재무 언어로 번역하는 능력입니다.

출처: The token bill comes due: Inside the industry scramble to manage AI’s runaway costs — TechCrunch

Cloudflare AI Gateway, 실시간 spend limits 문서화

Cloudflare가 AI Gateway의 spend limits 기능을 문서화했습니다. 요청 수를 제한하는 rate limit과 달리, 모델 가격과 토큰 사용량으로 각 요청 비용을 계산하고 누적 지출이 예산에 닿으면 429 응답으로 차단하거나 더 저렴한 모델로 우회할 수 있습니다.

  • 비용 기준 제한: provider, model, user ID, team, application 같은 메타데이터 차원별로 예산 버킷을 나눌 수 있습니다.
  • 운영 방식: Gateway는 요청 전 모든 spend limit rule을 평가하고, 한 규칙이라도 초과되면 차단합니다.
  • 현실적 한계: 비용 계산은 모델 가격과 토큰 수 기반의 best-effort 추정이며, 동시 요청이 많으면 짧게 예산을 초과할 수 있습니다.
📢 AI 비용 통제는 사후 정산 리포트보다, 요청 경로에서 바로 예산을 강제하는 인프라 기능으로 이동하고 있습니다.

출처: Spend limits — Cloudflare Docs

Anthropic Mythos, NSA 사이버 작전 활용 준비 보도

TechCrunch는 Financial Times 보도를 인용해 Anthropic 엔지니어들이 NSA가 사이버보안 특화 모델 Mythos를 활용하도록 지원하고 있다고 전했습니다. 다만 Mythos가 실제 공격 작전에 쓰이고 있는지는 확인되지 않았고, NSA는 확인도 부인도 하지 않았습니다.

  • 정부 수요: 각국 정부가 고성능 사이버 AI 모델 접근권을 확보하려는 움직임이 커지고 있습니다.
  • 안전성 딜레마: Anthropic은 Mythos급 모델이 취약점 발견과 해킹에 악용될 수 있다는 우려 때문에 접근을 제한해 왔습니다.
  • 정책 충돌: 과거 연방 사용 제한, 감시·무기 활용 논쟁, 보안 모델 접근 필요성이 동시에 얽혀 있습니다.
📢 사이버 특화 AI는 방어 도구와 공격 인프라 사이의 경계가 얇아, 고객 선정과 사용 감사가 모델 성능만큼 중요해집니다.

출처: NSA said to be readying Anthropic’s Mythos for use in cyber operations — TechCrunch

연구진, 스스로 적응하는 AI 웜 프로토타입 공개

토론토대, Vector Institute, 케임브리지대 연구진이 고정된 exploit 목록 없이 각 표적을 분석하고 공격 전략을 만드는 AI 기반 웜을 실험했습니다. Help Net Security에 따르면 이 프로토타입은 33개 호스트 격리 테스트 네트워크에서 15회 실험을 진행했고, 평균 20.4개 호스트로 전파됐습니다.

  • 로컬 실행: 상용 AI API 대신 감염된 GPU 장비에서 오픈웨이트 소형 모델을 실행해, 플랫폼 차원의 guardrail을 우회할 수 있음을 보였습니다.
  • 런타임 학습: 모델 학습 이후 공개된 보안 권고문을 읽고 Copy Fail, Dirty Frag, Marimo RCE 같은 취약점 공격을 구성했습니다.
  • 방어 방향: 연구진은 AI 보조 펜테스트와 퍼징, 제로트러스트, 마이크로 세그멘테이션을 주요 방어책으로 제시했습니다.
📢 에이전트형 공격의 위험은 새로운 취약점 발견보다, 알려진 취약점을 맥락에 맞게 자동 조합하는 능력에서 먼저 커집니다.

출처: Autonomous AI-driven worm can reason its way through corporate networks — Help Net Security

AirTrunk, 인도에 300억 달러·5GW 데이터센터 투자

Blackstone이 지원하는 데이터센터 사업자 AirTrunk가 2030년까지 인도에 300억 달러를 투자해 5GW 규모 데이터센터 용량을 개발하겠다고 밝혔습니다. 인도는 클라우드와 AI 인프라 투자 유치를 위해 세제 혜택과 토지 지원을 확대하고 있습니다.

  • 지역 확장: AirTrunk는 올해 Lumina CloudInfra 인수로 인도에 진입했고, 뭄바이·첸나이·하이데라바드에서 약 600MW 파이프라인을 보유하고 있습니다.
  • 정부 지원: 인도 정부는 해외 판매 클라우드 서비스가 인도 데이터센터에서 운영될 경우 장기 세제 혜택을 제공하고 있습니다.
  • 병목 요소: 전력, 물, 토지 수요가 급증하면서 AI 인프라의 물리적 제약도 커지고 있습니다.
📢 AI 인프라 경쟁은 미국 대형 클러스터만의 문제가 아니라, 전력과 정책을 갖춘 지역을 선점하는 글로벌 입지 경쟁입니다.

출처: AirTrunk commits $30B to build 5GW of AI data centers in India — TechCrunch

Ideogram 4.0, 오픈웨이트 이미지 모델로 디자인 제어 강화

Ideogram이 9.3B 파라미터 오픈웨이트 텍스트-이미지 모델 Ideogram 4.0을 공개했습니다. Qwen3-VL-8B-Instruct를 텍스트 인코더로 쓰고, 구조화된 JSON 캡션과 bounding box, 색상 팔레트 정보를 학습에 활용해 텍스트 렌더링과 레이아웃 제어를 강조합니다.

  • 오픈웨이트 전략: 가중치와 코드를 공개해 개발자와 기업이 자체 하드웨어에서 실행하고 fine-tuning할 수 있게 했습니다.
  • 디자인 초점: 2K 이미지, 다국어 텍스트, 정확한 레이아웃, 편집 가능한 요소를 핵심 가치로 내세웁니다.
  • 벤치마크 주장: 내부 designer preference 평가에서 전체 2위, 오픈웨이트 모델 중 1위를 기록했다고 설명했습니다.
📢 이미지 모델의 오픈소스 경쟁은 단순 생성 품질보다, 브랜드 스타일과 제품 워크플로에 맞게 조정 가능한가로 이동하고 있습니다.

출처: Ideogram 4.0 Technical Details: Open model at the forefront of design — Ideogram, Ideogram 4.0 — Ideogram

Thinking Machines Lab, 200ms 단위 ‘interaction models’ 구상 공개

Mira Murati가 Bloomberg 인터뷰를 통해 Thinking Machines Lab의 다음 방향을 일부 공개했습니다. TechCrunch에 따르면 회사는 오디오, 텍스트, 비디오의 연속 스트림을 약 200ms 단위로 처리하는 interaction models를 준비하고 있으며, 기존 턴 기반 프롬프트-응답 인터페이스와 다른 상호작용 방식을 겨냥합니다.

  • 제품 맥락: Thinking Machines는 그동안 오픈소스 모델 fine-tuning API인 Tinker를 출시했지만, 대중 노출은 제한적이었습니다.
  • 인터페이스 변화: 목표는 사용자의 중단, 수정, 생각하는 pause까지 실시간 맥락으로 받아들이는 모델입니다.
  • 거버넌스 메시지: Murati는 AI 산업의 결정권이 너무 적은 사람에게 집중되는 문제와 구조적 견제 장치의 부족도 함께 언급했습니다.
📢 차세대 AI 인터페이스 경쟁은 “더 긴 답변”보다 사람이 말하고 멈추고 고치는 흐름을 얼마나 자연스럽게 따라오는가에 걸려 있습니다.

출처: Mira Murati steps back into the spotlight, carefully — TechCrunch

github.dev·VS Code Web 토큰 탈취 취약점 분석 공개

보안 연구자 Ammar Askar는 github.dev와 VS Code Web의 동작을 이용해 링크 클릭만으로 GitHub API 토큰을 탈취할 수 있는 취약점 분석을 공개했습니다. 핵심은 github.com이 github.dev로 OAuth 토큰을 전달하고, 해당 토큰이 특정 저장소에만 묶이지 않아 사용자가 접근 가능한 다른 저장소까지 열람할 수 있었다는 점입니다.

  • 공격 표면: 악성 저장소의 notebook과 extension 조합으로 github.dev 내부에서 토큰을 읽고 private repository 목록을 가져오는 PoC가 제시됐습니다.
  • 데스크톱 영향: 같은 문제가 데스크톱 VS Code에서도 가능하지만, 사용자가 저장소를 clone하고 열어야 해 exploitation 난도는 더 높습니다.
  • 사용자 조치: 연구자는 github.dev local site data를 삭제해 이전 인증 상태를 지우는 방식을 권고했습니다.
📢 개발자 생산성 도구가 브라우저 안에서 IDE와 토큰을 다루기 시작하면, 링크 하나도 권한 경계 문제가 됩니다.

출처: 1-Click GitHub Token Stealing via a VSCode Bug — Ammar’s Blog

AI 시대의 ‘윈체스터 미스터리 하우스’식 소프트웨어 개발

O’Reilly Radar는 AI 코딩 에이전트가 코드 작성 비용을 낮추면서, 개발자가 자기 취향과 필요에 맞춘 거대하고 개인화된 도구를 빠르게 쌓아 올리는 새 개발 모델을 “Winchester Mystery House”에 비유했습니다. 문제는 구현 속도는 기계적으로 빨라졌지만, 피드백과 유지보수, 커뮤니티 조율 속도는 그대로라는 점입니다.

  • 개인 도구의 폭발: AI 에이전트는 개인의 취향과 워크플로에 맞춘 내부 도구를 빠르게 만들게 해줍니다.
  • 오픈소스 압박: 구현 비용이 낮아지며 agent-written PR과 품질 낮은 기여가 늘고, maintainers의 리뷰 부담이 커집니다.
  • 시장 기회: 글은 재미있는 부분을 대신 만들기보다, 개발자가 피하고 싶어 하는 plumbing, 보안, 책임 영역을 도구·서비스가 맡아야 한다고 봅니다.
📢 AI 코딩 시대의 진짜 부족 자원은 코드가 아니라, 리뷰·조율·품질 판단을 흡수하는 attention infrastructure입니다.

출처: The Cathedral, the Bazaar, and the Winchester Mystery House — O’Reilly Radar

오늘의 도구 추천

Cloudflare AI Gateway Spend Limits — AI Gateway 경로에서 모델·provider·사용자·팀 단위 지출 제한을 걸 수 있는 기능입니다. 에이전트와 코딩 도구 비용이 빠르게 늘어나는 팀이라면 rate limit보다 먼저 비용 기준 guardrail을 검토할 만합니다.

에디터 노트

오늘 뉴스의 공통점은 “AI를 실제로 많이 쓰기 시작한 뒤의 문제”입니다. 컴퓨트가 부족해지고, 토큰 비용이 예산을 초과하고, IDE와 에이전트가 권한 경계를 흔들고, 오픈웨이트 모델이 공격과 방어 양쪽의 속도를 높입니다. 모델이 더 강해졌다는 사실보다, 그 모델을 어디서 실행하고 누가 비용을 지불하며 어떤 권한으로 움직이는지가 더 중요해지고 있습니다.

그래서 이제 AI 제품을 볼 때는 데모의 매끄러움보다 운영 표면을 봐야 합니다. 예산을 멈출 수 있는가, 권한을 쪼갤 수 있는가, 실패를 관찰할 수 있는가, 지역과 전력 제약을 견딜 수 있는가. 이 질문에 답하는 회사가 다음 국면의 실사용 시장을 가져갈 가능성이 큽니다.

다음에 또 찾아옵니다. — 에이브랜치