본문 바로가기

AI 인프라3

GPU 전쟁을 보는 개발자의 마음: 나는 아직 CPU도 다 못 썼는데 GPU 전쟁을 보는 개발자의 마음: 나는 아직 CPU도 다 못 썼는데소개요즘 기술 뉴스를 보면 GPU 이야기가 빠지지 않습니다. 어느 회사가 더 많은 GPU를 확보했고, 어느 데이터센터가 더 커졌고, 어느 모델이 더 많은 연산 자원을 썼다는 이야기가 계속 나옵니다. 기사 제목만 보면 개발자의 미래는 거대한 GPU 클러스터 위에서만 열릴 것 같습니다. 그런데 막상 내 작업 화면을 보면 현실은 조금 다릅니다. 아직 내 코드는 CPU 한 코어 앞에서도 겸손해야 할 때가 많습니다.GPU 전쟁은 분명 중요한 흐름입니다. AI 모델 학습과 추론, 영상 처리, 과학 계산, 대규모 데이터 처리에서 GPU는 강력한 역할을 합니다. 하지만 모든 개발자가 당장 고성능 GPU를 사야 하는 것은 아닙니다. 모든 문제에 GPU가.. 2026. 8. 24.
오픈소스 AI는 공짜일까? 공짜 뒤에 숨어 있는 진짜 비용 오픈소스 AI는 공짜일까? 공짜 뒤에 숨어 있는 진짜 비용 Introduction오픈소스 AI를 처음 검토할 때 가장 매력적으로 보이는 단어는 단연 "무료"입니다. Llama, Mistral, Qwen, DeepSeek 같은 모델의 가중치가 공개되어 있고, GitHub에는 서빙 코드와 예제까지 정리되어 있습니다. 몇 줄의 명령어로 로컬 노트북이나 개발 서버에서 모델이 응답하는 장면을 보면, 상용 API 비용을 크게 줄일 수 있을 것처럼 보입니다. 특히 OpenAI, Anthropic, 클라우드 사업자의 생성형 AI API를 이미 운영 중인 팀이라면 토큰 사용량 증가가 곧바로 월별 청구서에 반영되는 경험을 했을 가능성이 큽니다.하지만 공개된 가중치와 소스코드가 곧 운영 비용 0원을 의미하지는 않습니다. 오.. 2026. 8. 12.
초거대 compute의 미국 vs 오픈소스/효율성의 중국: AI 패권 전쟁의 진짜 승자는? 초거대 compute의 미국 vs 오픈소스/효율성의 중국: AI 패권 전쟁의 진짜 승자는? IntroductionAI 패권 전쟁을 설명하는 가장 쉬운 문장은 오랫동안 하나였습니다. “더 큰 데이터센터와 더 많은 GPU를 가진 쪽이 이긴다.” 이 관점에서는 미국의 승리가 거의 당연해 보입니다. OpenAI, Anthropic, Google, Meta는 세계 최고 수준의 연구 인력과 자본을 모으고, Microsoft, Amazon, Google, Meta, Oracle 같은 빅테크는 AI 데이터센터에 천문학적인 CapEx를 쏟아붓습니다. 그 위에는 NVIDIA H100, H200, Blackwell B200 같은 최첨단 가속기와 TSMC의 선단 공정, 고대역폭 메모리 공급망이 있습니다. 미국은 모델, 칩, .. 2026. 7. 22.

티스토리툴바