Chutes AI는 사용자가 대규모 언어 모델(LLM) 및 기타 인공지능 도구를 실행, 확장 및 배포할 수 있도록 설계된 탈중앙화 분산형 서버리스 AI 컴퓨팅 플랫폼입니다. 이 플랫폼은 종량제(pay-per-use) 모델로 운영되며, 전통적인 클라우드 인프라 관리의 복잡함 없이 GPU 리소스에 대한 온디맨드 액세스를 제공하는 것을 목표로 합니다. ^[1]

개요

Chutes AI는 백엔드 개발자인 Cxmplex, Florian S, Kyle 등을 포함하여 프론트엔드 개발자 Bonoliver, 마케팅 및 영업 담당자 Veight 등 엔지니어, 연구원 및 빌더들로 구성된 글로벌 네트워크에 의해 개발 및 설립되었습니다. CEO나 중앙 집중식 의사 결정권자는 없으며, 조직은 탈중앙화되어 있고 책임은 집단적 의사 결정 프로세스를 통해 여러 당사자 간에 공유됩니다. ^[6]

출시 이후 Chutes AI는 수요 측면에서 상당한 성장을 보여주었습니다. 2025년 5월 28일까지 이 플랫폼은 일일 1,000억 개의 토큰을 처리하는 이정표를 달성했으며, 이는 월간 3조 개의 실제 토큰에 해당합니다. 이는 2025년 1월 이후 수요가 250배 증가한 것으로, 탈중앙화 AI 컴퓨팅 솔루션의 채택이 늘어나고 있음을 반영합니다. 플랫폼의 토큰 기반 결제 시스템은 사용량 기반 모델로 향하는 광범위한 산업 트렌드와 일치하며, 기존 제공업체에 비해 최대 40%의 비용 절감 효과를 제공할 잠재력이 있습니다. ^{[1] [2] [3] [5]}

기술

Chutes AI는 사용자가 탈중앙화된 GPU 제공업체 네트워크에서 "chutes"라고 불리는 컨테이너를 "실행(launch)"할 수 있도록 함으로써 작동합니다. 이러한 노드들은 사용자 코드를 실행하고 결과를 효율적이고 안전하게 반환하므로 광범위한 클라우드 엔지니어링 전문 지식이 필요하지 않습니다. 이 플랫폼은 다양한 AI 작업을 위해 맞춤형 Docker 컨테이너 또는 사전 구성된 템플릿 사용을 지원합니다.

기반 인프라는 채굴자가 컴퓨팅 리소스를 기여하도록 인센티브를 제공하는 Bittensor 네트워크 위에 구축되었습니다. 이러한 탈중앙화 접근 방식은 AI 모델 배포 및 추론을 위한 견고하고 확장 가능한 환경을 제공하는 것을 목표로 합니다. 사용자는 소비된 컴퓨팅 리소스에 대해서만 비용을 지불하므로 유휴 GPU 비용이나 구독료를 피할 수 있습니다. ^[1]

주요 특징

Chutes AI는 AI 개발 및 배포를 간소화하기 위해 설계된 몇 가지 기능을 제공합니다:

• 서버리스 배포: 복잡한 DevOps 구성 없이 몇 초 만에 AI 모델을 신속하게 배포할 수 있습니다.
• 탈중앙화 컴퓨팅: Bittensor 네트워크의 분산된 GPU 리소스를 활용하여 탄력적이고 확장 가능한 인프라를 촉진합니다.
• 개방형 인프라: 사용자가 제공하는 Docker 컨테이너를 지원하며 DeepSeek, Meta-Llama, Mistral과 같은 일반적인 AI 모델을 위한 다양한 사전 구성 템플릿을 제공합니다.
• 유연한 SDK 및 CLI: 배포 및 관리 작업을 자동화하기 위한 개발자 친화적인 도구를 제공합니다.
• 종량제 요금제: 실제 리소스 소비량을 기준으로 사용자에게 요금을 부과하여 기존 GPU 호스팅과 관련된 고정 비용을 제거합니다. ^[1]

사용 사례 및 통합

Chutes AI는 LLM 미세 조정(fine-tuning), 임베딩 생성, 이미지 합성 등 다양한 AI 애플리케이션을 위해 설계되었습니다. Janitor AI 및 KoboldAI와 같은 인기 있는 프론트엔드 채팅 도구와 통합되어 사용자가 모델 이름, 프록시 URL 및 API 키를 구성하여 Chutes AI 모델을 연결할 수 있도록 합니다.

또한 플랫폼은 Qwen 3 Coder 480B A35B와 같은 특정 모델의 가용성을 지원하며, 이는 Chutes AI 계정에 크레딧을 추가하여 액세스할 수 있습니다. ^{[1] [2]}

스타트업 액셀러레이터 플랫폼

Chutes AI는 신생 AI 프로젝트를 지원하기 위해 스타트업 액셀러레이터 플랫폼을 출시했습니다. 이 프로그램은 자격이 있는 스타트업에게 최대 $20,000 상당의 Chutes Credits와 종합적인 지원 프로그램을 제공합니다. 액셀러레이터는 직원 수 50명 미만, 시리즈 A 이전 단계, 200만 달러 미만의 투자 유치(또는 투자 없음), 높은 처리량의 컴퓨팅이 필요한 기업을 대상으로 합니다. 플랫폼은 지속적으로 신청을 받으며 새로운 스타트업을 적극적으로 온보딩하고 있습니다. ^[2]

향후 발전

Chutes AI는 비용 효율성과 탈중앙화된 접근성 면에서 장점을 제공하지만, 저비용 Web2 솔루션과의 경쟁 및 Bittensor의 경제 모델에 대한 의존성과 같은 과제에 직면해 있습니다. Bittensor 핫키를 통한 API 키 관리 또한 일부 사용자에게는 학습 곡선이 필요할 수 있습니다.

변화하는 수요와 규제 환경에 대응하여 Chutes AI는 새로운 결제 옵션을 도입하고, 데이터 프라이버시 및 보안 강화를 위해 보안 신뢰 실행 환경(TEE)을 통합하며, 워크플로우를 간소화할 계획입니다. 이러한 발전은 투명성, 공정성 및 책임성을 강조하는 EU AI 법과 같은 규정에 발맞추어 지능형 컴퓨팅을 더욱 안전하고 접근하기 쉽게 만드는 것을 목표로 합니다. ^{[1] [3]}