허깅페이스가 오픈소스 모델을 활용하여 생성형 AI 애플리케이션의 배포와 확장을 간편하게 하는 ‘허깅페이스 생성형 AI 서비스(HUGS)’를 소개했습니다. HUGS는 허깅페이스의 기술인 트랜스포머와 텍스트 생성 추론(TGI)과 같은 기술을 기반으로 구축되어 다양한 하드웨어 가속기에서 최적의 성능을 약속합니다. AWS 또는 구글 클라우드를 사용하는 개발자를 위해 이 서비스는 컨테이너당 1달러의 가격으로 이용할 수 있으며, AWS에서는 5일간의 무료 평가판이 제공됩니다. HUGS는 수동 구성이 필요하지 않고 자체 인프라에서 AI 모델을 실행할 수 있는 솔루션을 개발자들에게 제공하며, HUGS로 이러한 최적화 작업을 자동으로 처리하여 고성능을 제공합니다. 허깅페이스는 또한 AWS Inferentia와 구글 TPU까지 지원 범위를 확장할 예정입니다. 이 서비스는 표준화된 OpenAI 모델 인터페이스와 호환되는 표준 API를 사용하므로 개발자들은 자체 코드를 이전할 수 있습니다. HUGS는 프로피에트리 플랫폼과 관련된 높은 비용을 부담하지 않고 AI 애플리케이션을 구축할 수 있는 기회를 제공하며, DigitalOcean에서의 원클릭 배포 기능을 통해 소규모 팀이 생성형 AI 기술을 실험하기가 더욱 쉬워졌습니다. 한편 대기업은 HUGS를 활용하여 클라우드 공급업체나 프로피에트리 API에 얽매이지 않고 애플리케이션을 확장할 수 있습니다. DigitalOcean에서는 HUGS가 GPU 도플렛의 표준 비용을 초과하는 추가 비용 없이 제공됩니다. 허깅페이스는 엔터프라이즈 허브를 통해 대기업을 위한 맞춤형 배포 솔루션도 제공합니다.
