허깅페이스 허브서
추론 가속화 인프라 서비스
생성형 인공지능(AI) 인프라 기업 프렌들리AI가 세계 최대 AI 모델 및 데이터셋 플랫폼 허깅페이스와 손잡았다. 허깅페이스는 700만명 이상 사용자를 보유하고 있다.
프렌들리AI는 허깅페이스와 전략적 파트너십을 맺고 자사 엔드포인트가 허깅페이스의 배포 옵션으로 제공해, 개발자들이 보다 간편하게 AI 모델을 배포하고 운영할 수 있게 됐다고 24일 밝혔다.
프렌들리AI 측은 “허깅페이스는 그동안 AWS, Azure, GCP, NVIDIA와 같은 주요 빅테크 기업의 서비스만 배포 옵션으로 제공해왔으나, 국내 최초로 프렌들리AI가 전략적 파트너십을 체결했다”고 밝혔다. 회사 측은 생성형 AI 모델의 배포와 운영은 복잡한 인프라 관리와 높은 비용 문제를 동반하지만, 프렌들리AI는 전 세계 GPU 기반 모델 API 제공사 중 처리속도(Artificial Analysis 벤치마크 결과) 1위를 자랑하는 기술력을 바탕으로 문제를 해결한다고 설명했다. 특히 ‘프렌들리 데디케이트 엔드포인트(Friendli Dedicated Endpoints)’는 GPU에 최적화된 추론 엔진을 기반으로 전용 GPU 자원과 자동 리소스 관리를 제공하며, 빠르고 비용 효율적인 추론 서비스를 완전 관리형 형태로 지원한다. 개발자들은 인프라 관리에 대한 부담 없이 생성형 AI 모델을 손쉽게 배포하고 안정적으로 운영할 수 있다.
전병곤 프렌들리AI 대표는 “프렌들리AI와 허깅페이스는 생성형 AI, 나아가 AI 에이전트를 더 많은 개발자가 쉽게 접근하고 활용할 수 있게 해서, 영향력을 확대하겠다는 비전을 공유한다”며 “앞으로도 허깅페이스와 협력해 더 유용한 기능과 지원을 제공하도록 지속적으로 모색할 것”이라고 밝혔다.
줄리앙 쇼몽(Julien Chaumond) 허깅페이스 공동창업자 겸 CTO는 “프렌들리AI는 생성형 AI 추론 가속화의 발전을 선도해 왔다”며 “이번 파트너십을 통해 허깅페이스 사용자와 프렌들리AI 고객들이 프렌들리AI의 최적화된 AI 인프라와 도구를 활용해 최신 오픈소스 모델이나 맞춤 생성형 AI 모델을 효율적으로 확장하고 운영할 수 있도록 지원할 것”이라고 밝혔다.
