Meta, 로컬 실행용 30B 오픈웨이트 AI Muse Glimmer 공개
Meta는 모든 작업을 클라우드에서 처리하지 않고 개인용 PC와 워크스테이션에서 에이전트형 워크로드를 로컬로 실행하도록 설계된 새로운 300억 파라미터 오픈웨이트 AI 모델 Muse Glimmer를 공개했다.
이번 공개의 핵심은 비교적 компакт한 dense 아키텍처에 오픈웨이트, 긴 컨텍스트, 에이전트 작업 기능을 결합했다는 점이다. 개발자는 다단계 추론, 도구 호출, 멀티모달 정보 처리, 지속적인 워크플로를 수행하면서 더 많은 연산을 로컬 하드웨어에 유지하는 AI 시스템을 만들 수 있다.
Muse Glimmer는 상시 동작하는 로컬 AI 에이전트를 겨냥한다
Muse Glimmer는 Meta Superintelligence Labs의 300억 파라미터 dense 모델로 사용자의 장치에서 계속 동작할 수 있는 에이전트 워크로드를 위해 만들어졌다. Meta는 다단계 추론, 코딩, 도구 사용, 멀티모달 이해, 워크플로 실패 복구를 지원하도록 설계했으며 짧은 질의응답에만 초점을 맞춘 모델이 아니다.
단일 GPU에서 실행하도록 설계된 30B 모델
성능이 충분한 GPU 한 개에서 로컬로 실행하도록 설계돼 기존에 클라우드 인프라에 의존하던 AI 작업을 소비자 PC와 워크스테이션으로 가져온다. Meta는 Apache 2.0 라이선스로 가중치를 제공하며 개발자는 라이선스 조건에 따라 상업 프로젝트를 포함해 사용, 수정, 재배포할 수 있다.
Muse Spark에서 증류되고 긴 컨텍스트 지원
Muse Glimmer는 Meta의 더 큰 Muse Spark에서 증류됐다. Meta와 생태계 문서에 따르면 120,000 tokens 이상의 컨텍스트와 멀티모달 입력용 전용 인식 구성요소를 제공한다. 이를 통해 긴 의사결정 과정, 도구 호출, 결과 처리 중에도 많은 작업 컨텍스트를 유지하도록 설계됐다.
AMD와 NVIDIA가 로컬 배포를 지원
AMD의 Windows 예비 테스트는 Ryzen AI Max+ 395에서 최대 초당 24 tokens, dFlash를 켠 Radeon AI PRO R9700에서 최대 초당 53 tokens를 기록했다. NVIDIA도 자사 플랫폼의 로컬 에이전트 워크플로에 Muse Glimmer를 소개했다. 실제 성능은 양자화, 메모리, 소프트웨어 스택과 하드웨어 구성에 따라 달라진다.
로컬 오픈웨이트 AI가 중요한 이유
에이전트를 로컬에서 실행하면 반복되는 클라우드 token 비용을 줄이고 더 많은 작업 데이터를 사용자 장치에 남길 수 있다. 로컬 파일, 메시지, 독점 자료를 다루는 워크플로에 중요하며 추론, 맞춤화, 통합에 대한 통제도 커진다. 다만 30B 모델은 여전히 상당한 메모리와 강력한 하드웨어가 필요해 모든 일반 노트북에서 똑같이 잘 작동한다는 뜻은 아니다.
Meta는 Muse Spark 1.2 오픈웨이트도 준비
Glimmer 출시는 Meta가 오픈웨이트 전략을 다시 강화하고 있음을 보여준다. Mark Zuckerberg는 더 강력한 Muse Spark 1.2의 오픈웨이트 버전을 곧 공개할 계획이라고 밝혔다. Glimmer는 지금 사용할 수 있는 실용적인 로컬 모델이자 Muse 제품군을 폐쇄형 클라우드 밖으로 확대하려는 방향을 보여준다.
