Meta ເປີດຕົວ Muse Glimmer ໂມເດວ AI Open-Weight 30B ສຳລັບຮັນໃນເຄື່ອງ
Meta ໄດ້ເປີດຕົວ Muse Glimmer ໂມເດວ AI open-weight ໃໝ່ຂະໜາດ 30 ຕື້ພາລາມິເຕີ ທີ່ອອກແບບໃຫ້ຮັນ agentic workload ໃນ PC ແລະ workstation ໂດຍກົງ ແທນການສົ່ງທຸກວຽກໄປ cloud.
ຈຸດສຳຄັນຄືການລວມ dense architecture ທີ່ຄ່ອນຂ້າງກະທັດຮັດ ກັບ open weights, long context ແລະ agent capabilities. ນັກພັດທະນາສາມາດສ້າງລະບົບທີ່ reasoning ຫຼາຍຂັ້ນ, ເອີ້ນ tools, ຈັດການ multimodal information ແລະດຳເນີນ workflow ຕໍ່ໄປ ໂດຍເກັບການປະມວນຜົນໄວ້ໃນ local hardware ຫຼາຍຂຶ້ນ.
Muse Glimmer ເນັ້ນ AI agent ໃນເຄື່ອງທີ່ເຮັດວຽກຕໍ່ເນື່ອງ
Muse Glimmer ເປັນ dense model 30 ຕື້ພາລາມິເຕີຈາກ Meta Superintelligence Labs ສຳລັບ agentic workload ທີ່ສາມາດຮັນຕໍ່ເນື່ອງໃນເຄື່ອງຜູ້ໃຊ້. Meta ອອກແບບໃຫ້ຮອງຮັບ multi-step reasoning, coding, tool use, multimodal understanding ແລະ recovery ເມື່ອ workflow ລົ້ມເຫຼວ ບໍ່ແມ່ນແຕ່ Q&A ສັ້ນໆ.
30B model ອອກແບບໃຫ້ຮັນດ້ວຍ GPU ດຽວ
ໂມເດວອອກແບບໃຫ້ຮັນ local ເທິງ GPU ທີ່ມີສະມັດຖະນະພຽງໜຶ່ງຕົວ ນຳວຽກ AI ທີ່ເຄີຍພຶ່ງ cloud ມາໃກ້ PC ແລະ workstation. Meta ໃຫ້ weights ພາຍໃຕ້ Apache 2.0 ສາມາດໃຊ້ ດັດແປງ ແລະແຈກຢາຍ ລວມທັງວຽກການຄ້າຕາມເງື່ອນໄຂ license.
Distill ຈາກ Muse Spark ພ້ອມ context ຍາວ
Muse Glimmer ຖືກ distill ຈາກ Muse Spark ທີ່ໃຫຍ່ກວ່າ. ເອກະສານ Meta ແລະ ecosystem ລະບຸ context ຫຼາຍກວ່າ 120,000 tokens ແລະ perception component ສຳລັບ multimodal input. ມັນຊ່ວຍ agent ຮັກສາ working context ໃນຊຸດ decision, tool call ແລະ result ທີ່ຍາວ.
AMD ແລະ NVIDIA ຜັກດັນ local deployment
AMD ລາຍງານ preliminary Windows test ສູງສຸດ 24 tokens/s ໃນ Ryzen AI Max+ 395 ແລະ 53 tokens/s ໃນ Radeon AI PRO R9700 ເມື່ອເປີດ dFlash. NVIDIA ກໍ່ນຳສະເໜີ Muse Glimmer ສຳລັບ local agentic workflow. Performance ຈິງຂຶ້ນກັບ quantization, memory, software stack ແລະ hardware configuration.
ອ່ານເພີ່ມ
ເຫດຜົນທີ່ local open-weight AI ສຳຄັນ
ການຮັນ agent ໃນເຄື່ອງສາມາດຫຼຸດ cloud token cost ແລະເກັບຂໍ້ມູນວຽກໄວ້ໃນອຸປະກອນຫຼາຍຂຶ້ນ. ສຳຄັນຕໍ່ local files, messages ແລະ proprietary material ແລະໃຫ້ຄວບຄຸມ inference, customization, integration ຫຼາຍຂຶ້ນ. ແຕ່ 30B model ຍັງຕ້ອງການ memory ແລະ hardware ທີ່ແຮງ ຈຶ່ງບໍ່ໄດ້ຮັນດີເທົ່າກັນໃນ laptop ທົ່ວໄປທຸກເຄື່ອງ.
Meta ກຳລັງກຽມ Muse Spark 1.2 open-weight
ການປ່ອຍ Glimmer ສະທ້ອນການຜັກດັນ open-weight ອີກຄັ້ງຂອງ Meta. Mark Zuckerberg ກ່າວວ່າບໍລິສັດຈະປ່ອຍ Muse Spark 1.2 open-weight ທີ່ແຮງກວ່າໃນໄວໆນີ້. Glimmer ຈຶ່ງເປັນ local model ທີ່ໃຊ້ໄດ້ຕອນນີ້ ແລະເປັນສັນຍານວ່າ Meta ຈະເປີດ Muse family ອອກຈາກ closed cloud ຫຼາຍຂຶ້ນ.
