bonsai-8b2026-04-07
AIの常識を覆す！1ビットLLM「Bonsai-8B」が登場、iPhoneで爆速動作する真のオンデバイスAI時代へ
米PrismMLが、全コンポーネントを1ビットで構成した画期的なLLM「Bonsai-8B」を公開。従来の14分の1という1.15GBの超軽量化を実現しながら、Llama 3.1に匹敵する高精度を維持。iPhone上で秒間44トークンの高速推論が可能で、低遅延・省電力・プライバシー保護を両立した「真のオンデバイスAI」として、エッジコンピューティングの未来を塗り替える数学的突破口となります。