Chuangda は 130 億パラメータモデルのエンドツーエンド運用を実現

AI テクノロジーの発展に伴い、従来の PC をアップグレードする必要があります。 Thunderdaは、モデル圧縮およびその他のテクノロジーを使用して、Qualcomm 8シリーズ550チッププラットフォーム上でLLaMA-2 130億パラメータモデルの安定した動作を実現し、エンドサイドデバイスの推論速度を向上させ、AI PC時代の基礎を築きます。 。