Biren Technology tekee yhteistyötä Wuwen Xinqiongin kanssa kaksinkertaistaakseen suurten mallien koulutussuorituskyvyn

2024-12-28 08:47
 112
Biren Technology ja Wuwen Xinqiong kehittivät sen yhdessä ja ottivat onnistuneesti käyttöön toimintoja, kuten elastisen vikasietokyvyn ja epänormaalin solmun havaitsemisen Qianka-koulutusklusterissa, ja lähes kaksinkertaisti LLM-mallin koulutussuorituskyvyn. Bili 110E -päätelmäkortti voi saavuttaa jopa 1,3-kertaisen tekoälyn laskentatehotiheyden markkinoilla oleviin valtavirran PCIE8-pilvikorttipalvelinratkaisuihin verrattuna ja säästää samalla 70 % energiankulutuksesta. Bili 110E -johtopäätöskortti on julkaistu Wuwen Xinqiongin suuressa mallipalvelualustassa, joka tukee erilaisia ​​tekoälyn päättelysovellusskenaarioita.