Intel Gaudi 3 এক্সিলারেটরের কর্মক্ষমতা NVIDIA H100 কে ছাড়িয়ে গেছে

ইন্টেল দাবি করেছে যে Gaudi 3 অ্যাক্সিলারেটর NVIDIA H100 এর সাথে প্রতিযোগিতায় একটি সুবিধা অর্জন করেছে। একটি 16-অ্যাক্সিলারেটর ক্লাস্টার জুড়ে FP8 নির্ভুলতায় Llama2-13B প্রশিক্ষণের সময় Gaudi 3 H100 এর চেয়ে 1.7x দ্রুত কাজ করে। উপরন্তু, Gaudi 3 উল্লেখযোগ্যভাবে H200/H100 ইনফারেন্স কর্মক্ষমতা উন্নত করেছে, 1.3 গুণ থেকে 1.5 গুণ বেড়েছে, এবং শক্তির দক্ষতা 2.3 গুণ বেড়েছে।