AI কম্পিউট কনভার্টার

AI কম্পিউট একক রূপান্তরক কী?#

AI হার্ডওয়্যার “operations per second” এককের দুটি সমান্তরাল পরিবারে বিক্রি হয়, এবং সেগুলো বিনিময়যোগ্য দেখালেও নয়। FLOPS পরিবার (FLOPS, kFLOPS, MFLOPS, GFLOPS, TFLOPS, PFLOPS, EFLOPS, ZFLOPS) প্রতি সেকেন্ডে ফ্লোটিং-পয়েন্ট অপারেশন গণনা করে — বৈজ্ঞানিক কম্পিউটিং, প্রশিক্ষণ থ্রুপুট এবং গ্রাফিক্সের প্রচলিত পরিমাপ। OPS পরিবার (OPS, kOPS, MOPS, GOPS, TOPS, POPS) প্রতি সেকেন্ডে পূর্ণসংখ্যা বা “মিশ্র” অপারেশন গণনা করে — যে পরিসংখ্যাটি চিপ বিক্রেতারা INT8 ইনফারেন্স অ্যাক্সেলারেটরের জন্য উদ্ধৃত করেন। একটি “100 TOPS” NPU এবং একটি “100 TFLOPS” GPU একই মাপকাঠি দিয়ে তুলনা করা যায় না, কারণ একটি TOPS “অপারেশন” এবং একটি FLOPS “অপারেশন” ভিন্ন জিনিস মাপে।

এই পৃষ্ঠাটি প্রতিটি পরিবারের ভেতরে হুবহু রূপান্তর করে (প্রতিটি একক তার পরিবারের ভিত্তির একটি পরিষ্কার 1000-এর-ঘাত গুণিতক), এবং একটি অনুপাত আবিষ্কার করার বদলে ক্রস-পরিবার রূপান্তর প্রত্যাখ্যান করে। সেই প্রত্যাখ্যানই পুরো বিষয়বস্তু: TFLOPS-কে TOPS-এ “রূপান্তর” করে এমন যেকোনো একক সংখ্যা একটি কাল্পনিক নির্মাণ, কারণ বিক্রেতারা এমনকি একমত হন না যে একটি multiply-accumulate একটি অপারেশন হিসেবে গণনা হবে নাকি দুটি।

কীভাবে ব্যবহার করবেন#

1. যে মান-টি রূপান্তর করতে চান তা লিখুন।
2. গোষ্ঠীবদ্ধ ড্রপডাউন থেকে থেকে বাছুন — এককগুলো দুটি optgroup, FLOPS এবং OPS, এর অধীনে তালিকাভুক্ত, তাই পরিবারের সীমানা পিকারেই দৃশ্যমান।
3. একইভাবে এ বাছুন।
4. ফলাফল পড়ুন। উভয় একক একই পরিবারে থাকলে আপনি একটি সংখ্যা পান; আপনি পরিবার পেরোলে একটি কাল্পনিক সংখ্যার বদলে আপনি একটি স্পষ্ট ক্রস-পরিবার বিজ্ঞপ্তি পান।
5. আপনার ইনপুটটি একসাথে একই পরিবারের প্রতিটি এককে রূপান্তরিত দেখতে সব ইউনিট প্রসারিত করুন, ছয়টি তাৎপর্যপূর্ণ অঙ্কে রাউন্ড করা। অন্য পরিবারের এককগুলো বাদ দেওয়া হয় কারণ সেগুলো রূপান্তরযোগ্য নয়।

প্রধান বৈশিষ্ট্য#

• দুটি পরিবার, কখনো মিশ্রিত নয়। FLOPS এবং OPS আলাদা optgroup হিসেবে দেখানো হয় এবং কখনো নীরবে মেশানো হয় না। একটি পরিবারের ভেতরে গণিত নির্ভুল (মান × fromFactor ÷ toFactor); পরিবার জুড়ে টুলটি না বলে দেয়।
• সৎ ক্রস-পরিবার প্রত্যাখ্যান। একটি TFLOPS-থেকে-TOPS অনুরোধ একটি স্পষ্ট ক্রস-পরিবার ত্রুটি ফেরত দেয়, বিশ্বাসযোগ্য-দেখানো কিন্তু অর্থহীন একটি সংখ্যা নয়। এটিই একটি রূপান্তরক এবং একটি অনুমানের মধ্যে পার্থক্য।
• সম্পূর্ণ FLOPS সীমা ZFLOPS পর্যন্ত। একক-অপারেশন FLOPS থেকে k, M, G, T, P, E এবং Z (10²¹) পর্যন্ত, একটি এমবেডেড MCU থেকে একটি অনুমানি এক্সাস্কেল-প্লাস সিস্টেম পর্যন্ত সবকিছু ঢেকে।
• সম্পূর্ণ OPS সীমা POPS পর্যন্ত। k, M, G, T, P মাধ্যমে OPS — যে সীমাটি বিক্রেতা স্পেক শিটগুলো সত্যিই INT8 ইনফারেন্স দাবির জন্য ব্যবহার করে।
• ছয়-তাৎপর্যপূর্ণ-অঙ্ক রাউন্ডিং। বাইনারি ফ্লোটিং-পয়েন্ট শব্দ দমন করতে ফলাফলগুলো এপসিলন সংশোধনসহ রাউন্ড করা হয়, তাই 1 TFLOPS 999.9999999-এর বদলে হুবহু 1000 GFLOPS হিসেবে পড়া যায়।
• সব-ইউনিট টেবিল। একটি ইনপুট, প্রতিটি একই-পরিবার একক একনজরে — কার্যকর যখন একটি স্পেক শিট TOPS উদ্ধৃত করে এবং আপনি একই থ্রুপুট GOPS এবং MOPS-তেও দেখতে চান।

ব্যবহারের উদাহরণ#

একটি GPU স্পেক শিট FP16 থ্রুপুটের জন্য 1 TFLOPS দাবি করে। সেটিকে GFLOPS-এ প্রকাশ করতে, মান 1, থেকে TFLOPS, এ GFLOPS সেট করুন:

1 TFLOPS = 1000 GFLOPS

সব ইউনিট প্রসারিত করুন এবং একই মান সম্পূর্ণ FLOPS পরিবারে পূরণ করবে:

FLOPS:   1,000,000,000,000
kFLOPS:  1,000,000,000
MFLOPS:  1,000,000
GFLOPS:  1,000
TFLOPS:  1
PFLOPS:  0.001
EFLOPS:  1e-6
ZFLOPS:  1e-9

এখন সেটিকে TOPS-রেট করা একটি NPU-এর বিপরীতে তুলনা করার চেষ্টা করুন: থেকে TFLOPS, এ TOPS সেট করুন। ফলাফল একটি সংখ্যা নয় — এটি ক্রস-পরিবার বিজ্ঞপ্তি। কোনো ভৌতভাবে অর্থপূর্ণ রূপান্তর নেই, কারণ TFLOPS ফ্লোটিং-পয়েন্ট অপারেশন মাপে (তাদের নিজস্ব নির্ভুলতা সিম্যান্টিক্স সহ) এবং TOPS পূর্ণসংখ্যা/মিশ্র অপারেশন মাপে (সাধারণত INT8), এবং একটি MAC কিছু বিক্রেতার কাছে একটি অপারেশন এবং অন্যদের কাছে দুটি হিসেবে গণনা হয়। সৎ উত্তর হলো “সেগুলো আরও তথ্য ছাড়া তুলনাযোগ্য নয়”, এবং সেটিই টুল ফেরত দেয়।

প্রশ্নোত্তর#

আমি TFLOPS কে TOPS-এ কেন রূপান্তর করতে পারি না?#

কারণ সেগুলো ভিন্ন জিনিস গণনা করে। TFLOPS হলো প্রতি সেকেন্ডে ফ্লোটিং-পয়েন্ট অপারেশন; TOPS হলো প্রতি সেকেন্ডে পূর্ণসংখ্যা (সাধারণত INT8) অপারেশন, এবং দুটি অপারেশন ধরনের একটি নির্দিষ্ট অনুপাত নেই — এটি চিপের ডেটা পাথ এবং একটি multiply-accumulate একটি নাকি দুটি অপারেশন হিসেবে গণনা হয় তার উপর নির্ভর করে। যেকোনো একক রূপান্তর গুণক একটি অনুমান হবে। FLOPS-এর ভেতরে, অথবা OPS-এর ভেতরে রূপান্তর করুন, কিন্তু সেগুলোর মধ্যে নয়।

FLOPS পরিবার সত্যিই কী মাপে?#

প্রতি সেকেন্ডে ফ্লোটিং-পয়েন্ট অপারেশন, যে নির্ভুলতায় স্পেক শিট সংজ্ঞায়িত করে (FP64, FP32, FP16, INT8-as-float…)। গুরুত্বপূর্ণভাবে, “1 TFLOPS FP16” এবং “1 TFLOPS FP32” কাজের একই পরিমাণ নয় — একটি চিপের TFLOPS রেটিং নির্ভর করে আপনি কোন নির্ভুলতা উদ্ধৃত করেন তার উপর। সর্বদা সংখ্যার পাশাপাশি নির্ভুলতা পড়ুন; একক একাই যথেষ্ট নয়।

kFLOPS, MFLOPS, GFLOPS কি সবই 1000-এর ঘাত?#

হ্যাঁ। একটি পরিবারের ভেতরে প্রতিটি ধাপ ×1000: 1 kFLOPS = 1000 FLOPS, 1 MFLOPS = 1000 kFLOPS, 1 GFLOPS = 1000 MFLOPS, এবং এভাবে ZFLOPS (10²¹) পর্যন্ত। এখানে KiB বনাম KB-এর মতো কোনো বাইনারি/দশমিক অস্পষ্টতা নেই — কম্পিউট একক সর্বজনীনভাবে দশমিক।

সব-ইউনিট টেবিল কেন অন্য পরিবারটি বাদ দেয়?#

কারণ সেই এককগুলো আপনারটির সাথে রূপান্তরযোগ্য নয়। আপনি একটি FLOPS মান লিখলে, টেবিল প্রতিটি FLOPS একক দেখায়; OPS এককগুলো কাল্পনিক সংখ্যা সহ দেখানোর বদলে বাদ দেওয়া হয়। OPS সমতুল্য দেখতে, আপনার মান একটি OPS পরিসংখ্যা হিসেবে পুনরায় লিখুন (এমন একটি স্পেক শিট থেকে যা সত্যিই OPS উদ্ধৃত করে) এবং টেবিল এর বদলে OPS কলাম পূরণ করবে।