Конвертер AI-вычислений

Что такое конвертер единиц AI-вычислений?#

AI-оборудование продаётся в двух параллельных семействах единиц «операций в секунду», которые выглядят взаимозаменяемыми, но не являются таковыми. Семейство FLOPS (FLOPS, kFLOPS, MFLOPS, GFLOPS, TFLOPS, PFLOPS, EFLOPS, ZFLOPS) считает операции с плавающей точкой в секунду — классическая метрика для научных вычислений, пропускной способности обучения и графики. Семейство OPS (OPS, kOPS, MOPS, GOPS, TOPS, POPS) считает целочисленные или «смешанные» операции в секунду — те цифры, которые производители чипов приводят для INT8-ускорителей вывода. NPU «100 TOPS» и GPU «100 TFLOPS» нельзя сравнивать одной меркой, потому что «операция» TOPS и «операция» FLOPS измеряют разное.

Эта страница преобразует внутри каждого семейства точно (каждая единица — чистая степень 1000 от базы своего семейства) и отказывается делать перекрёстные преобразования между семействами, вместо того чтобы выдумывать коэффициент. Этот отказ — вся суть: любое одно число, «преобразующее» TFLOPS в TOPS, — выдумка, потому что производители не договорились даже о том, считать одно умножение-накопление за одну операцию или за две.

Как пользоваться#

1. Введите Значение для преобразования.
2. Выберите Из через сгруппированный выпадающий список — единицы перечислены в двух группах, FLOPS и OPS, поэтому граница семейств видна прямо в выборе.
3. Так же выберите В.
4. Читайте Результат. Если обе единицы в одном семействе — вы получите число; если семейства разные — явное уведомление о перекрёстном преобразовании вместо выдуманной цифры.
5. Раскройте Все единицы, чтобы увидеть ваш ввод, преобразованный во все единицы того же семейства сразу, с округлением до шести значащих цифр. Единицы другого семейства опущены, потому что не преобразуются.

Ключевые возможности#

• Два семейства, никогда не смешиваются. FLOPS и OPS показаны как раздельные группы и никогда не мешаются молча. Математика внутри семейства точна (значение × коэффициент_из ÷ коэффициент_в); между семействами инструмент говорит «нет».
• Честный отказ на перекрёстном преобразовании. Запрос TFLOPS в TOPS возвращает явную ошибку, а не правдоподобное, но бессмысленное число. Это и есть разница между конвертером и угадайкой.
• Полный диапазон FLOPS до ZFLOPS. От одиночных FLOPS до k, M, G, T, P, E и Z (10²¹) — от встроенного MCU до гипотетической экзамасштабной+ системы.
• Полный диапазон OPS до POPS. OPS через k, M, G, T, P — тот размах, который реально встречается в спецификациях для заявлений об INT8-выводе.
• Округление до шести значащих цифр. Результаты округляются с эпсилон-поправкой, чтобы подавить шум двоичной плавающей точки, — поэтому 1 TFLOPS читается ровно как 1000 GFLOPS, а не как 999,9999999.
• Таблица всех единиц. Один ввод — все единицы того же семейства в одном взгляде; удобно, когда в спецификации указано TOPS, а вам нужно видеть ту же пропускную способность в GOPS и MOPS.

Разбор примера#

В спецификации GPU заявлено 1 TFLOPS пропускной способности FP16. Чтобы выразить это в GFLOPS, задайте Значение 1, Из TFLOPS, В GFLOPS:

1 TFLOPS = 1000 GFLOPS

Раскройте Все единицы, и то же значение заполнит всё семейство FLOPS:

FLOPS:   1 000 000 000 000
kFLOPS:  1 000 000 000
MFLOPS:  1 000 000
GFLOPS:  1 000
TFLOPS:  1
PFLOPS:  0,001
EFLOPS:  1e-6
ZFLOPS:  1e-9

Теперь попробуйте сравнить это с NPU, рейтинг которого дан в TOPS: задайте Из TFLOPS, В TOPS. Результат — не число, а уведомление о перекрёстном преобразовании. Физически осмысленного перевода нет, потому что TFLOPS измеряет операции с плавающей точкой (со своей семантикой точности), а TOPS — целочисленные/смешанные операции (обычно INT8), и MAC у одних производителей считается за одну операцию, у других за две. Честный ответ — «они не сопоставимы без дополнительных данных», — его инструмент и возвращает.

FAQ#

Почему нельзя преобразовать TFLOPS в TOPS?#

Потому что они считают разное. TFLOPS — операции с плавающей точкой в секунду; TOPS — целочисленные (обычно INT8) операции в секунду, и у этих типов операций нет фиксированного соотношения — оно зависит от структуры данных чипа и от того, считается ли умножение-накопление за одну или за две операции. Любой единственный коэффициент пересчёта был бы догадкой. Преобразуйте внутри FLOPS или внутри OPS, но не между ними.

Что на самом деле измеряет семейство FLOPS?#

Операции с плавающей точкой в секунду при той точности, что определена в спецификации (FP64, FP32, FP16, INT8-as-float…). Важно: «1 TFLOPS FP16» и «1 TFLOPS FP32» — это не одинаковый объём работы; рейтинг TFLOPS чипа зависит от того, про какую точность вы спрашиваете. Всегда читайте точность рядом с числом; одной единицы недостаточно.

kFLOPS, MFLOPS, GFLOPS — все это степени 1000?#

Да. Каждый шаг внутри семейства — ×1000: 1 kFLOPS = 1000 FLOPS, 1 MFLOPS = 1000 kFLOPS, 1 GFLOPS = 1000 MFLOPS, и так далее до ZFLOPS (10²¹). Здесь нет двоично-десятичной неоднозначности, как в случае KiB против KB, — единицы вычислений повсеместно десятичные.

Почему в таблице «Все единицы» опущено другое семейство?#

Потому что эти единицы не преобразуются в ваши. Если вы ввели значение в FLOPS, таблица показывает все единицы FLOPS; единицы OPS опущены, а не показаны с выдуманными числами. Чтобы увидеть эквиваленты в OPS, повторно введите ваше значение как OPS-цифру (из спецификации, где реально указаны OPS) — и таблица заполнит колонку OPS.