Нейронні процесори (NPU) стають звичним явищем у чіпах Intel і AMD після того, як кілька років вони були чимось, що здебільшого можна було знайти в смартфонах і планшетах (і Mac). Але оскільки все більше компаній намагаються використовувати більш генеративну обробку штучним інтелектом, редагування зображень і роботу чат-ботів локально на пристрої, а не в хмарі, можливість вимірювання продуктивності NPU стане більш важливою для людей, які приймають рішення про покупку.
Додаткова інформація
Творець Geekbench у версії 6 і чому бенчмарки важливі в реальному світі
Введіть Primate Labs, розробників Geekbench. Основний додаток Geekbench призначений для тестування продуктивності ЦП, а також обчислювальної продуктивності графічного процесора, але протягом останніх кількох років компанія експериментувала з додатковим проектом під назвою Geekbench ML («Машинне навчання»), щоб перевірити ефективність висновків NPU. . Тепер, коли ініціатива Microsoft Copilot+ починає працювати, а Intel, AMD, Qualcomm і Apple намагаються підвищити продуктивність NPU, Primate Labs переходить у Geekbench ML до версії 1.0 і перейменовує її на Geekbench AI, зміна, яка, імовірно, допоможе їй осідлати хвилю шуму, пов’язаного зі ШІ.
«Подібно до того, як робочі навантаження, пов’язані з процесором, відрізняються за тим, як вони можуть використовувати переваги кількох ядер або потоків для масштабування продуктивності (що потребує як одноядерних, так і багатоядерних показників у більшості пов’язаних тестів), робочі навантаження AI охоплюють діапазон рівнів точності, залежно від потрібне завдання та доступне обладнання», — написав Джон Пул з Primate Labs у дописі в блозі про оновлення. «Geekbench AI представляє підсумок низки тестів робочого навантаження, виконаних із даними одинарної точності, даними напівточності та квантованими даними, що охоплює різноманітність, що використовується розробниками з точки зору як точності, так і призначення в системах AI».
Окрім вимірювання швидкості, Geekbench AI також намагається виміряти точність, що важливо для робочих навантажень машинного навчання, які покладаються на отримання узгоджених результатів (наприклад, ідентифікація та каталогізація людей і об’єктів у бібліотеці фотографій).
Geekbench AI підтримує кілька AI-фреймворків: OpenVINO для Windows і Linux, ONNX для Windows, QNN від Qualcomm на ПК Arm на базі Snapdragon, CoreML від Apple на macOS і iOS, а також ряд фреймворків від постачальників на різних пристрої Android. Програма може виконувати ці робочі навантаження на центральному процесорі, графічному процесорі або NPU, принаймні, якщо на вашому пристрої встановлено сумісний NPU.
На ПК з Windows, де підтримка NPU та API, як-от Microsoft DirectML, все ще працюють, Geekbench AI підтримує NPU Intel і Qualcomm, але не AMD (поки).
«Ми сподіваємося додати підтримку AMD NPU у майбутній версії, коли ми матимемо більше ясності щодо того, як найкраще ввімкнути їх від AMD», — сказав Пул Ars.
Geekbench AI доступний для Windows, macOS, Linux, iOS/iPadOS та Android. Використовувати його можна безкоштовно, хоча ліцензія Pro дає вам інструменти командного рядка, можливість запускати тест без завантаження результатів у веб-переглядач Geekbench та деякі інші переваги. Хоча сьогодні версія програми 1.0, команда Primate Labs планує часто оновлювати програму для нових апаратних засобів, фреймворків і робочих навантажень за потреби.
«ШІ — це нічого, якщо не швидко змінюватися, — продовжив Пул у повідомленні про оголошення, — тому очікуйте нових випусків і оновлень у міру того, як потреби та функції ШІ змінюватимуться на ринку».
