У січні Microsoft заявила, що 2024 рік стане роком «комп’ютера зі штучним інтелектом», і ми знаємо, що комп’ютери зі штучним інтелектом включатимуть кілька апаратних компонентів, які зараз відсутні в більшості систем Windows, а саме вбудований у нейронному процесорі (NPU) і нова клавіша Microsoft Copilot для клавіатур. Але наразі ми мало чули про те, що так званий ПК зі штучним інтелектом насправді зробить для користувачів.
Додаткова інформація
Ваш поточний ПК, ймовірно, не має процесора ШІ, але ваш наступний може
Microsoft і Intel починають обговорювати деякі деталі в рамках оголошення від Intel про нову програму для розробників комп’ютерів зі штучним інтелектом, яка заохочуватиме розробників програмного забезпечення використовувати локальне обладнання для створення функцій штучного інтелекту у своїх програмах.
Головні новини надходять від Tom’s Hardware, підтверджуючи, що ПК зі штучним інтелектом зможуть запускати «більше елементів Copilot», помічника чат-бота Microsoft зі штучним інтелектом, «локально на клієнті». Наразі Copilot покладається на обробку на стороні сервера навіть для невеликих запитів, створюючи затримку, яка допустима, якщо ви робите широкий запит інформації, але менша, якщо все, що вам потрібно зробити, це змінити налаштування або отримати основні відповіді. Локальний запуск генеративних моделей штучного інтелекту може також покращити конфіденційність користувачів, дозволяючи скористатися перевагами програмного забезпечення, наповненого штучним інтелектом, без автоматичного надсилання інформації в компанію, яка використовуватиме її для подальшого навчання моделі.
Зараз Windows рідко використовує локальні NPU, оскільки більшість сучасних ПК їх не мають. Функції веб-камери Surface Studio можуть використовувати NPU для енергоефективних відеоефектів і заміни фону, але на момент написання цієї статті це майже все. Операційні системи Apple і Google використовують NPU для ширшого спектру функцій обробки зображень і аудіо, включаючи розпізнавання облич і об’єктів, OCR, живу транскрипцію та переклад тощо.
Оголошення
Intel також заявила, що Microsoft вимагатиме, щоб NPU у «комп’ютерах зі штучним інтелектом наступного покоління» досягали швидкості 40 трильйонів операцій за секунду (TOPS), щоб відповідати її вимогам. Intel, AMD, Qualcomm та інші іноді використовують TOPS як високорівневий показник продуктивності під час порівняння своїх NPU; Чіпи для ноутбуків Meteor Lake від Intel можуть працювати 10 TOPS, тоді як чіпи для ноутбуків AMD Ryzen 7040 і 8040 досягають 10 TOPS і 16 TOPS відповідно.
На жаль для Intel, першою компанією, яка випустила NPU, придатний для локального живлення Copilot, може бути Qualcomm. Майбутні процесори компанії Snapdragon X, які давно вважаються відповіддю екосистеми Windows на чіпи Mac серії M від Apple, обіцяють до 45 TOPS. Чутки свідчать про те, що Microsoft переведе споживчу версію свого планшета Surface на чіпи Qualcomm після кількох років пропозиції як Intel, так і Qualcomm; Минулого тижня корпорація Майкрософт анонсувала оновлення Surface Pro з чіпами Meteor Lake від Intel, але продає їх лише компаніям.
З усього сказаного, TOPS — це лише один спрощений показник продуктивності. Як і під час використання FLOPS для порівняння продуктивності графіки, це неточно й не враховує варіації в тому, як кожен NPU обробляє різні завдання. А у версії Windows Arm все ще є проблеми сумісності програмного та апаратного забезпечення, які можуть і надалі стримувати її.
У рамках своєї програми для розробників Intel також пропонує «комплект для розробки ПК зі штучним інтелектом» на основі Asus NUC Pro 14, міні-ПК, створеного на основі кремнію Meteor Lake від Intel. Минулого року Intel офіційно припинила виробництво міні-ПК NUC, передавши бренд і всі його розробки Asus. Asus також займається гарантійним обслуговуванням, що залишилося, і програмною підтримкою для старіших NUC, розроблених і проданих Intel. NUC Pro 14 є одним із перших нових NUC, анонсованих після переходу, разом із міні-ігровим ПК ROG NUC.
