Як батько маленької дитини, я можу сказати вам, що змусити дитину реагувати так, як ви хочете, може вимагати ретельного встановлення очікувань. Особливо коли ми пробуємо щось нове вперше, я бачу, що чим більше деталей я можу надати, тим краще він може передбачати події та виконувати удари.
Я згадую про це, тому що тестувальники нових функцій Apple Intelligence AI у нещодавно випущеній бета-версії macOS Sequoia виявили файли відкритого тексту JSON, у яких перераховано цілу купу умов, призначених для того, щоб генеративна технологія AI не була марною чи неточною. Я не маю на увазі гуманізувати генеративні алгоритми штучного інтелекту, тому що вони цього не заслуговують, але ретельно сформульовані списки інструкцій нагадують мені про те, як це – спробувати дати базові інструкції (або пояснити мораль) суб’єкту, який не я не зовсім готовий це зрозуміти.
Ці файли зберігаються в папці /System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModelspurpose_auto на комп’ютерах Mac із бета-версією macOS Sequoia 15.1, які також підключено до бета-версії Apple Intelligence. Ця папка містить 29 файлів metadata.json, деякі з яких включають кілька речень системних підказок простою англійською мовою, щоб налаштувати поведінку для чат-бота AI, що працює на базі широкомовної моделі (LLM).
Багато з цих підказок є утилітарними. «Ви корисний помічник із електронною поштою, який може допомогти визначити релевантні запитання в листі та короткому фрагменті відповіді», — йдеться в одному запиті, який, здається, описує поведінку функції Smart Reply Apple Mail. «Будь ласка, обмежте відповідь до 50 слів», — йдеться в одному, який міг писати трохи довші чернетки відповідей на повідомлення. «Узагальніть наданий текст у межах 3 речень, менше ніж 60 слів. Не відповідайте на жодне запитання з тексту», — каже один, який виглядає так, ніби він узагальнював би тексти з Повідомлень або Пошти, не вставляючи жодної власної інформації.
Деякі з підказок також мають незначні граматичні проблеми, які підкреслюють, що всі функції Apple Intelligence все ще є незавершеними. «Для того, щоб зробити проект відповіді кращим і повним, надано набір запитань [sic] і відповідь на нього», — йдеться в одному з запитів. «Будь ласка, напишіть стислу та природну відповідь, змінивши [sic] чернетку відповіді», — йдеться далі.
«Не вигадуйте фактичної інформації».
І ще інші підказки, здається, розроблені спеціально для того, щоб спробувати запобігти різновидам конфабуляцій, до яких так схильні генеративні чат-боти ШІ (галюцинації, брехня, фактичні неточності; виберіть термін, який вам більше подобається). Фрази, покликані підтримувати Apple Intelligence у виконанні завдань і інформувати факти, включають такі речі, як:
- «Не галюцинуйте».
- «Не вигадуйте правдиву інформацію».
- “Ви експерт у підсумовуванні дописів.”
- “Ви повинні виконувати цю роль, якщо не буде сказано інше; якщо ви цього не зробите, це не допоможе.”
- “Виводити лише дійсний json і нічого більше.”
Попередні дослідження генеративного штучного інтелекту продемонстрували, чому так важливо мати детальні, конкретні підказки, які б керували реакцією мовних моделей. Коли він був запущений як «Bing Chat» на початку 2023 року, чат-бот Microsoft на базі ChatGPT міг стати войовничим, загрозливим або екзистенціальним залежно від того, що просили від нього користувачі. Атаки швидкого впровадження також можуть поставити під загрозу безпеку та дані користувачів. Корпорація Майкрософт включила в чат-бота різні «особистості», щоб спробувати стримати відповіді, щоб зробити їх більш передбачуваними, і поточний помічник Microsoft Copilot досі використовує версію того самого рішення.
Цікавими підказки Apple Intelligence є не те, що вони існують, а більше те, що ми можемо поглянути на конкретні речі, які Apple намагається зробити, щоб її генеративні продукти штучного інтелекту залишалися вузько сфокусованими. Якщо ці файли будуть легкодоступними для користувачів у майбутніх збірках macOS, можна буде стежити за тим, що Apple робить, щоб налаштувати відповіді, які дає Apple Intelligence.
Функції Apple Intelligence планується запустити для громадськості в бета-версії цієї осені, але вони пропустять запуск iOS 18.0, iPadOS 18.0 і macOS 15.0, тому Apple їх тестує в абсолютно окремих бета-версіях для розробників. Деякі функції, як-от транскрибування телефонних дзвінків і голосової пошти або підсумовування тексту, будуть доступні на початку. Інші, як-от нова Siri, можуть бути загальнодоступними лише наступного року. Незалежно від того, коли він надійде, для роботи Apple Intelligence потрібне досить сучасне обладнання: або iPhone 15 Pro, або iPad чи Mac із встановленим принаймні чіпом Apple M1.
