Більше швидкості та менше обмежень з o3-mini

У грудні, під час 12-денного марафону «Ship-mas», представили o3-mini. Це оновлена модель, яка має схожу продуктивність до моделі o1 у математиці, програмуванні та науці, але працює швидше. Ось її головні плюси:

Контроль потужності
Тепер ти можеш налаштовувати, скільки «розумових зусиль» докладатиме ШІ для відповіді на твої запити (доступні низький, середній та високий рівні міркування). Приклад з документації AI Vercel SDK :

import { generateText } from 'ai';

import { openai } from '@ai-sdk/openai';

// Reduce reasoning effort for faster responses

const { text } = await generateText({

model: openai('o3-mini'),

prompt: 'Explain quantum entanglement briefly.',

providerOptions: {

openai: { reasoningEffort: 'low' },

},

});

Структуровані відповіді
Модель підтримує специфікацію «JSON Schema». Це спрощує створення чітких та структурованих відповідей для автоматизованих робочих процесів.
Технічні обчислення
o3-mini має покращені параметри для роботи з даними з програмування чи математики.
Інтеграція з інструментами
Як і попередні моделі, o3-mini інтегрується з різними функціями та інструментами, що робить її зручною для автоматизації на базі ШІ.
Ширші відповіді
Модель o3-mini обробляє аж 100,000 токенів. Це у 6 разів більше порівняно з GPT-4o, який обробляє лише 16,000 токенів, й означає, що o3-mini може генерувати об’ємніші та інформативніші відповіді.

Де можна знайти o3-mini?

Ось де вона буде для тебе доступна:

ChatGPT: o3-mini доступна для всіх рівнів користувачів ChatGPT. Безоплатні користувачі можуть обрати “Reason” у вікні повідомлень або повторно створити відповідь, щоб використовувати o3-mini.
OpenAI API: розробники можуть інтегрувати o3-mini у свої застосунки, використовуючи API. Модель підтримує виклик функцій, структуровані відповіді та інші корисні можливості.
GitHub Copilot: o3-mini доступна в Copilot Pro, Business та Enterprise. У VS Code та вебверсії можна змінювати модель для кращої роботи з кодом.
Azure OpenAI Service: ще один варіант для розробників, які хочуть використовувати o3-mini у своїх проєктах через Microsoft Azure.

Як щодо безпеки?

o3-mini використовує ті ж механізми безпеки, що й інші моделі OpenAI: фільтрацію контенту, обмеження на шкідливі запити та політики використання. Проте, як і будь-який ШІ, вона не ідеальна та може давати некоректні або упереджені відповіді. Використовувати варто з розумінням її можливостей та обмежень.

Шинчвен Чжан прокоментував у своєму технологічному блозі цю тему:

Консультативна група з безпеки (SAG) OpenAI класифікувала модель o3-mini як модель середнього ризику в цілому за шкалою готовності. Вона оцінює середній ризик для переконання, ХБРЯ (хімічної, біологічної, радіологічної, ядерної) та автономності моделі, а також низький ризик для кібербезпеки.

Післяслово

o3-mini поки що не вміє обробляти зображення, але це не стає перешкодою до масового користування моделлю. Вона добре справляється з аналізом та ще й коштує дешевше у порівнянні з тими ж моделями o1 чи GPT-4o. І найголовніше — ця o3-mini вперше доступна навіть безоплатним користувачам ChatGPT, що робить штучний інтелект ще доступнішим.

А ти плануєш користуватись o3-mini? Ділись у коментарях.