На прошлой неделе OpenAI провел конференцию DevDay.
Вот ключевые моменты:
➡️ Realtime API: теперь разработчики могут встроить в свои продукты ИИ, с которыми можно разговаривать почти без задержки в текстовом или голосовом формате.
➡️ Тонкая настройка зрения: разработчики смогут использовать изображения для настройки своих приложений. Достаточно загрузить 100 изображений, чтобы научить модель распознавать необходимые объекты.
➡️ Кэширование запросов для API: результаты запросов будут храниться для повторного использования. Это значительно сэкономит время отклика и нагрузку на серверы, так как модели не придется каждый раз снова генерировать ответ на один и тот же промпт.
➡️ Дистилляция моделей: можно будет сжимать крупные модели до более компактных версий с той же производительностью на узком спектре задач.