OpenAI объявляет о новых функциях для AI моделей во время мероприятия DevDay

Вчера OpenAI представила новые инструменты для разработчиков, которые позволят создавать приложения с использованием ее моделей ИИ во время вторника мероприятия DevDay в Сан-Франциско.

Согласно Inc., стартап поделился четырьмя основными обновлениями API (интерфейсом программирования приложений): RealTime, Prompt Caching, Model Distillation и Vision Fine-Tuning. Новые возможности позволят разработчикам использовать новую технологию OpenAI и применить ее в своих продуктах.

Самым новым и инновационным сервисом API является RealTime, который позволит разработчикам воспользоваться недавно запущенной голосовой функцией для ChatGPT. Новая функция будет обрабатывать аудио мгновенно — раньше это было возможно, но требовало транскрипции и подключения различных приложений — и будет быстрее и дешевле. Ожидается, что RealTime в будущем сможет также обрабатывать видео.

Prompt Caching позволяет разработчикам повторно использовать общие запросы для снижения затрат и более эффективной работы. «Это может сократить задержку до 80% и стоимость на 50% для длинных запросов», объяснила OpenAI на своей платформе для разработчиков.

Благодаря Модели Дистилляции разработчики смогут расширять и улучшать возможности меньших AI моделей, таких как GPT-4o mini, а Vision Fine-Tuning поможет приложениям, которые используют изображения, улучшить обнаружение объектов и лучше обрабатывать визуальный контент.

OpenAI поделилась на своем сайте и платформе для разработчиков более подробной информацией, примерами — включая видео и интервью с другими компаниями, использующими эти функции — и ценами на новые функции. Например, для RealTime тарифы будут составлять примерно $0.06 в минуту для аудио ввода и $0.24 для аудио вывода.

Это новое объявление поступило всего через несколько дней после того, как Мира Мурати — главный технический директор OpenAI — и другие руководители подали в отставку.