- July 17, 2024
- 1 min read
Anthropic подвоює ліміт токенів для Claude 3.5 Sonnet API до 8K
У світі штучного інтелекту, де інновації постійно рухаються вперед, компанія Anthropic зробила значний крок у розширенні можливостей свого потужного AI-моделі Claude 3.5 Sonnet. Оголошено, що ліміт виходу токенів цієї моделі було подвоєно з 4 096 до 8 192 токенів, надаючи розробникам більшу гнучкість у генеруванні довших і більш змістовних відповідей на основі штучного інтелекту.
Розширення можливостей для розробників
Ця оновлена функція вже доступна для розробників, які використовують API Anthropic. Щоб отримати доступ до цього розширеного функціоналу, розробникам необхідно включити спеціальний бета-заголовок у своїх API-викликах: “anthropic-beta”: “max-tokens-3-5-sonnet-2024-07-15”. Цей заголовок потрібно додати до параметра extra_headers під час створення повідомлень через API.
Оновлення відображається в інтерфейсі параметрів моделі, який показує максимальне вибірку токенів 8 192. Налаштування температури залишається на рівні 0,7, забезпечуючи баланс між креативністю та послідовністю у вихідних даних.
Розширені можливості для генерації тексту
Розробники можуть реалізувати цю функцію, оновивши свої API-виклики з новим заголовком, як показано в наданому фрагменті коду. Збільшення ліміту токенів дає розробникам більше можливостей для генерації розширеного контенту, потенційно покращуючи застосування в таких сферах, як генерація довгих текстів, детальний аналіз та вирішення складних завдань. Збільшений ліміт токенів дозволяє моделі Claude 3.5 Sonnet створювати більш розширені та витончені виходи без необхідності кількох викликів API або обрізання тексту.
Ця зміна відкриває нові можливості для розробників, які працюють із великомасштабним генеруванням тексту та складними мовними завданнями. – Команда DevRel Anthropic
Реакція користувачів та плани на майбутнє
У відповідь на запити користувачів у соціальних мережах, команда DevRel Anthropic пояснила, що ця зміна наразі обмежена API і ще не була реалізована на claude.ai. Вони також висловили надію на майбутнє впровадження у веб-інтерфейсі. Збільшення ліміту токенів відкриває нові горизонти для розробників, які працюють із великомасштабним генеруванням тексту та складними мовними завданнями.
Висновок
Подвоєння ліміту виходу токенів для Claude 3.5 Sonnet API від Anthropic є значним кроком вперед у світі штучного інтелекту. Ця оновлена функція дозволяє генерувати більш змістовні та деталізовані відповіді, розширюючи можливості застосування AI у різноманітних галузях. Для розробників це означає більше можливостей для інновацій та створення потужних рішень на основі штучного інтелекту. Платформа UBOS пропонує різноманітні інструменти та ресурси для розробки додатків на основі AI, включаючи інтеграцію з провідними AI-моделями, такими як Claude 3.5 Sonnet. Приєднуйтесь до партнерської програми UBOS та розпочніть свою подорож у світ інноваційних рішень на основі штучного інтелекту вже сьогодні.