Скорость генерации токенов (текста) у топовых ИИ. Лидер Gemini, которая выдает до 250 токенов в секунду или 700 символов русского языка в секунду. Причем даже их Pro модель быстрая.

Это ведь ценно для RAG, когда человек пишет вопрос и ожидает быстро ответ.

Русский ИТ бизнес