Planificar capacidad API: RPM, TPM y picos de demanda
Una lista práctica para concretar la conversación sobre capacidad empresarial.
Dos medidas, preguntas distintas
RPM indica solicitudes por minuto; TPM indica tokens por minuto. Los límites pueden distinguir tipos de tokens y ámbitos, por lo que deben verificarse para el proyecto real.
Describa la carga
Comparta el caso de uso, tasas media y máxima, tamaños de entrada y salida, concurrencia y región. El uso mensual no describe por sí solo una ráfaga breve.
Defina los límites comerciales
Confirme la capacidad comprometida, la medición y la respuesta si la demanda supera el acuerdo. Revise el origen y la autorización antes del suministro.
Prepare una muestra representativa
Una carga representativa concreta la planificación. Use ejemplos sintéticos o anonimizados, nunca credenciales ni registros confidenciales.
Lectura adicional: documentación oficial de límites. Verifique los límites actuales en su propio proyecto.