Modelo Laya vs API de Jev

Qué es el modelo Laya

Laya es un modelo de decisión de código abierto de Convai Innovations, con licencia Apache 2.0. Se instala con pip install laya, o se cargan los checkpoints de convaiinnovations/laya en Hugging Face. No escribe texto.

Una llamada lleva un estado y preguntas tipadas. choice elige una opción que tú nombraste. score coloca el estado en una escala ordenada que tú escribiste. noul devuelve la probabilidad de que una afirmación sea cierta. El checkpoint en inglés es un ModernBERT de 421M con un presupuesto de 512 tokens. Un checkpoint multilingüe cubre más de 100 idiomas. La ficha de Laya dice que una llamada enrutada tarda unos 33 ms en una GPU T4.

La misma ficha trata los checkpoints base como un punto de partida. En el benchmark typed-decisions de Laya, el checkpoint base en inglés obtiene 0,362 de exactitud y el laya-typed-decisions afinado obtiene 0,766. Laya midió ambos. Ese par no es una comparación con Jev.

Tres formas de ejecutar la decisión

La ficha de Laya compara Laya con la API Jev de TypeSafe. Este sitio es una tercera opción, con límites más estrechos. Cualquier cifra de exactitud de Jev citada abajo sale de esa ficha. Laya dice que esas cifras de Jev las publicó un tercero y no se midieron en la misma ejecución.

Cuándo ejecutar Laya tú mismo

Ejecuta Laya cuando el modelo tenga que quedarse en tus máquinas, cuando puedas afinarlo con tus decisiones etiquetadas, o cuando ya tengas una GPU y no quieras una tarifa por llamada. Ajusta las temperaturas de calibración con tus datos antes de usar una probabilidad como umbral. La ficha de Laya dice que los checkpoints sin calibrar son demasiado confiados.

Cuándo llamar a esta API de Jev

Llama a esta API cuando un Choice quepa en 2 a 8 opciones y quieras una clave y un POST hoy. No instalas un modelo ni mantienes una GPU; la primera clave funciona de inmediato. Una llamada correcta cuesta 1 crédito, lleve una pregunta o seis. Las fallidas son gratis. La ruta es POST /api/v1/decisions. El id del modelo es jev-1.13.

Choice con muchas etiquetas

La ficha de Laya dice que Jev de TypeSafe encaja mejor cuando un Choice tiene más de unas 20 opciones. En Banking77 informan 0,870 para Jev, medido en 72 etiquetas, y 0,425 para Laya con el presupuesto de tokens por defecto, medido en 77 etiquetas. Este endpoint no puede aceptar esa pregunta. Choice se detiene en 8 opciones. Para decenas de etiquetas en una pregunta, usa la API de TypeSafe en api.typesafe.ai, o parte las etiquetas en una lista corta para este endpoint o para una llamada Laya autoalojada con un head budget mayor.

FAQ de Laya y Jev