📄 Jeff - decisiones tipadas (transcripción)
Fuente: raw/articles/Jeff - decisiones tipadas.md
Autor: no identificado (transcripción de YouTube, en inglés)
Tipo: transcripción de video
Resumen
Video de casos de uso sobre Jeff (el modelo de decisiones de Type Safe, la misma familia que jev en este wiki). El argumento central: la mayor parte del trabajo de un agente no es escribir, es decidir, y cada decisión se está pagando a precio de modelo grande. Jeff responde solo a preguntas tipadas (choice, score, null) en milisegundos y por fracciones de céntimo, así que se intercala antes de la llamada al modelo caro.
Takeaways clave
- Jeff no escribe: no es un chat. Recibe texto + pregunta y devuelve una decisión con un número de confianza. Toda pregunta debe ser
choice,scoreonull(sí/no). - Cifras que da el video: hasta 200× más rápido y 400× más barato que los modelos grandes; el anuncio del fundador (uno de los creadores de ChatGPT) superó 40M de vistas.
- Prueba propia del autor: 100 correos clasificados en 4 categorías → ~90/100 correctos, en segundos, por menos de 1 céntimo.
- Cinco casos de uso (los cuatro primeros son por tarea, el quinto transversal):
- (1) Triaje de bandeja: choice (categoría) + score (urgencia 1-10) + null (¿espera respuesta?) antes de que ningún agente lea el correo → solo lo lee el agente que puede contestarlo.
- (2) Silenciar cron jobs: el job pregunta “¿hay algo que el humano deba ver?”; si no, no se envía mensaje. Evita 24 updates vacíos al día.
- (3) Puntuar leads: score 0-10 de intención de compra para ordenar una lista de 100 leads por un par de céntimos.
- (4) Enrutar a un agente: choice entre tus propios agentes; si Jeff duda, se pregunta al humano.
- (5) Enrutar a un modelo (light / strong): el que más ahorra — cada tarea pregunta “light or strong”; lo barato (búsquedas, resúmenes) va al modelo ligero, y código, planes largos, dinero o clientes al fuerte. Si Jeff duda, gana el fuerte (fail-safe hacia calidad).
- Instalación en dos pasos: (a) API key en
console.typesafe.ai— 5 $ de crédito inicial ≈ 120M tokens, y solo se cobra la entrada, la salida es gratis — o vía OpenRouter con límite de crédito; (b) dos prompts: uno conecta la key (nunca pegada en el chat: comando de terminal que la guarda en el servidor) y otro crea una skill reutilizable “Jeff Decides”. - Riesgo de fiabilidad: la pieza débil no es la idea sino la disponibilidad real del modelo por API — ver la nota de OpenRouter en jev.
Nota
Transcripción literal, con marcas [music] del STT. Nombres propios dudosos por la transcripción automática: “Jeff” (por Jev), “Type Safe” (por TypeScheme AI), “Accordo” (dashboard del autor).