IA2 MIN

Poner la temperatura de una IA a cero no convierte sus respuestas en verdad

Ese ajuste cambia cómo se eligen las palabras. Puede reducir la variedad, pero no verifica fuentes y algunos modelos recomiendan conservar los valores de fábrica.

Interior del centro de datos de Google en Council Bluffs, imagen ilustrativa
Imagen: Google · Fotografía oficial

Bajar la temperatura puede hacer que una IA dé respuestas menos variadas, pero no es un interruptor contra las invenciones. El ajuste actúa al elegir la siguiente parte del texto. No comprueba si una fecha existe, si una cita es auténtica o si la fuente que falta respalda la respuesta.

Si estás usando un chatbot y no encuentras ese control, no te falta necesariamente un ajuste. Suele estar en herramientas de desarrollo y entornos que exponen parámetros del modelo. Sus nombres, rangos y efectos deben consultarse para el modelo concreto.

01

Qué se enfría cuando bajas la temperatura

Una IA genera texto por fragmentos llamados tokens. En cada paso asigna probabilidades a posibles continuaciones. La documentación de Hugging Face describe la temperatura como un control sobre esas probabilidades. Un valor bajo concentra la elección en las opciones más probables, mientras que uno mayor puede dar más espacio a alternativas.

La opción más probable no tiene por qué ser la correcta. Si el modelo asocia mal una obra con su autor, reducir la variedad puede hacer que repita el mismo error. Para revisar fuentes, nuestra guía de citas y DOI inventados propone comprobaciones sobre el documento original.

Sala de red del centro de datos de Google en Council Bluffs
Imagen: Google · Fotografía oficial
02

Top p recorta candidatos, no mide precisión

Top p selecciona un conjunto de posibles tokens según su probabilidad acumulada. La guía de Google lo distingue de la temperatura. Ninguno añade hechos nuevos ni verifica el texto que sale. Cambiar ambos a la vez también dificulta saber qué ajuste ha producido una diferencia.

No apliques la receta de poner todo al mínimo. Google recomienda mantener los valores predeterminados de temperatura, top p y top k en Gemini 3.x y advierte de posibles bucles o peor rendimiento al modificarlos. En ejecución local, algunas estrategias de generación ni siquiera utilizan muestreo.

Cableado del centro de datos de Google en The Dalles
Imagen: Google · Fotografía oficial
03

Una prueba que sí permite comparar

Empieza por el valor recomendado y conserva el mismo modelo, instrucciones y documento. Pide una tarea concreta, como extraer los importes de una tabla. Comprueba cada importe contra el original y repite la petición varias veces antes de cambiar un solo parámetro.

Anota por separado los errores de datos y los cambios de redacción. Una respuesta idéntica no demuestra exactitud, y una distinta puede seguir siendo correcta. Si falta información, aporta el documento o utiliza un sistema que la recupere, como explicamos en qué es RAG. No intentes sustituir la fuente con un número más bajo.

00

La conversación empieza aquí

Accede con una cuenta de apoyo para comentar. Entrar

Todavía no ha comentado nadie. ¿Estrenas tú?

TU SIGUIENTE RUTA

Sigue tirando del hilo de Modelos y agentes de IA

Si este tema te interesa, estas tres piezas son el mejor lugar por el que seguir.

ABRIR EL TEMA COMPLETO
  1. 01La caché de contexto puede abaratar una IA, pero no le da memoria ni respuestas gratisIA · 3 MIN
  2. 02Claude ya usa tus archivos privados en Slack. Su respuesta sí puede verla el equipoIA · 3 MIN
  3. 03Meta quiere que Muse vea lo que tú ves y te ayude a reservar tus próximos planesIA · 3 MIN

SIGUE LEYENDO

También te puede interesar

PORTADA