¿Por qué un chatbot da respuestas diferentes a la misma pregunta?
Un asistente conversacional da respuestas diferentes a la misma pregunta porque genera cada respuesta eligiendo entre las palabras que probablemente vengan a continuación, y esa elección suele incluir cierto grado de aleatoriedad. No está recuperando una única respuesta almacenada.
Imagine un estudio ficticio de arquitectura con 30 personas, Fairline Architects. Un socio pide al responsable de oficina, Rowan, que explique tres cosas antes de que el estudio adopte un asistente de IA. Las notas de Rowan dicen: 'le pregunté dos veces por las normas sobre obras que no requieren permiso y recibí dos respuestas distintas'; 'citó un número de documento de orientación urbanística que no existe'; 'la herramienta de imágenes hizo un boceto muy bonito del nuevo estudio, pero las ventanas no están alineadas'. El socio quiere saber si la herramienta está averiada. No lo está. Hace exactamente aquello para lo que fue creada.
¿Cómo se entrena un modelo de IA generativa?
Un modelo de lenguaje de gran tamaño se entrena primero con una enorme colección de textos para predecir el siguiente fragmento de texto y después recibe entrenamiento adicional para seguir instrucciones y dar respuestas útiles. El glosario de Anthropic describe el preentrenamiento como el entrenamiento con un gran corpus sin etiquetar para predecir la siguiente palabra a partir del contexto anterior, seguido de un ajuste fino y aprendizaje por refuerzo a partir de comentarios humanos, en el que las personas clasifican respuestas de ejemplo y el modelo aprende a preferir las mejores.
El modelo no guarda una copia de cada documento. Ajusta miles de millones de valores internos hasta que sus predicciones coinciden con los patrones de los datos. El resultado se parece más a una noción muy detallada de cómo suelen relacionarse el lenguaje y las ideas que a una biblioteca en la que se pueda buscar.
¿Qué son los tokens y cómo los predice el modelo?
Los tokens son las pequeñas unidades que un modelo lee y escribe, a menudo una palabra o parte de una palabra. El modelo escribe prediciendo repetidamente cuál podría ser el siguiente token. El curso de aprendizaje automático de Google describe un modelo de lenguaje como un sistema que estima la probabilidad de que un token o una secuencia de tokens aparezca dentro de una secuencia más larga, y señala que unos 400 tokens equivalen aproximadamente a 300 palabras en inglés.
En cada paso, el modelo puntúa muchos posibles tókenes siguientes. Después, la aplicación elige uno: a veces el más probable y, a menudo, uno seleccionado por muestreo entre las opciones probables. Un ajuste llamado temperatura controla cuánto se arriesga en esa elección: los valores más altos producen formulaciones más variadas y los más bajos, formulaciones más predecibles. Anthropic señala que, incluso con la temperatura más baja, los resultados no son totalmente deterministas. Esa es la respuesta a la primera observación de Rowan.
¿Cómo funcionan los generadores de imágenes con IA?
Muchos generadores de imágenes con IA utilizan un método llamado difusión: el modelo aprende a eliminar el ruido de las imágenes y luego crea una imagen nueva partiendo de ruido aleatorio y refinándolo paso a paso, guiado por su descripción textual. El curso sobre difusión de Hugging Face describe el entrenamiento como un proceso en el que se añade ruido en distintas cantidades y se enseña al modelo a corregirlo, y la generación como un refinamiento gradual del ruido aleatorio hasta que surge una imagen.
Como el modelo genera píxeles verosímiles en lugar de seguir el plano de un arquitecto, detalles como la alineación de las ventanas, el texto de los letreros o el número de dedos pueden salir mal. Esa es la tercera observación de Rowan.
¿Qué implica esto para su forma de usar las herramientas?
Significa que debe proporcionar a la herramienta los datos en los que quiere que se base, en lugar de confiar en su memoria. Instrucción poco precisa: '¿Qué normas permiten construir una ampliación en la parte trasera sin solicitar un permiso urbanístico?' La respuesta es fluida, varía entre intentos y puede mezclar normas de distintos años o países, además de incluir una referencia documental verosímil pero inventada, lo que explica la segunda nota de Rowan.
Instrucción mejorada: Rowan pega la sección pertinente de las directrices oficiales de urbanismo y pide: 'Utilizando únicamente el texto siguiente, resuma en una tabla los límites de tamaño para una ampliación trasera de una sola planta. Si el texto no contempla algún aspecto, indique que no se contempla.' Ahora la tarea del modelo consiste en reformular y organizar un texto que puede ver, algo que hace bien, y Rowan puede contrastar cada línea con la fuente.
¿Cuáles son los límites de la IA generativa?
Los principales límites son que la IA generativa puede afirmar falsedades con seguridad, tiene una fecha de corte de conocimientos salvo que esté conectada a búsquedas o documentos, solo puede trabajar con lo que cabe en su ventana de contexto y puede reflejar los sesgos de sus datos de entrenamiento. Ninguno de estos límites es un fallo que se resuelva pidiendo las cosas con más cortesía; se derivan de cómo funcionan los modelos.
Verifique los hechos, las cifras, los nombres y las referencias con una fuente de confianza, y proporcione material de referencia a la herramienta siempre que la precisión sea importante.
¿Dónde encaja esta lección en el catálogo de Tosheo.ai?
Cómo funciona la IA generativa pertenece a la categoría Fundamentos de IA. Es una de las primeras lecciones de IA para principiantes y la lección inicial del curso de IA generativa. En Tosheo.ai, la tarea práctica le pide que prediga y luego compruebe cómo se comporta una herramienta al modificar parámetros como la temperatura o al proporcionar un texto de referencia. Los comentarios basados en la guía de evaluación comprueban que su explicación resulte comprensible para un colega.