Introducción al aprendizaje automático: Modelos generativos

Mientras que un modelo discriminativo aprende p(y|x), un modelo generativo representa p(x) o p(x|c), a menudo maximizando

Los VAE utilizan variables latentes y un límite variacional; las GAN entrenan el generador y el discriminador de forma adversaria; los modelos de difusión aprenden a revertir un proceso de ruido.

Diagram 1 · Use the button to switch views

Diagrama: Duskcoil. No establece la veracidad, los derechos, la procedencia ni la seguridad de la salida generada.

Evalúa el cumplimiento de las condiciones, la veracidad, la privacidad, los derechos de autor, el sesgo, la salida dañina y la divulgación, no solo las métricas visuales. No trates el material generado como evidencia sin la verificación de la fuente primaria.

• Bayes Variacional de Autocodificación
• Modelos Probabilísticos de Difusión con Eliminación de Ruido

Tres familias y sus ventajas y desventajas en la implementación

Un VAE utiliza el codificador q_\phi(z|x) y el decodificador p_\theta(x|z) y maximiza un ELBO que equilibra la reconstrucción con la regularización de la distribución latente. Una GAN entrena un generador y un discriminador en el juego minimax \min_G\max_D\mathbb E[\log D(x)]+\mathbb E[\log(1-D(G(z)))]. Puede producir resultados nítidos, pero el colapso modal y el entrenamiento inestable siguen siendo motivo de preocupación. Un modelo de difusión añade gradualmente ruido a x_0 y aprende a predecir el ruido \epsilon para poder aproximar el proceso inverso. Calidad, velocidad, controlabilidad, probabilidad y memoria son diferentes compensaciones.

Casos de fallo y evaluación

Las imágenes y la prosa plausibles no son automáticamente ciertas. La memorización de frases de entrenamiento, la filtración de personas, marcas registradas o Los datos confidenciales, los resultados irrelevantes para las instrucciones, la amplificación de sesgos y las citas inventadas son fallos comunes. Combine el rastreo de procedencia, la búsqueda de similitud, la revisión de expertos, las pruebas de penetración y la evaluación humana específica para cada condición, en lugar de depender de una sola métrica automática. Nunca utilice los resultados generados como evidencia primaria para operaciones médicas, legales o de seguridad.

Registre la condición de entrada, la solicitud del sistema, la versión del modelo, la semilla aleatoria, los filtros y el tiempo de generación. Verifique los derechos de autor, la privacidad y los términos de uso; no envíe información confidencial a un servicio externo. Rechace las solicitudes peligrosas y solicite aclaraciones para las ambiguas. Las imágenes generadas deben etiquetarse como sintéticas, y se debe considerar el consentimiento y el método de distribución para las personas.

1. Especifique el objetivo de generación y los usos prohibidos.

2. Realice un seguimiento de la procedencia, la licencia y las solicitudes de eliminación.

3. Evalúe por separado la adherencia, la veracidad, las fugas y los sesgos.

4. Proporcione aprobación humana, verificación de la fuente, rechazo y reversión.

5. Perfil de IA Generativa del NIST )

Condicionamiento, búsqueda y reproducibilidad

Proporcionar una condición no garantiza su cumplimiento. Una guía sólida sin clasificadores puede mejorar el cumplimiento, aunque reduce la diversidad o produce saturación. La temperatura, el top-p, el número de iteraciones y la escala de guía son parámetros de calidad y especificaciones para la reproducibilidad y el coste computacional. Guarde el identificador del modelo, el hash de peso, el planificador, la semilla y el preprocesamiento en lugar de usar valores predeterminados.

Al recuperar datos o generar condiciones de datos externos, mantenga el texto generado separado de la evidencia recuperada. Una URL existente no prueba que una afirmación esté respaldada. Almacene la hora de búsqueda, la consulta, la versión del documento y el intervalo citado; si la evidencia es insuficiente, indíquelo en lugar de adivinar. Valide la salida estructurada con JSON Schema y pruebe la sintaxis y la veracidad de forma independiente.

Comparación del diseño de evaluación

Incluya instrucciones ambiguas, condiciones contradictorias, semejanzas con personas conocidas, cadenas de apariencia personal, dominios peligrosos e idiomas no compatibles en el conjunto de evaluación. Informe los peores casos graves y la tasa de rechazo, además de los promedios. La evaluación humana debe documentar las indicaciones, el orden, el enmascaramiento y el acuerdo entre evaluadores.

Caso de fallo: de una demostración exitosa a un lanzamiento sin supervisión

Un pequeño conjunto de ejemplos atractivos oculta la inestabilidad en indicaciones repetidas, la inyección de indicaciones, la salida similar a los datos de entrenamiento y la pérdida de condiciones en conversaciones largas. Enviar la entrada del usuario directamente al entrenamiento futuro puede perpetuar información personal o Datos abusivos. Defina el consentimiento, el propósito, la retención y las rutas de eliminación; aísle y revise los candidatos para el entrenamiento. Otorgue a los modelos que utilizan herramientas el mínimo privilegio, validación de argumentos, confirmación antes de la ejecución y límites de costo y llamadas.

Una implementación pequeña y gradual

1. Separe los lugares que realmente necesitan generación de aquellos donde la búsqueda, las plantillas o la intervención humana son suficientes.

2. Convierta las condiciones de aceptación y prohibición en un conjunto de evaluación fijo con ejemplos.

3. Mantenga los filtros de entrada/salida, las comprobaciones de evidencia y la validación del esquema independientes del modelo.

4. Realice pruebas en segundo plano con una audiencia limitada y mida las clases de fallos, la latencia, los reintentos y el esfuerzo de revisión.

5. Fije las versiones, implemente gradualmente y vuelva a una respuesta segura o desactive la función en caso de un incidente grave.

6. Vuelva a ejecutar los conjuntos de datos corregidos y de incidentes después de cada actualización para detectar regresiones y mejoras.

La calidad no se define con un único parámetro. Una especificación del producto debe indicar qué no se genera, qué evidencia se muestra y quién aprueba el resultado.

• [NIST AI 600-1: Perfil de IA generativa] https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf )
• Principios de IA de la OCDE

Límites operativos y gestión del cambio

El límite de responsabilidad debe ser visible en la interfaz. Los borradores que los usuarios pueden editar, los resúmenes verificados y los comandos que se ejecutan automáticamente no deben tener el mismo aspecto visual. Se debe mostrar que se genera un resultado, qué se ha verificado, las fuentes de referencia y la hora de la última actualización. Las acciones de alto impacto deben convertirse en candidatos escritos y pasar por la autorización y la aprobación del usuario, en lugar de ejecutarse directamente desde el texto generado.

Las actualizaciones de proveedores, los cambios de filtros y los cambios en las indicaciones son cambios de comportamiento. Se deben fijar versiones reproducibles y comparar las diferencias, incluidas las entradas normales rechazadas recientemente, las regresiones específicas del idioma, el costo y la latencia. Al retirar un elemento, se debe verificar el alcance de la eliminación para los registros, las incrustaciones, las cachés y los datos de ajuste fino. Se deben agregar fallos anonimizados del equipo rojo a las pruebas de regresión, incluidas las paráfrasis, e interpretar el recuento de incidentes junto con el uso, la tasa de rechazo y la revisión. Rechazos.