El camino hacia la autonomía verificable para los agentes de IA

Resumen

Explora el camino hacia la autonomía verificable en agentes de IA con Zheng Leong Chua de Automata Network en esta presentación de ETHTaipei 2025.

Programa de estudio

• Introducción a la Autonomía Verificable
Visión General de la Autonomía de la IA
Importancia de la Verificabilidad en la IA
Desafíos Clave para Lograr la Autonomía Verificable
• Fundamentos Técnicos
Conceptos Básicos de Aprendizaje Automático y Marcos de IA
Asegurando la Robustez en Modelos de IA
Métodos Formales en la Verificación de IA
• Arquitecturas de Agentes de IA
Modelado y Simulación Basados en Agentes
Arquitecturas que Soportan la Autonomía
Métodos de Verificación para Diferentes Arquitecturas
• Asegurando Seguridad y Fiabilidad
Técnicas de Garantía de Seguridad
Protocolos de Pruebas y Validación
Estudios de Caso de Sistemas de IA Seguros y Confiables
• Consideraciones Éticas y Regulatorias
Implicaciones Éticas de la IA Autónoma
Panorama Regulatorio Actual
Direcciones Futuras para la Regulación de la IA
• Herramientas y Técnicas para la Verificación
Herramientas de Verificación Automatizada
Verificación de Modelos para Sistemas de IA
Entornos de Simulación y Pruebas
• Desarrollo y Despliegue de Agentes de IA Verificables
Mejores Prácticas para el Desarrollo
Estrategias de Despliegue para IA Autónoma
Mecanismos de Monitoreo y Actualización
• El Futuro de la IA Verificable
Tendencias y Tecnologías Emergentes
Plan para la Investigación Futura
Impacto en la Industria y la Sociedad
• Conclusión y Preguntas y Respuestas
Resumen de los Puntos Clave Aprendidos
Discusión y Preguntas Abiertas
Sesión Interactiva de Preguntas y Respuestas con Zheng Leong Chua

Asignaturas

Ciencias de la Computación