El camino hacia la autonomía verificable para los agentes de IA

Resumen

Programa de estudio

• Introducción a la Autonomía Verificable
Visión General de la Autonomía de la IA
Importancia de la Verificabilidad en la IA
Desafíos Clave para Lograr la Autonomía Verificable
• Fundamentos Técnicos
Conceptos Básicos de Aprendizaje Automático y Marcos de IA
Asegurando la Robustez en Modelos de IA
Métodos Formales en la Verificación de IA
• Arquitecturas de Agentes de IA
Modelado y Simulación Basados en Agentes
Arquitecturas que Soportan la Autonomía
Métodos de Verificación para Diferentes Arquitecturas
• Asegurando Seguridad y Fiabilidad
Técnicas de Garantía de Seguridad
Protocolos de Pruebas y Validación
Estudios de Caso de Sistemas de IA Seguros y Confiables
• Consideraciones Éticas y Regulatorias
Implicaciones Éticas de la IA Autónoma
Panorama Regulatorio Actual
Direcciones Futuras para la Regulación de la IA
• Herramientas y Técnicas para la Verificación
Herramientas de Verificación Automatizada
Verificación de Modelos para Sistemas de IA
Entornos de Simulación y Pruebas
• Desarrollo y Despliegue de Agentes de IA Verificables
Mejores Prácticas para el Desarrollo
Estrategias de Despliegue para IA Autónoma
Mecanismos de Monitoreo y Actualización
• El Futuro de la IA Verificable
Tendencias y Tecnologías Emergentes
Plan para la Investigación Futura
Impacto en la Industria y la Sociedad
• Conclusión y Preguntas y Respuestas
Resumen de los Puntos Clave Aprendidos
Discusión y Preguntas Abiertas
Sesión Interactiva de Preguntas y Respuestas con Zheng Leong Chua

---

Asignaturas

Ciencias de la Computación