Las demandas exponenciales que la IA impone en el rack y el centro de datos

Resumen

Explore cómo las crecientes demandas computacionales de la IA están reconfigurando la arquitectura de los centros de datos, los requisitos de energía y las soluciones de enfriamiento, con perspectivas de expertos de NVIDIA y Google sobre los futuros desafíos de escalado.

Programa de estudio

• Introducción a las Demandas Computacionales de la IA
Resumen del crecimiento de la IA y tendencias computacionales
Contexto histórico: De CPU a GPU a chips específicos para IA
• Arquitectura de Centros de Datos e IA
Arquitecturas tradicionales vs. optimizadas para IA
Rol de la computación de alto rendimiento (HPC) en IA
Infraestructura de red para cargas de trabajo de IA
• Requisitos de Energía para la IA
Tendencias de consumo de energía en cargas de trabajo de IA
Estrategias de entrega de energía y eficiencia
Estudio de caso: Innovaciones en gestión de energía de NVIDIA y Google
• Soluciones de Refrigeración para Infraestructura de IA
Métodos tradicionales de refrigeración vs. necesidades impulsadas por IA
Innovaciones en tecnología de refrigeración (refrigeración líquida, refrigeración por inmersión)
Consideraciones de impacto ambiental y sostenibilidad
• Desafíos de Escalabilidad en Infraestructura de IA
Cuellos de botella en la escalabilidad de la infraestructura de IA
Impacto del tamaño y complejidad de los modelos de IA en los requisitos de hardware
Tendencias futuras y soluciones de líderes de la industria
• Perspectivas e Ideas de Expertos de la Industria
Principales conclusiones de NVIDIA sobre la sinergia de hardware y software
Enfoque de Google para escalar operaciones de IA
Debate del panel: Preparando centros de datos para el futuro de la IA
• Estudios de Caso y Aplicaciones Prácticas
Ejemplos reales de centros de datos impulsados por IA
Asociaciones estratégicas en el desarrollo de infraestructura de IA
• Conclusión y Perspectivas Futuras
Resumen de las conclusiones principales
Tecnologías emergentes y su posible impacto en la infraestructura de IA
Preparación para la próxima generación de demandas de IA
• Recursos Suplementarios y Lecturas Adicionales
Artículos, documentos técnicos e investigaciones de NVIDIA y Google
Libros sugeridos y cursos en línea para un aprendizaje más profundo

Asignaturas

Programación