Les agents superintelligents représentent des risques catastrophiques - LLM à sécurité garantie

Aperçu

Explorez les risques catastrophiques des agents d'IA superintelligente avec Yoshua Bengio, qui propose des alternatives plus sûres comme "l'IA Scientifique" conçue pour expliquer plutôt qu'agir, ce qui pourrait accélérer le progrès scientifique tout en évitant les dangers liés à une autonomie agentive…

Programme

• Introduction à l'IA superintelligente
Définition et caractéristiques des agents superintelligents
Contexte historique et évolution des capacités de l'IA
• Comprendre les risques catastrophiques
Les dangers potentiels posés par les agents superintelligents
Études de cas sur les risques de l'IA et les dilemmes éthiques
• Sécurité dans la conception de l'IA
Principes des systèmes d'IA sûrs
Approches pour atténuer les risques
• Alternatives aux agents superintelligents
Aperçu de l'IA « Scientifique »
Différences entre l'IA axée sur l'action et l'IA axée sur l'explication
• Étude de cas : Propositions de Yoshua Bengio
Analyse des cadres de Bengio pour la sécurité de l'IA
Évaluation de l'IA « Scientifique » dans divers domaines
• Agentivité et action dans l'IA
Les risques liés à l'agentivité dans les systèmes d'IA
Avantages et limitations de la minimisation de l'agentivité
• Techniques pour les MLLs à sécurité garantie
Principes de conception pour des modèles de langage plus sûrs
Équilibre entre autonomie et contrôle
• Accélération du progrès scientifique avec l'IA
Rôles potentiels de l'IA dans la recherche et la découverte
Considérations éthiques et impact sur la société
• Orientations futures dans la recherche sur la sécurité de l'IA
Tendances émergentes et technologies
Opportunités d'innovation et de collaboration
• Conclusion
Récapitulatif des concepts clés
Principes directeurs pour les futurs développements de l'IA

Sujets

Informatique