Aperçu
Machine learning systems used in Clinical Decision Support Systems (CDSS) require further external validation, calibration analysis, assessment of bias and fairness. In this course, the main concepts of machine learning evaluation adopted in CDSS will be explained.
Furthermore, decision curve analysis along with human-centred CDSS that need to be explainable will be discussed. Finally, privacy concerns of deep learning models and potential adversarial attacks will be presented along with the vision for a new generation of explainable and privacy-preserved CDSS.
Programme
- Des modèles d'apprentissage automatique aux systèmes de soutien à la décision clinique
L'adoption d'un modèle d'apprentissage automatique dans un système de soutien à la décision clinique (CDSS) nécessite plusieurs étapes impliquant la validation externe, l'évaluation des biais et la calibration, l'évaluation de la « justice », l'utilité clinique, la capacité d'expliquer la décision du modèle et des modèles d'apprentissage automatique respectueux de la vie privée. Dans ce module, nous allons discuter de ces concepts et fournir plusieurs exemples issus de recherches à la pointe dans le domaine. La validation externe et l'évaluation des biais sont devenues la norme dans les modèles de prédiction clinique. Des travaux supplémentaires sont nécessaires pour évaluer et adopter des modèles d'apprentissage profond dans ces conditions. D'un autre côté, la recherche sur la « justice », les CDSS centrés sur l'humain et les préoccupations de confidentialité des modèles d'apprentissage automatique sont des domaines de recherche active. La première semaine couvrira la différence entre la reproductibilité et la généralisabilité. De plus, l'évaluation de la calibration dans les modèles de prédiction clinique sera explorée, tandis que l'impact des différentes architectures d'apprentissage profond sur la calibration sera discuté.
- « Justice » dans les modèles d'apprentissage automatique
Naïvement, l'apprentissage automatique peut être considéré comme un moyen de prendre des décisions exemptes de préjugés et de biais sociaux. Cependant, des preuves récentes montrent comment les modèles d'apprentissage automatique apprennent des biais dans les données historiques et reproduisent des décisions injustes de manière similaire. Détecter les biais contre certains sous-groupes dans les modèles d'apprentissage automatique est un défi en raison également du fait que ces modèles n'ont pas été conçus ou entraînés pour discriminer délibérément. Définir des métriques de « justice » et explorer des moyens de garantir que les groupes minoritaires ne soient pas désavantagés par les décisions des modèles d'apprentissage automatique est un domaine de recherche actif.
- Analyse de la courbe de décision et CDSS centrés sur l'humain
L'analyse de la courbe de décision est utilisée pour évaluer l'utilité clinique d'un modèle de prédiction en estimant le bénéfice net, qui est un compromis entre la précision et l'exactitude du modèle. Sur la base de cette approche, la stratégie d'« intervention pour tous » et d'« intervention pour aucun » est comparée au bénéfice net du modèle. L'analyse de la courbe de décision est une approche centrée sur l'humain pour évaluer l'utilité clinique, car elle nécessite l'avis des experts. L'initiative pour une intelligence artificielle éthique indique qu'une approche centrée sur l'humain dans les systèmes de soutien à la décision clinique est nécessaire pour permettre la responsabilité, la sécurité et la supervision tout en garantissant la « justice » et la transparence.
- Préoccupations concernant la confidentialité dans les CDSS
Les modèles d'apprentissage profond ont une capacité remarquable à mémoriser des données même lorsqu'ils ne surapprennent pas. En d'autres termes, les modèles eux-mêmes peuvent exposer des informations sur les patients qui compromettent leur confidentialité. Cela peut entraîner des fuites de données involontaires lors de l'inférence et également offrir des opportunités pour des attaques malveillantes. Nous passerons en revue les attaques courantes sur la confidentialité et les défenses contre elles. Enfin, nous aborderons les attaques adversariales contre les explications des apprentissages profonds.
Enseigné par
Fani Deligianni
Matières
Computer Science
