Comment gérer la confiance dans les prédictions d'un modèle en écologie ?

[Harper17]

Je travaille sur un projet de modélisation en écologie et j’ai commencé à utiliser un outil d’apprentissage automatique pour analyser mes données de terrain. Le truc, c’est que les résultats sont étonnamment cohérents, presque trop beaux pour être vrais par rapport à ce que la littérature laissait présager. J’ai cette petite appréhension de devenir un peu trop dépendant de ces sorties sans vraiment saisir tous les mécanismes sous-jacents. Ça m’amène à me demander comment d’autres chercheurs gèrent cette relation de confiance avec les prédictions du modèle, surtout quand on doit ensuite présenter ces travaux à des collègues plus traditionnels.

[Michael81]

Pour moi l apprentissage automatique peut livrer des prédictions solides mais il faut les évaluer comme on le fait sur le terrain en utilisant une validation croisée réfléchie et en scrutant l incertitude des prédictions.

[Brian_L]

Je suis à la fois émerveillé et nerveux face a ces sorties si propres et l apprentissage automatique peut me faire douter si j ai vraiment compris ce qui se passe sur le terrain.

[Savannah27]

Les collègues attendent des explications claires et des limites assumées et l apprentissage automatique propose des signaux qui demandent une lecture plus analytique et moins mythologique.

[Jason37]

Attention a la fuite potentielle des données ou au surapprentissage quand les résultats semblent parfaits et l apprentissage automatique peut masquer des biais du terrain s il n y a pas de contrôles externes.

[Tyler33]

Reformuler le souci peut aider a sortir du cadre prédictif et penser a l apprentissage automatique comme un miroir des hypothèses et des choix de mesure plutot que comme une fin en soi.

[DonaldSJ]

Pourquoi partir du besoin d une coherence avec la literature et pas du besoin d expliciter les hypotheses du modele et la structure des relations apprises en apprentissage automatique ?

[Stephen_L]

Une piste peut etre de glisser une notion comme consilience des preuves sans tout expliquer et de laisser planer le doute autour de ce qui est vraiment repare dans l apprentissage automatique.