Several recent publications have addressed the issue of risk study quality, which often calls for the minimization of biases. However, biases are prevalent and are often unavoidable in any analytic and decision-making domain. There remains little guidance on how to identify and address potential biases and how those biases can influence a risk study. This paper investigates biases related to systematic error, inclusion of events, models, and cognitive factors as they relate to the characterization of risk. With this understanding, we explore how the risk analyst can acknowledge and address those biases in support of a high-quality risk study. New insights are obtained by considering the biases in relation to the basic elements of a risk characterization: events and consequence, uncertainty measurements and descriptions, and the supporting knowledge. This paper will be of interest to risk analysts, policymakers, and other stakeholders for risk study applications.
Commentaire du Dr Marius Laurent (PAQS)
- Les biais sont omniprésents dans nos activités intellectuelles, qu’ils perturbent le domaine de nos activités cognitives, de nos émotions ou de nos perceptions. Les biais algorithmiques sont bien connus des statisticiens et des spécialistes de l’intelligence artificielle (tout ce qui concerne la constitution d’échantillons par exemple). L’analyste peut réagir de diverses manières à la découverte de biais dans une étude : essayer de les éliminer ou de les minimiser, reconnaître leur présence et en tenir compte (communiquer à leur sujet, modifier le domaine étudié…). Les éliminer s’avère souvent impossible ou irréaliste, en communiquer l’existence est un premier pas, souvent insuffisant si le lecteur n’est pas armé pour s’y opposer efficacement. L’auteur présente une taxinomie des biais, et pour chaque catégorie, il envisage ses conséquences, son effet sur la caractérisation des incertitudes associées au risque (« les probabilités ») et sur la qualité de nos connaissances (ou de nos croyances justifiées). La science du risque repose essentiellement sur des opinions et des jugements. Connaître les biais qui menacent la collecte d’information ou son interprétation est indispensable. Le réalisme doit nous faire reconnaître que les éliminer drastiquement est impossible, mais que se contenter de les couvrir d’un voile pudique est irresponsable pour un gestionnaire de risques. Communiquer à leur sujet est indispensable, et est de nature à améliorer la qualité de nos analyses et leur crédibilité.
Thekdi S, Aven T. Characterization of biases and their impact on the integrity of a risk study. Saf Sci. 2024;170:106376. Doi : 10.1016/j.ssci.2023.106376.