TY - JOUR A1 - Rebitschek, Felix G. A1 - Gigerenzer, Gerd T1 - Assessing the quality of digital health services T1 - Einschätzung der Qualität digitaler Gesundheitsangebote BT - how can informed decisions be promoted? BT - wie können informierte Entscheidungen gefördert werden? JF - Bundesgesundheitsblatt, Gesundheitsforschung, Gesundheitsschutz N2 - Eine wichtige Voraussetzung für das Gelingen der Digitalisierung des Gesundheitswesens ist die digitale Risikokompetenz der Nutzer, also ihre Fähigkeit, Nutzen und Schaden von digitalen Technologien und Informationen zu beurteilen, digitale Angebote kritisch zu nutzen und sich auch mit statistischer Evidenz auseinanderzusetzen. Wie finden Menschen qualitätsgesicherte Gesundheitsinformationen und wie können sie die Qualität von algorithmischen Entscheidungssystemen besser beurteilen? In diesem narrativen Beitrag sollen zwei Ansätze aufgezeigt werden, wie die Fähigkeit zum informierten Entscheiden gefördert werden kann. Evidenzbasierte und verlässliche Gesundheitsinformationen existieren im Internet, müssen aber von einer Vielzahl unzuverlässiger Informationen unterschieden werden. Verschiedene Institutionen im deutschen Sprachraum haben deshalb Anleitungen bereitgestellt, um Laien eine informierte Entscheidung zu erleichtern. Beispielsweise hat das Harding-Zentrum für Risikokompetenz in Potsdam für diese Zwecke einen Entscheidungsbaum („fast-and-frugal tree“) entwickelt. Im Umgang mit Algorithmen können natürliche Häufigkeitsbäume (NFTs) helfen, die Güte und Fairness eines algorithmischen Entscheidungssystems zu beurteilen. Neben zuverlässigen und verständlichen digitalen Angeboten sollten weitere Werkzeuge für Laien zur Beurteilung von Informationen und Algorithmen entwickelt und bereitgestellt werden. Diese können auch in Schulungsprogramme zur digitalen Kompetenzförderung aufgenommen werden. Damit wäre ein wichtiger Schritt zum Gelingen der Digitalisierung in der Prävention und Gesundheitsförderung getan. N2 - An important prerequisite for the success of the digitisation of the healthcare system are risk-literate users. Risk literacy means the ability to weigh potential benefits and harms of digital technologies and information, to use digital services critically, and to understand statistical evidence. How do people find reliable and comprehensible health information on the Internet? How can they better assess the quality of algorithmic decision systems? This narrative contribution describes two approaches that show how the competence to make informed decisions can be promoted. Evidence-based and reliable health information exists on the Internet but must be distinguished from a large amount of unreliable information. Various institutions in the German-speaking world have therefore provided guidance to help laypersons make informed decisions. The Harding Center for Risk Literacy in Potsdam, for example, has developed a decision tree ("fast-and-frugal tree"). When dealing with algorithms, natural frequency trees (NFTs) can help to assess the quality and fairness of an algorithmic decision system. Independent of reliable and comprehensible digital health services, further tools for laypersons to assess information and algorithms should be developed and provided. These tools can also be included in institutional training programmes for the promotion of digital literacy. This would be an important step towards the success of digitisation in prevention and health promotion. KW - risk literacy KW - informed decision-making KW - digital health information KW - algorithmic decision systems KW - algorithm performance KW - Risikokompetenz KW - Informiertes Entscheiden KW - Digitale Gesundheitsinformationen KW - Algorithmische Entscheidungssysteme KW - Algorithmengüte Y1 - 2020 U6 - https://doi.org/10.1007/s00103-020-03146-3 SN - 1436-9990 SN - 1437-1588 VL - 63 IS - 6 SP - 665 EP - 673 PB - Springer CY - New York ER - TY - JOUR A1 - Rebitschek, Felix G. A1 - Gigerenzer, Gerd A1 - Wagner, Gert G. T1 - People underestimate the errors made by algorithms for credit scoring and recidivism prediction but accept even fewer errors JF - Scientific reports N2 - This study provides the first representative analysis of error estimations and willingness to accept errors in a Western country (Germany) with regards to algorithmic decision-making systems (ADM). We examine people's expectations about the accuracy of algorithms that predict credit default, recidivism of an offender, suitability of a job applicant, and health behavior. Also, we ask whether expectations about algorithm errors vary between these domains and how they differ from expectations about errors made by human experts. In a nationwide representative study (N = 3086) we find that most respondents underestimated the actual errors made by algorithms and are willing to accept even fewer errors than estimated. Error estimates and error acceptance did not differ consistently for predictions made by algorithms or human experts, but people's living conditions (e.g. unemployment, household income) affected domain-specific acceptance (job suitability, credit defaulting) of misses and false alarms. We conclude that people have unwarranted expectations about the performance of ADM systems and evaluate errors in terms of potential personal consequences. Given the general public's low willingness to accept errors, we further conclude that acceptance of ADM appears to be conditional to strict accuracy requirements. Y1 - 2021 U6 - https://doi.org/10.1038/s41598-021-99802-y SN - 2045-2322 VL - 11 IS - 1 PB - Macmillan Publishers Limited CY - London ER -