Künstliche Intelligenz und Vertrauen im medizinischen Kontext

Abstract

KI-Anwendungen stellen bereits heute einen wichtigen Bestandteil der medizinischen Praxis dar. Ihr Einsatz verbindet sich allerdings mit einer Reihe von Problemen. In dem Aufsatz wird ein spezifisches dieser Probleme diskutiert – die Frage, wie Vertrauen im medizinischen Kontext durch den Einsatz von KI-Technologien betroffen ist. In einem ersten Schritt wird hierzu rekonstruiert, worin die philosophische Herausforderung besteht, die sich mit Vertrauen verbindet, und es wird zweitens erläutert, welche Rolle ein plausibel verstandenes Vertrauen im Verhältnis zwischen Patient:innen und Ärzt:innen spielt. In diesem Zusammenhang wird dafür plädiert, Vertrauen konsequent von bloßem Sich-Verlassen abzugrenzen und es als eine genuin personale Beziehungsform zu interpretieren, in der Personen sich auf eine spezifische Weise aufeinander beziehen. Für das Verhältnis zwischen Ärzt:innen und Patient:innen bedeutet dies, dass Patient:innen, die Vertrauen als Wert zu realisieren versuchen, nicht nur daran interessiert sind, dass Ärzt:innen sie auf eine medizinisch kompetente Weise behandeln, sondern dass sie von ihnen als individuelle Personen betrachtet werden möchten und dabei erwarten, dass sie so gut wie möglich ihre Perspektive einnehmen. Im Hauptteil des Textes wird die Frage diskutiert, ob KI-Technologien vertraut werden kann. Diese Frage ist zentral: Beantwortet man sie positiv, könnte das Ärzt:innen-Patient:innen-Verhältnis als Vertrauensbeziehung überflüssig werden; beantwortet man sie negativ, könnte dies die Vertrauensbeziehung zwischen Ärzt:innen und Patient:innen direkt schädigen, weil wir davon ausgehen müssten, dass unsere Ärzt:innen sich einer Technologie bedienen, der man nicht vertrauen kann. In diesem Zusammenhang werden zwei wichtige Positionen diskutiert, die in der jüngsten Zeit von der These ausgehen, dass man KI-Anwendungen im medizinischen Bereich vertrauen kann – die Ansätze von Ferrario et al. (2021) und von Philip Nickel (2022). Es wird dafür argumentiert, dass diese Ansätze scheitern, weil sie unterstellen, dass Vertrauen überhaupt die richtige Kategorie im Hinblick auf eine Technologie wie KI ist. Abschließend wird angedeutet, inwiefern die Kategorie der Verlässlichkeit angemessener für unseren Umgang mit KI in der Medizin ist und uns dabei helfen könnte, Vertrauen zwischen Ärzt:innen und Patient:innen zu stärken.

English version

Already today, AI applications are an important part of medical practice. Their employment, however, is connected to a wide array of problems. The paper discusses one of them – the question how trust in the physician-patient relationship is affected by the usage of AI algorithms. As a first step, the paper reconstructs the philosophical challenge relating to trust, before explaining what role a properly understood concept of trust plays in the relationship between physicians and patients. In this context, it is argued that trust has to be systematically distinguished from reliance, and that the best way to do this is to analyze it as a type of personal relationship in which the participants of this relationship treat each other in specific ways. For the physician-patient relationship this means that patients who want to realize the good of trust in their relationship to physicians are not merely interested in being treated in a competent manner, but that they want to be regarded as individual persons with a normative perspective that the physicians must attempt to understand. In its central section, the paper discusses the question whether it is possible to trust AI technologies. This question is central: Answered in the affirmative, the employment of AI technologies threatens to make the physician-patient relationship superfluous; answered in the negative, it could harm the physician-patient relationship since we would have to suppose that our physicians use a technology that cannot be trusted itself. The paper discusses two important accounts that recently defended the claim that we can trust medical AI – the account of Ferrario et al. 2021 and the account of Philip Nickel 2022. It is argued that both accounts are bound to fail, since they assume that trust is the appropriate category when it comes to a technology like AI. By way of a conclusion, it is argued that the category of reliability is more appropriate for our attitude towards AI, and that it has the potential to strengthen the physician-patient relationship.