Die Verlagerung von Vertrauen vom Menschen zur Maschine: Eine Erweiterung des zwischenmenschlichen Vertrauensparadigmas im Kontext Künstlicher Intelligenz

Abstract

Der Beitrag untersucht die Transformation des Vertrauensbegriffsdurch Künstliche Intelligenz. In aller Regel ist das Vertrauen in technische Artefakteeng mit deren Verlässlichkeit verbunden. Während diese Form der (technischen) Verlässlichkeit letztlich zumeist auf ein menschliches Gegenüber (z. B. auf die Herstellenden, die Betreibenden oder die Auditierenden) zurückgeführt wird, erfordert die zunehmende Präsenz von KI-Systemen eine Neubetrachtung dieses Zusammenhangs. Insbesondere bei selbstlernenden Systemen (wie der konnektivistischenKI), die ihre Auswahlkriterien und Selektionsmechanismen durch die Interaktionmit der Umwelt kontinuierlich verändern, zeichnet sich eine graduelle Verschiebungdes Vertrauens ab: Vertrauen wandert, so lautet die These im Anschluss an Hartmann (2022), Schritt um Schritt vom Menschen zur Maschine. Der Beitrag zielt auf eine problemorientierte Beschreibung der damit verbunden Chancen und Herausforderungen.

English version

The article investigates the transformation of the concept of trust due to Artificial Intelligence. Traditionally, trust in technical artifacts is closely linked to their reliability. While this form of (technical) reliability is usually traced back to a human counterpart (e.g., the manufacturers, operators, or auditors), the increasing presence of AI systems necessitates a reconceptualisation of this relationship. Particularly in self learning systems (like connectivist AI), which continuously modify their selection criteria and mechanisms through interaction with the environment, a gradual shift in trust is becoming apparent: The thesis posits that trust shifts, following Hartmann (2022), incrementally from humans to machines. The article aims to provide a problem-oriented description of the associated opportunities and challenges.