KI im Kittel - Wer trägt eigentlich die Verantwortung?

Ich brauche heute für alles Mögliche gerne KI. Wenn ich bei einer Reparatur nicht weiterkomme, hilft sie mir, den Fehler einzugrenzen. Wenn ich Texte überarbeite, einen Vortrag vorbereite oder meine Gedanken ordne, ist sie eine hilfreiche Unterstützung. Und manchmal entsteht dabei auch ein humorvolles Bild wie die Illustration zu diesem Beitrag.

Ich schätze diese Möglichkeiten. Gleichzeitig stolpere ich immer wieder über Anwendungen, die mich nachdenklich machen.

Ärztlicher Auftritt, offene Verantwortung

Kürzlich bin ich auf einem medizinischen Fachportal, das sich an Gesundheitsfachpersonen richtet, einer KI mit einem ärztlich wirkenden Porträt und einer medizinischen Titelbezeichnung begegnet. Laut ihrer Beschreibung unterstützt sie bei medizinischen Fragen und schreibt an medizinischen Texten mit. Gleichzeitig steht dort, dass sie keine/n Ärztin / Arzt ersetzt und für die Richtigkeit ihrer Antworten keine Gewähr übernommen wird.

Dass es sich um eine KI handelt, wird offengelegt. Trotzdem irritiert mich diese Kombination. Der Auftritt vermittelt für mich ärztliche Kompetenz. Beim Hinweis zur Richtigkeit bleibt dann die Frage: Wer steht hier eigentlich wofür ein?

Aus einer solchen Profilbeschreibung lässt sich nicht ablesen, wie die Qualitätssicherung im Hintergrund wirklich organisiert ist. Vielleicht prüfen Fachleute die Inhalte sorgfältig, korrigieren Fehler und entscheiden über die Veröffentlichung. Gerade dann möchte ich aber wissen: Wer hat hier mit der KI gearbeitet? Wer hat den Inhalt fachlich geprüft und steht dafür ein?

Für mich gehören diese Menschen mit ihrem Namen in den Vordergrund. Gerade bei medizinischen Fachartikeln genügt mir der Name einer KI-Figur dafür nicht.

KI nutzen und das Steuer behalten

Meinen Studierenden sage ich immer wieder: Nutzt KI, baut sie konsequent in eure Arbeiten ein. Aber behaltet das Steuer in der Hand.

Das beginnt bereits vor der ersten Frage an die KI. Was ist gerade mein Ziel? Was will ich herausfinden? Welche Unterstützung brauche ich? Und woran werde ich erkennen, ob das Ergebnis brauchbar ist?

Auch nach der Antwort bleibt Arbeit zu tun. Passen die Aussagen zur Fragestellung? Stimmen die Quellen, und stützen sie tatsächlich das, was im Text steht? Kann ich die Quellenauswahl nachvollziehen? Wo fehlen wichtige Aspekte?

Diese Fragen stelle ich mir auch bei meinen eigenen Arbeiten. Ein flüssig formulierter Absatz ist angenehm zu lesen. Ob ich ihn fachlich vertreten kann, muss ich selbst beurteilen. Wenn ich ihn unter meinem Namen veröffentliche, stehe ich dafür ein.

Fachliche Verantwortung braucht sichtbare Menschen

Gerade bei medizinischen Leistungen und Informationen ist mir diese Zuordnung besonders wichtig. Für mich sollte klar erkennbar sein, welche Menschen und Organisationen die fachliche Verantwortung tragen.

Dazu gehört mehr als der allgemeine Hinweis, dass eine KI beteiligt war. Ich möchte nachvollziehen können, wer einen medizinischen Text geprüft und zur Veröffentlichung freigegeben hat.

Eine Übergangszeit, die Reflexion braucht

Für mich zeigen solche Beispiele, dass wir uns in einer Übergangszeit befinden. Wir entdecken neue Möglichkeiten, probieren aus und gewöhnen uns erstaunlich schnell daran. Dabei müssen wir immer wieder prüfen, welche Aufgaben wir abgeben können und wo unser eigenes Urteil gefragt bleibt.

Das betrifft den persönlichen Alltag ebenso wie die gesellschaftliche Diskussion über unseren Umgang mit KI. Wer steuert wen? Welche Entscheidungen wollen wir selbst treffen? Und wie sorgen wir dafür, dass Verantwortung auch dann sichtbar bleibt, wenn KI einen erheblichen Teil der Arbeit übernimmt?

Wie auch immer unsere Antworten ausfallen: Für mich müssen sie auf einer klaren Haltung beruhen. Den Kittel darf die KI auf dem Bild tragen. Die Verantwortung muss bei uns Menschen bleiben.

Illustration mit KI erstellt.