«Wie könnte Kirche wollen, dass Menschen sich einer KI anvertrauten?»

Herr Weber, haben Sie schon mal in Ihrer Funktion als Pfarrer KI im Selbstversuch getestet?

Ich habe lediglich die Anwendung ChatGPT getestet mit dem Versuch, eine Weihnachtsgeschichte zu generieren.

Hat die Geschichte etwas getaugt?

Nein, gar nicht. In den ersten Versuchen kam immer eine Geschichte mit einem magischen Dörfli. Ich passte meine Vorgaben an. Die Themen wurden eingebaut, und das magische Dörfli verschwand, aber die Geschichte war dennoch unbrauchbar.

Sollte die Kirche mehr in KI oder digitale Seelsorge investieren?

Nein. Wenn es um die Interaktion von KI mit Menschen geht, sind wir noch nicht bereit dafür. Wir haben noch keine Rahmenbedingungen, die das verantwortbar machen. Man müsste zuerst die folgenden Fragen beantworten: Was will KI, wem gehört KI, was kann KI und was braucht KI an Ressourcen? Derzeit sind diese Dienste zwar mehrheitlich gratis, weil es für die Betreiber interessant ist, dass die KI dazulernt. Doch nichts ist gratis. Daten sind der Preis. Die Besitzer der KI sind Grossunternehmen. Sie haben ein Eigeninteresse. Man sollte sich dessen bewusst sein, dass man sich bei der Nutzung dieser Technologien manipulieren lassen kann.

Konkret, was sind Ihre Befürchtungen?

Aktuell lernt KI von allen, die etwas einspeisen. Konkret für das Feld der Seelsorge: KI wird immer besser im Lesen von Menschen. Stimmlage, Augenbewegung und Gesichtsmuster, Puls und Hautbeschaffenheit können von KI ausgewertet werden. KI hat das Potenzial, einen Menschen «besser» zu analysieren, als ein Mensch das kann. Wer hat die Definitionsmacht über dieses «besser»? Ein Seelsorger muss fragen, ob das ein sorgfältiger Umgang ist, wenn eine Maschine einen Menschen analysiert. Mit welchem Ziel? Wo bleibt die Freiheit des Menschen, seine Empfindungen und Gedanken selber zu deuten? Die Seelsorge hat wesentlich damit zu tun, dass man etwas ins Bewusstsein holt und in die eigene Sprache bringt. Und dass man diesen Prozess selbst macht. Wenn für einen die KI schon gelesen hat und sagt, wo das Problem liegt, halte ich den Prozess nicht für heilsam.

Jonas Simmerlein, ein KI-Spezialist von der evangelisch-theologischen Fakultät Wien, war unlängst in Zürich und argumentierte, dass die Kirche mit KI Zeit sparen könnte.

Wo es nicht direkt um Menschen geht, mag das gut sein. Das Projekt der Universität Zürich zur Aufarbeitung der Briefe des Reformators Bullinger ist ein Beispiel. Doch stellen Sie sich vor, es kommt jemand zu einem Seelsorgegespräch und die KI macht eine Voranalyse. Diese wird vermutlich toll sein. Das spart Zeit, ja. Aber warum muss man denn Zeit sparen? Hat Gott uns zum Zeitsparen geschaffen? Und ist das menschenfreundlich? Da spielt man mit dem Vertrauen der Menschen. Und das ist das einzige Kapital, das die Seelsorge hat.

Für den evangelischen Theologen Rainer Bayreuther – er ist der Autor des Buches «Der digitale Gott» – liegt es auf der Hand, sich von ChatGPT etwa Predigten schreiben zu lassen oder Vorlagen für seelsorgliche Gespräche. Könnte KI in diesem Bereich nützlich sein?

Ich wäre manchmal froh um einen Ideengeber. Es ist ein frommer Traum, zu glauben, die nächste gute Idee kommt aus der Stille. Aber das wäre mir lieber, als mich von einer KI stören zu lassen. Einen Gedanken, der uns selbst durchdrungen hat, können wir auch kommunizieren. Einen fremden Gedanken können wir eigentlich nicht so kommunizieren, dass er verstanden wird. Darum halte ich KI für die Predigt und die Seelsorge generell für untauglich.

Braucht es bessere gesetzliche Regelungen?

In der Tat. Vor einem Jahr forderten 1000 Experten ein Moratorium für die Weiterentwicklung von KI, weil die Risiken unüberschaubar geworden sind. Soweit ich weiss, ist dazu nichts weiter passiert. Man wurstelt einfach weiter. Es ist nicht seriös, wenn die Kirche sagt, wir nutzen KI ein wenig und werden schon alles im Griff haben. Da täuscht man sich.

Könnte KI irgendwann mal so weit sein, eine Pfarrstelle zu ersetzen?

Wie könnte Kirche wollen, dass Menschen sich einer KI anvertrauten? KI ist eine gewiefte Beeinflussungsmaschine. Es ist ja schon verrückt, wenn ich sage, ich vertraue Gott. Viel verrückter ist es jedoch, wenn ich mein Innerstes einer Maschine anvertraue. Gott ist immerhin unabhängig. Es ist völlig klar, dass ich nicht über Gott verfüge. Das macht es ehrlich. Das stellt den Seelsorger mit seinem Gegenüber auf gleiche Stufe vor Gott. Die KI ist nie auf gleicher Stufe. Da verfügt jemand über die Daten. KI kennt keine Angst und keine Liebe. Was KI ersetzen könnte, kann nicht Pfarrstelle heissen.