Künstliche Intelligenz hält auch Einzug in die Jugendarbeit! Junge Menschen gehen wie selbstverständlich mit KI um – mal so, dass ungeahnte Potenziale freigelegt werden, mal so, dass auch kritisches Hinterfragen nicht fehl am Platz ist. Wir wollen uns in zwei BAIträgen mit zwei Fragen an dieses Thema nähern: Wird KI in der gelebten Jugendarbeit eigentlich eine Stütze oder ein Hemmschuh sein? Und: Werden wir KI jemals vertrauen können?
Trustworthy AI ist ein Stichwort, um das man nicht mehr herumkommt. Große Konzerne haben als Ziel ausgerufen, Ihre Künstlichen Intelligenzen vertrauenswürdig zu machen. Auch in Gesetzestexten wird Künstliche Intelligenz in Verbindung mit Vertrauen gebracht.
In der Jugendarbeit muss man nicht lange suchen, um Ähnliches zu finden: Ganz gleich, wie dies von Erwachsenen beurteilt werden mag, verhalten sich Jugendliche zu KIs so, als ob sie vertrauenswürdig wären: KIs werden in Geheimnisse eingeweiht, nach wichtigen Fristen gefragt und gelten als detailgenaue Berichter*innen.
Johanna Sinn ist wissenschaftliche Mitarbeiterin an der Professur für Angewandte Ethik der Universität Passau. Sie setzt in ihrer Forschung an genau diesem Phänomen an und fragt: Ist für den Umgang mit einer Maschine eigentlich „Vertrauen“ der richtige Begriff? (Bild: Uni Passau.)
Warum überhaupt Vertrauen?
Es ist möglicherweise kein Zufall, dass bei Regulierungsfragen im KI-Bereich ausgerechnet der Vertrauensbegriff herangezogen wird, während er bei nicht-digitaler Technik kaum auftaucht. Die europäische Strategie zum Umgang mit den ethischen Risiken der KI-Nutzung setzt schließlich auf die Förderung von „trustworthy AI“. Die Ethikleitlinien der EU und der EU AI Act sehen die Beurteilung von Anwendungen hinsichtlich der dort in sieben Kriterien beschriebenen Vertrauenswürdigkeit vor [i]. Dass die Nutzung von KI-Technologie den Alltag vieler Menschen zunehmend verändert, macht sich aber vor allem praktisch bemerkbar: Auf neuen Produkten sind Assistenzsysteme vorinstalliert und Kundenservices werden von Chatbots geleistet. Spezialisierte Anwendungen kommen in Medizin, Verkehr oder in Unternehmen zum Einsatz. Insbesondere generative Sprachmodelle sind aber in den letzten Jahren in einer Vielzahl individueller und institutioneller Kontexte ein normales Hilfsmittel geworden. Interaktionen mit ChatGPT oder ähnlichen Modellen sind für viele der erste Schritt bei schnellen Fragen, aber auch wenn es darum geht, komplizierte Diagnosen, Fachtexte oder Anleitungen zu verstehen. Und sie kommen auch im Bildungsbereich Zur Anwendung: Das Bayerische Bildungsministerium stellt seit 2025 etwa den „Schul-Chatbot“ telli für pädagogische Zwecke bereit [ii]. Wie die Technikgeschichte deutlich macht, bewirken Veränderungen des alltäglichen Handelns durch Technologien im Hintergrund auch weniger offensichtliche Verschiebungen im menschlichen Selbstverständnis und in sozialen Verhältnissen. Eine solche Verschiebung betrifft das Verständnis von Vertrauen in sozialen Kontexten. Das spiegelt die neuere philosophische Diskussion um Vertrauen. Wurde Vertrauen bisher paradigmatisch für zwischenmenschliche Beziehungen diskutiert, stellt sich nun die Frage, ob nicht auch gegenüber KI-Systemen Vertrauen ein relevanter Begriff ist – und was das für den Umgang mit diesen Technologien bedeutet.
Was heißt es, KI-Systemen zu vertrauen?
Vertrauen wird in der philosophischen Diskussion[iii] als Erwartung verstanden, die man gegenüber einer Person und ihren Handlungen einnimmt, entweder insgesamt oder in Bezug auf ein bestimmtes Gut: Ich kann einem Elternteil vertrauen, dass es generell zu meinem Wohl handelt. Oder ich kann einem Nachbarn für den begrenzten Zeitraum meines Urlaubs die Pflanzen anvertrauen. Wesentlich ist erstens, dass Vertrauen immer dann gefragt ist, wenn die erwartete Handlung nicht sicher ist oder kontrolliert werden kann. Es ist also eine Einstellung, die man stets trotz einer gewissen Unsicherheit einnimmt. Das bedeutet zweitens, dass beim Vertrauen stets etwas auf dem Spiel steht und man gegebenenfalls Schaden davonträgt. Vertrauen ist deshalb begrifflich neben Unsicherheit auch stets mit Vulnerabilität verbunden. Wenn das Vertrauen erfüllt wird, kann die vertrauende Person dagegen natürlich auch viel gewinnen – ein Grund, weshalb Menschen trotz des Verletzungsrisikos immer wieder vertrauen. Dieses Verständnis von Vertrauen scheint auf KI-Systeme prinzipiell übertragbar. Eine Erwartungshaltung trotz Unsicherheit und Verletzbarkeit zeichnet schließlich viele Nutzungssituationen aus[iv] : Mit der zunehmenden Nutzung von KI-Systemen in vielen gesellschaftlichen Bereichen erhöht sich auch die Abhängigkeit von denselben – sowohl angesichts der Vielzahl von Handlungen, die KI-Systeme involvieren, als auch hinsichtlich der Bedeutung, die die Nutzung im Leben einnimmt: Wenn technologiegestützte Entscheidungen im medizinischen oder Bildungsbereich weitreichende Folgen haben oder Sprachmodelle für sehr persönliche Gespräche genutzt werden. Die Kontrollmöglichkeiten steigen dabei nicht im gleichen Maß, denn KI-Systeme basieren auf Wahrscheinlichkeitsrechnungen, die nicht im Einzelnen nachzuvollziehen oder zu korrigieren sind. Wenn man nicht überprüfen kann, ob das Ergebnis stimmt, bleibt also nur, darauf zu vertrauen.
Verlässlichkeit oder Vertrauenswürdigkeit?
Mit der begrifflichen Verbindung von Vertrauen und KI-Systemen wird eine Unterscheidung herausgefordert, die in der philosophischen Diskussion bislang in Bezug auf Technik gezogen wurde, jene zwischen Verlassen und Vertrauen. Karen Jones ist in einem Aufsatz von 1996 überzeugt, dass man sich auf Technik nur verlassen könne, Vertrauen aber Menschen vorbehalten sei[v]. Verlassen gilt dabei als Erwartungshaltung, die auf berechenbarem Verhalten basiert und daher gut zu herkömmlicher Technik passt. Für Vertrauen gilt dagegen eine weitere Bedingung: Man unterstellt der Vertrauensperson, dass sie willentlich handelt und bei ihren Entscheidungen das Wohlergehen der Vertrauenden einbezieht. Wenn dennoch Vertrauen in Bezug auf KI-Systeme diskutiert wird, bedeutet das nicht, dass diesen Wohlwollen zugeschrieben wird, sondern eher, dass hier eine neue Variante des Vertrauensbegriffs entsteht. Weiterer Diskussionsbedarf entsteht allerdings dadurch, dass die bestätigende Programmierung von Sprachmodellen so wirken kann, als ob das System wohlwollende Kommunikation betriebe, und damit ein Vertrauensverhältnis suggeriert – so untersucht etwa Eva Weber-Guskar in „Gefühle der Zukunft“ emotionale Bindungen an Chatbots.[vi] Schließlich lassen Antworten auf die begriffliche Frage, ob es überhaupt sinnvoll ist, von Vertrauen gegenüber KI zu sprechen, ethische Fragen offen, ob dieses Vertrauen gut ist, wer dazu in der Lage ist, wem es nützt und wie KI-Nutzung zwischenmenschliches Vertrauen verändert.
Weitere Beiträge zum Thema finden sich im Schwerpunkt „Neue Vertrauensfragen? Digitalisierung und Künstliche Intelligenz“ in der Zeitschrift für Praktische Philosophie Nr. 11 (2024), den Karoline Reinhardt und Johanna Sinn herausgegeben haben.
Quellen
[i] Reinhardt, Karoline. „Trust and trustworthiness in AI ethics“. AI Ethics 3, 735–744 (2023). https://doi.org/10.1007/s43681-022-00200-5[ii] https://www.km.bayern.de/gestalten/digitalisierung/kuenstliche-intelligenz
[iii] Reinhardt, Karoline / Sinn, Johanna. „Einleitung: Neue Vertrauensfragen? Digitalisierung und Künstliche Intelligenz“, in: Zeitschrift für Praktische Philosophie 11 (1), 2024, S. 325-342.
[iv] Baier, Annette. “Trust and Antitrust.” Ethics, vol. 96, no. 2, 1986, pp. 231–60: http://www.jstor.org/stable/2381376. Accessed 23 Mar. 2026.
[v] Jones, Karen. „Trust as an Affective Attitude.” Ethics. Vol. 107, no1, 1996, pp. 4-25: https://www.journals.uchicago.edu/doi/10.1086/233694. Vgl. auch: Budnik, Christian. 2024. “Künstliche Intelligenz Und Vertrauen Im Medizinischen Kontext”. Zeitschrift für Praktische Philosophie 11 (1). https://doi.org/10.22613/zfpp/11.1.17.
[vi]Weber-Guskar, Eva. Gefühle der Zukunft – Wie wir mit emotionaler KI unser Leben verändern. Berlin 2024. https://www.ullstein.de/werke/gefuehle-der-zukunft/hardcover/9783550202872