„KI – eine Frage des Vertrauens”

Background zur Nestlé Zukunftsstudie „Was is(s)t Deutschland 2040”

Menschen haben nicht grundsätzlich ein Problem damit, Verantwortung an KI abzugeben. Sie wollen aber selbst darüber entscheiden, wie weit diese Verantwortung reicht.

Jasmin Pampuch, Head of Bonsai Shopper Research & Behavior Analytics / Mitglied GL

Jasmin Pampuch, Head of Bonsai Shopper & Behavior Analytics

Ausgerechnet diejenigen, die Künstliche Intelligenz mit am schnellsten vorantreiben, diskutieren gerade darüber, ob es an der Zeit ist, auf die Bremse zu treten. Im Zentrum steht dabei die Sorge vor immer leistungsfähigeren und autonomeren Systemen und die Frage, wie menschliche Kontrolle auch dann erhalten bleiben kann, wenn KI zunehmend selbstständig handelt. Hinter dieser auf den ersten Blick technischen Debatte steckt eine erstaunlich menschliche Frage: Wie viel Kontrolle sind wir bereit abzugeben?

Genau dieser Frage sind wir auch bei der Nestlé Zukunftsstudie „Wie is(s)t Deutschland 2040?“ begegnet, allerdings aus einer ganz anderen Perspektive. In unseren fünf Zukunftsbildern spielt KI ganz unterschiedliche Rollen: Sie inspiriert, berät, analysiert Gesundheitsdaten oder übernimmt Aufgaben für uns. Dabei hat uns ein scheinbarer Widerspruch besonders beschäftigt: 46 Prozent können sich KI als persönlichen Ernährungsberater vorstellen, gleichzeitig fürchten 40 Prozent Kontrollverlust und Fremdbestimmung durch KI. Für uns steckt darin jedoch weniger ein Widerspruch als eine ziemlich klare Botschaft: Menschen haben nicht grundsätzlich ein Problem damit, Verantwortung an KI abzugeben. Sie wollen aber selbst darüber entscheiden, wie weit diese Verantwortung reicht.

„Am Ende geht es vielleicht weniger darum, wie viel KI für uns entscheiden kann, sondern darum, wie viel wir sie entscheiden lassen wollen.”

Das konnten wir auch in den Reaktionen auf unsere Zukunftsbilder beobachten. In „Genuss & Gemeinschaft“ unterstützt KI beim Einkaufen und Kochen, gibt Inspiration und Orientierung, wobei die letzte Entscheidung beim Menschen bleibt. Und genau diese Verbindung funktioniert: In den offenen Antworten werden Selbstbestimmung und Entscheidungsfreiheit ebenso positiv hervorgehoben wie eine Technologie, die sinnvoll unterstützt. Sobald KI stärker in persönliche Entscheidungen eingreift, verändert sich dagegen die Tonalität. Dann geht es plötzlich um Datenschutz, permanente Kontrolle oder das Gefühl, „durchleuchtet“ zu werden. Die entscheidende Grenze scheint also nicht zwischen Mensch und KI zu verlaufen, sondern zwischen Unterstützung und Autonomie. Interessant ist dabei, dass diese Grenze nicht für alle Menschen an derselben Stelle liegt. Einen KI-Agenten, der selbstständig Einkäufe übernimmt, können sich 33 Prozent der Jüngeren, aber nur 17 Prozent der Älteren vorstellen. Vielleicht ist das nicht nur eine Frage unterschiedlicher Technikaffinität. Vielleicht verändert sich auch unsere Vorstellung davon, was Kontrolle eigentlich bedeutet. Denn wer mit Algorithmen, Empfehlungen und digitalen Assistenten aufgewachsen ist, muss möglicherweise nicht jede Entscheidung selbst treffen, um sich selbstbestimmt zu fühlen. Selbstbestimmung kann auch heißen: Ich entscheide selbst, was ich abgebe.

Genau deshalb dürfte Vertrauen zu einer der entscheidenden Größen im Umgang mit KI werden. Das zeigt sich aktuell nicht nur in der Diskussion um immer autonomere Systeme. Auch Unternehmen beschäftigen sich zunehmend mit der Frage, wie sie KI nutzen können, ohne das über Jahre aufgebaute Vertrauen ihrer Kund:innen zu gefährden. Auf der DMEXCO wurde in dieser Woche genau darüber diskutiert: über Transparenz, Beständigkeit und darüber, Innovation voranzutreiben, ohne dabei die Kontrolle zu verlieren.

Für uns als Forschende steckt darin noch eine weitere spannende Frage. Denn was Menschen über KI sagen und welche Rolle sie ihr im Alltag tatsächlich überlassen, muss nicht dasselbe sein. Je selbstverständlicher KI-Teil von Suche, Einkauf, Beratung oder Entscheidungsprozessen wird, desto wichtiger wird es zu verstehen, wo Menschen ihre persönlichen Grenzen ziehen: Wann wird aus einer Empfehlung eine Entscheidung? Wann aus Unterstützung Delegation? Und wann fühlt sich Komfort plötzlich wie Kontrollverlust an?

Unsere Zukunftsstudie gibt darauf einen ersten Hinweis: Menschen unterscheiden offenbar sehr genau zwischen diesen Rollen. Die entscheidende Grenze verläuft weniger zwischen Mensch und KI als zwischen Support und Selbstbestimmtheit. Technologisch wird KI in Zukunft immer mehr für uns tun können. Ob Menschen diese Möglichkeiten tatsächlich nutzen, dürfte aber mindestens ebenso davon abhängen, ob sie verstehen, was ein System tut, ihm vertrauen und das Gefühl behalten, die Entscheidung wieder an sich ziehen zu können.

Am Ende geht es deshalb vielleicht weniger darum, wie viel KI für uns entscheiden kann, sondern darum, wie viel wir sie entscheiden lassen wollen.