Der Chatbot als Konsumentenfalle

Früher haben wir im Internet gesucht. Man tauschte private Bookmarks aus oder entdeckte neue Webseiten über Empfehlungen und sogenannte Webringe – thematisch verknüpfte Seiten mit Bannern. Dann kam Google. Heute fragen wir Chatbots.

Die Entwicklung ist faszinierend – und sie hat eine Schattenseite.

Zuerst suchten wir nach Informationen. Dann wurden wir mit zusätzlichen Informationen versorgt. Online-Shops zeigten uns, was andere Kundinnen und Kunden ebenfalls gekauft hatten. Heute schlägt uns der Chatbot unmittelbar die nächsten Schritte vor:

Soll ich den Text noch verbessern?
Soll ich daraus eine Präsentation erstellen?
Soll ich den Ton professioneller machen?
Soll ich fünf weitere Varianten erzeugen?

Jeder Vorschlag klingt sinnvoll. Jeder Klick erzeugt neue Tokens, verbraucht Credits und kostet Zeit.

Der grösste Preis ist jedoch nicht das Geld.

Es ist die verlorene Zeit, bis eine Entscheidung gefällt wird.

Früher waren wir Konsumentinnen und Konsumenten von Produkten. Heute konsumieren wir Antworten, Varianten und Möglichkeiten. Der Mechanismus ist derselbe: Jede Empfehlung erzeugt den Impuls, noch einen Schritt weiterzugehen.

Der Chatbot verkauft uns keine Produkte. Er verkauft uns die nächste Optimierung.

KI macht uns schneller. Das passt hervorragend zu unserem Grundsatz «Progress over Perfection». Gleichzeitig verführt sie uns dazu, immer noch eine bessere Version zu suchen. Aus einer zehnminütigen Aufgabe werden plötzlich vierzig Minuten Optimierung – und dabei empfinden wir Perfektion plötzlich als Produktivität.

Besonders deutlich zeigt sich dieser Effekt in der Zusammenarbeit.

Das Marketing erstellt einen Werbetext. Die produktverantwortliche Person lässt denselben Text durch ihren Chatbot optimieren. Dreissig Minuten später kommen Verbesserungsvorschläge zurück. Das Marketing überarbeitet den Text erneut. Anschliessend landet er wieder im Chatbot.

Die Schleife beginnt von vorne.

Die Qualität steigt vielleicht um wenige Prozent.

Der Aufwand verdoppelt sich.

Plötzlich können scheinbar alle alles.

Organisationsentwicklerinnen und Organisationsentwickler würden nun von fehlender Rollen- und Verantwortlichkeitsklarheit oder einem ungenügenden Reifegrad sprechen. Das mag durchaus zutreffen.

Doch das erklärt nur einen Teil des Problems.

Der andere Teil ist psychologisch.

Chatbots verführen uns auf mehreren Ebenen gleichzeitig.

Sie lassen uns glauben, dass Perfektion gleich Produktivität sei. Sie verleiten uns dazu, uns in Themen einzumischen, die ausserhalb der eigenen Kompetenz liegen. Sie geben uns das gute Gefühl, anderen mit immer neuen Verbesserungsvorschlägen einen Mehrwert zu liefern. Und sie vermitteln den Eindruck, dass die optimale Antwort nur noch einen Prompt entfernt ist.

Das Resultat ist fatal.

Entscheidungen werden hinausgezögert. Verantwortlichkeiten verwässern. Aus Umsetzung wird Optimierung.

Wie können Unternehmen dieser Verführung begegnen?

Nicht indem sie KI einschränken, sondern indem sie ihren Einsatz bewusst führen.

  • KI berät – Menschen entscheiden.
  • Die verantwortliche Rolle trifft den Entscheid.
  • Jede Recherche erhält eine Zeitbox. Danach wird entschieden und umgesetzt.

KI macht uns schneller. Gute Führung sorgt dafür, dass wir diese gewonnene Zeit nicht wieder verlieren.

Eine Organisation ist dann KI-reif, wenn sie erkennt, wann der nächste Prompt keinen zusätzlichen Nutzen mehr schafft.

Denn Wert entsteht nicht durch den hundertsten Prompt.

Wert entsteht durch Entscheidungen basierend auf qualitativ hochwertigen Daten und Instruktionen in einer sicheren Umgebung.

Und durch konsequentes Handeln.

Weitere Beiträge

Der Chatbot als Konsumentenfalle

Künstliche Intelligenz spart Zeit und eröffnet neue Möglichkeiten. Doch genau darin liegt auch eine unterschätzte Gefahr.
 
Was früher mit Suchmaschinen begann, setzt sich heute in Chatbots fort: Jede Antwort führt zur nächsten Empfehlung, jede Empfehlung zur nächsten Optimierung.
 
Der folgende Beitrag zeigt, weshalb diese «Konsumentenfalle» nicht in der Technologie selbst liegt.

Weiterlesen

Databoat ist Hauptumsetzungspartner im Innosuisse-Projekt «Resilientis»

Wie wird Resilienz messbar?
 
Diese Frage steht im Zentrum des Innosuisse-Forschungsprojekts Resilientis.
 
Als Hauptumsetzungspartner bringt Databoat ihre Expertise in Governance, Risiko-Management und Software-Entwicklung ein, um gemeinsam mit Wissenschaft, Lehre und Praxis einen neuen Standard für das szenarienbasierte Management kritischer Infrastrukturen zu entwickeln.

Weiterlesen