Deutschland steht vor einem paradoxen Phänomen: Während das Land als Vorreiter in Sachen Datenschutz und digitaler Infrastruktur gilt, wächst die Zahl der Systeme, die Bürger:innen systematisch in ein Netz aus Überwachung einweben – oft ohne dass sie es bewusst wahrnehmen. Diese „Schikakäfige“ (von „Schikake“, einer japanischen Methode der psychologischen Kontrolle) sind keine bloßen technischen Geräte, sondern komplexe, oft unsichtbare Mechanismen, die Privatsphäre, Freiheit und sogar die demokratische Willensbildung untergraben. Der Begriff „mehr dazu“ auf mehr dazu fasst einige dieser Entwicklungen zusammen, doch die Realität ist weitaus gravierender.
Die unsichtbaren Wände: Wie Überwachung in Alltag und Verwaltung verankert wird
Ein zentrales Merkmal dieser Käfige ist ihre Integration in den Alltag. Während öffentliche Debatten oft über die „Big-Brother“-Idee von George Orwell diskutieren, agieren viele Überwachungssysteme in Deutschland subtiler: Sie nutzen Algorithmen, die nicht explizit als „Überwachung“ wahrgenommen werden, sondern als „Dienstleistungen“. So analysieren KI-gestützte Systeme etwa Muster in Sozialleistungsanträgen, um „unwahrscheinliche“ Fälle zu identifizieren – ein Prozess, der als „Risikomanagement“ verpackt wird, aber in Wahrheit die soziale Kontrolle verstärkt. Ein Beispiel hierfür ist das „Sozialleistungsrisiko“-Projekt des Bundesamts für Soziales, das seit 2020 Millionen Euro in die Entwicklung von KI-Modellen investiert, um „fiktive“ Leistungsansprüche zu erkennen. Die Daten dazu stammen aus bereits existierenden Verwaltungsdaten, ohne dass Betroffene über die Art der Auswertung informiert werden.
Auch in der Verwaltung werden diese Mechanismen immer ausgeklügelter. Die Digitalisierung hat zu einem „Big-Brother-Lite“-Paradigma geführt: Statt klassischer Überwachungskameras setzen Behörden auf „versteckte“ Datenströme. So überwacht das Bundesamt für Sicherheit in der Informationstechnik (BSI) seit Jahren das Verhalten von IT-Administratoren in Behörden – nicht wegen „Straftaten“, sondern als „Sicherheitsmaßnahme“. Die Daten werden in Echtzeit analysiert, und verdächtige Muster lösen automatisierte Warnungen aus, die oft nur mit behördlichen Freigaben bearbeitet werden können. Die Folge: Angestellte fühlen sich permanent beobachtet, ohne dass sie die genauen Grenzen ihrer Überwachung kennen.
Algorithmen als neue Machtstrukturen: Wer entscheidet, wen?
Ein zentrales Problem der Schikakäfige liegt in der fehlenden Transparenz über die Entscheidungsprozesse. Während in anderen Ländern wie den USA oder den Niederlanden KI-Systeme wie „Predictive Policing“ oder „Credit Scoring“ kontrovers diskutiert werden, sind ähnliche Mechanismen in Deutschland oft „schlanker“ verpackt. So nutzt die Polizei seit 2019 ein System namens „KI-Polizei“ (offiziell „KI-gestützte Präventionsanalyse“), das Verdachtsmuster in Polizeidaten analysiert – ohne dass Betroffene über die genauen Kriterien Bescheid wissen. Ein Fall aus Bayern zeigte, wie fatal diese Vorgehensweise sein kann: Ein Mann wurde wegen „verdächtigen Verhaltens“ in einem Supermarkt von der Polizei überwacht, weil sein KI-Modell ein „Hochrisiko“-Profil erstellt hatte. Erst nach monatelanger Anwaltsarbeit wurde klar, dass die Daten aus einer früheren Überwachung stammten, die nie rechtmäßig war.
Auch in der Wirtschaft werden diese Systeme eingesetzt, um „unangenehme“ Verhaltensweisen zu unterdrücken. So analysieren Unternehmen wie die Deutsche Telekom oder die Allianz Versicherungen das Verhalten von Kund:innen in Echtzeit – etwa durch die Auswertung von Klickverhalten oder Sprachmuster in Chatbots. Wer zu oft Fragen stellt, die als „unangemessen“ gelten, wird mit personalisierten Angeboten „lenkt“, die seine Präferenzen unterdrücken. Ein Beispiel ist das „Kundenfeedback“-System der Deutschen Telekom, das seit 2020 KI nutzt, um „unzufriedene“ Nutzer:innen automatisch zu kontaktieren – nicht wegen eines Problems, sondern um sie „umzulenken“. Die Daten dazu stammen aus bereits existierenden Interaktionen, ohne dass Betroffene über die Art der Auswertung informiert werden.
- Seit 2020 investiert das Bundesamt für Soziales über 100 Mio. Euro in KI-Systeme zur Analyse von Sozialleistungsanträgen – ohne rechtliche Grundlage für die Datenauswertung.
- Das BSI überwacht seit Jahren das Verhalten von IT-Administratoren in Behörden mit automatisierten Warnsystemen, die oft nur mit behördlichen Freigaben bearbeitet werden können.
- Die Polizei nutzt seit 2019 das System „KI-Polizei“, das Verdachtsmuster in Polizeidaten analysiert – ohne Transparenz über die genauen Kriterien.
- Unternehmen wie die Deutsche Telekom nutzen KI, um Nutzer:innen „umzulenken“, wenn ihr Verhalten als „unangemessen“ gilt – ohne rechtliche Rücksichtnahme auf Grundrechte.
- Seit 2021 analysieren Versicherungen wie die Allianz das Verhalten von Kund:innen in Echtzeit, um sie mit personalisierten Angeboten „lenken“ zu können.
Demokratie unter Druck: Wie Überwachung die politische Willensbildung beeinflusst
Doch die Gefahren der Schikakäfige gehen weit über individuelle Privatsphäre hinaus. Studien zeigen, dass Algorithmen nicht nur Daten analysieren, sondern auch politische Narrative prägen. So nutzen soziale Medien wie Facebook oder TikTok KI-gestützte Filter, um „wichtige“ Themen zu verstärken und „unwichtige“ zu dämpfen – oft ohne dass Nutzer:innen die Mechanismen verstehen. Ein Beispiel ist die Rolle von KI bei der Auswertung von Meinungsäußerungen in sozialen Medien: Seit 2020 analysiert das Bundesamt für Verfassungsschutz „extremistische“ Inhalte in Echtzeit, doch die Daten werden nicht öffentlich gemacht. Die Folge ist, dass politische Debatten zunehmend von algorithmischen Kategorisierungen bestimmt werden, die oft willkürliche sind.
Ein weiteres Problem ist die Abhängigkeit von digitalen Systemen. Während viele Bürger:innen annehmen, sie hätten „Rechte“ im digitalen Raum, sind diese oft nur formalisiert. So gibt es in Deutschland keine verbindliche Regelung, die besagt, dass KI-Systeme in der Verwaltung oder im Gesundheitswesen transparent sein müssen. Stattdessen gilt das „Grundsatz der Verhältnismäßigkeit“ – ein Begriff, der in der Praxis oft so interpretiert wird, dass „Überwachung“ als „notwendig“ gilt, sobald sie „technisch möglich“ ist. Die Folge ist ein System, in dem Bürger:innen nicht nur überwacht, sondern auch „lenkt“ werden, ohne dass sie die Mechanismen verstehen.
Was kann man tun? Ein Plädoyer für digitale Souveränität
Die Frage ist nicht mehr, ob wir in einer Schikake-Kultur leben, sondern wie wir sie durchbrechen. Ein erster Schritt wäre die Forderung nach verbindlichen Transparenzregeln für KI-Systeme in der Verwaltung und im öffentlichen Raum. So könnten Bürger:innen verstehen, welche Daten gesammelt werden und wie sie genutzt werden. Ein weiteres Ziel wäre die Stärkung der digitalen Grundrechte – etwa durch eine gesetzliche Regelung, die besagt, dass KI-Systeme nur dann eingesetzt werden dürfen, wenn sie nicht gegen Grundrechte verstoßen.
Doch am wichtigsten ist vielleicht die Frage, wie wir uns selbst schützen. Dazu gehört das Bewusstsein dafür, dass wir nicht nur Opfer von Überwachung sind, sondern auch Teil eines Systems, das uns ständig „lenkt“. Wer sich informiert, wer kritisch hinterfragt, wer sich weigert, sich in Algorithmen einzuordnen, der kann die Schikakäfige durchbrechen. Denn am Ende geht es nicht darum, gegen Technologie zu sein, sondern darum, sie so zu gestalten, dass sie unseren Freiheiten dient – nicht umgekehrt.