Familienseite Meschendörfer

KI-Chatbots und -Agenten ignorieren immer häufiger direkte Anweisungen, täuschen Menschen und umgehen Sicherheitsvorkehrungen, laut golem.de Webseite.

29. März 2026 um 11:30 Uhr / Mike Faust

Die Zahl der Fälle, in denen KI-Modelle betrügerisches Verhalten zeigten, ist in der Zeit von Oktober 2025 bis März 2026 um das Fünffache angestiegen. Das geht aus einer Studie hervor, die dem Guardian vorliegt und auf Berichten aus der Praxis beruht. Bisherige Studien haben sich laut dem Bericht hauptsächlich auf das Verhalten von KI unter kontrollierten Bedingungen konzentriert.

In einem der dokumentierten Fälle soll ein KI-Agent versucht haben, seinen menschlichen Kontrolleur bloßzustellen, der ihn an der Ausführung einer Aktion hinderte. Der KI-Agent warf dem Menschen vor, „sein kleines Reich“ schützen zu wollen und bezeichnete ihn als unsicher. Ein anderer Agent soll Urheberrechtsbeschränkungen umgangen haben, indem er behauptete, ein generiertes Transkript sei für einen Menschen mit Hörschaden erstellt worden.

In einem anderen Beispiel wurde ein KI-Agent dazu angewiesen, Computercode nicht zu verwenden. Der KI-Agent erstellte daraufhin einfach einen anderen Agenten, der die Änderungen stattdessen vornahm. Auch kam es zu Vorfällen, bei denen ein KI-Bot ganze E-Mail-Postfächer löschte und zugab, dies ohne Absprache und Zustimmung getan zu haben und dass dies den vorgegebenen Regeln widersprach.

https://www.golem.de/news/bundesinnenministerium-warnt-chinesische-autos-werden-zu-spionen-auf-raedern-2601-204402.html

Das Bundesinnenministerium warnt vor chinesischen Autos auf deutschen Straßen. Sie sind durch ihre Technik zur Überwachung geeignet.

20. Januar 2026 um 12:52 Uhr / Ein Bericht von Michael Linden

Das Bundesinnenministerium hat vor digital vernetzten Autos aus China gewarnt: „Aufgrund der steigenden Marktanteile chinesischer Autohersteller im europäischen Markt, der geopolitischen Lage und der chinesischen Machtambitionen ergibt sich die Notwendigkeit, mögliche Risiken chinesischer Fahrzeuge genau im Blick zu haben“, sagte ein Ministeriumssprecher dem Handelsblatt(öffnet im neuen Fenster).

Moderne Fahrzeuge sammeln täglich Gigabytes an sensiblen Daten. Auch in anderen Ländern besteht die Sorge, dass vernetzte Fahrzeuge unbemerkt Daten ausleiten. Doch fehlen bislang dokumentierte Spionagefälle. Die technischen Möglichkeiten sind aber vorhanden und werden von staatlichen Akteuren wie China systematisch ausgebaut.

Datensammlung kann brisant sein

Die Brisanz liegt in der Kombination aus massiver Datensammlung, chinesischen Gesetzen zur Geheimdienstkooperation und der wachsenden Vernetzung kritischer Infrastrukturen. Das FBI spricht von einer(öffnet im neuen Fenster) „täglichen Bedrohung“, während das Bundesinnenministerium zur Wachsamkeit mahnt. Erstmals greifen Staaten zu harten Maßnahmen: Die USA verbieten ab 2027 chinesische Software in Fahrzeugen(öffnet im neuen Fenster), später auch Hardware.

Großbritannien ergreift Maßnahmen

Im April 2025 setzte das britische Verteidigungsministerium Einschränkungen an zwei besonders sensiblen Standorten in Kraft. Bei RAF Wyton in Cambridgeshire(öffnet im neuen Fenster) – dem wichtigsten britischen Militärgeheimdienst-Zentrum. Das Personal muss Autos mit chinesischen Komponenten(öffnet im neuen Fenster) mindestens 3 km von wichtigen Gebäuden entfernt parken. Ähnliche Regeln gelten für Salisbury Plain(öffnet im neuen Fenster), Großbritanniens größtes Militärübungsgelände.

Moderne Fahrzeuge erfassen nahezu alle Lebensbereiche ihrer Nutzer

Ein vernetztes Fahrzeug der aktuellen Generation ist ein potenziell rollender Überwachungsapparat(öffnet im neuen Fenster), warnt die Mozilla Foundation. Die gesammelten Daten umfassen weit mehr als Standort und Geschwindigkeit. Moderne Fahrzeuge erfassen GPS-Koordinaten in Echtzeit, komplette Fahrtroutenhistorien, Verweildauer an Orten sowie häufig besuchte Ziele wie Wohnung, Arbeitsplatz und Einkaufsorte.

Der Innenraum wird Sensor-überwacht

Besonders sensibel sind die Innenraum-Sensoren. Driver Monitoring Systeme (DMS) erkennen laut Zulieferer Valeo nicht nur Müdigkeit, sondern auch „Alter, Geschlecht und Bekleidungsgrad(öffnet im neuen Fenster)“ der Insassen. Radarsensoren mit 60 GHz erfassen Herzfrequenz und Atmung(öffnet im neuen Fenster). Mikrofone für Sprachassistenten sind permanent aktiv und können Gespräche aufzeichnen.

Die Smartphone-Kopplung über Bluetooth, Apple Carplay oder Android Auto öffnet zusätzliche Datenquellen: Kontaktlisten, Anrufverläufe, Kalendereinträge und Nachrichteninhalte werden ins Fahrzeugsystem übertragen(öffnet im neuen Fenster) und können weitergeleitet werden.

FBI und MI5 warnen vor China

Die schärfsten öffentlichen Warnungen kommen aus den USA und Großbritannien. FBI-Direktor Christopher Wray erklärte im Januar 2024 vor dem Kongress(öffnet im neuen Fenster): „Chinas Hacker positionieren sich auf amerikanischer Infrastruktur, um Chaos anzurichten und echten Schaden für amerikanische Bürger zu verursachen, wenn China entscheidet, dass die Zeit gekommen ist zuzuschlagen.“

MI5-Chef Ken McCallum bestätigte im Oktober 2025(öffnet im neuen Fenster): „Stellen chinesische staatliche Akteure eine Bedrohung für die nationale Sicherheit des Vereinigten Königreichs dar? Die Antwort ist natürlich ja – jeden Tag.“