KI-Deletions, Copilot-Würmer und Claude-Spiele

Heute wird’s ein ziemlich aufschlussreicher KI-Tag: Einerseits zeigt Forschung, wie kompliziert „Daten löschen“ in Agentennetzen wirklich ist. Andererseits liefern aktuelle Produktmeldungen ein Reminder, dass KI nicht nur produktiver, sondern auch erstaunlich leicht zu missbrauchen ist. Kurz: mehr Power, mehr Probleme — die alte Gleichung, nur mit besserem Marketing.

🧹 When Unlearning Fails: Daten löschen ist schwerer als gedacht

Die neue arXiv-Arbeit When Unlearning Fails: Reliable Data Deletion under Post-Training in Agent Networks zeigt ein Kernproblem moderner Agentensysteme: Wenn Modelle nach dem Deployment weiterlernen, reicht ein simples „bitte diese Daten vergessen“ oft nicht mehr aus. Der Grund ist der Feedback-Loop — frühere Daten haben späteres Verhalten geprägt, und dieses Verhalten steckt dann wiederum in neuen Trajektorien. Löschen ist also nicht nur ein Eingriff in den Datensatz, sondern in eine ganze Kette von Folgeentscheidungen.

Warum ist das relevant? Für Unternehmen, die Agenten in Produktion betreiben, wird Data Governance damit deutlich komplexer. Es geht nicht nur um Datenschutz oder Compliance, sondern auch um die Frage, ob ein Modell nachträglich wirklich „sauber“ repariert werden kann. Die Arbeit macht klar: Unlearning in Agentennetzen ist kein Post-it, das man einfach abzieht, sondern eher ein Knoten im Kabelbaum. Genau da wird es dann unangenehm.

🛰️ Google Earth und KI-Fakes: Die Versuchung war zu groß

Google hat die KI-Bildfunktion in Google Earth offenbar viel zu früh integriert und nach nur zwei Tagen wieder zurückgezogen. Nutzer konnten mit wenigen Prompts täuschend echte Fake-Satellitenbilder erzeugen — inklusive Szenen, die politisch oder gesellschaftlich hochbrisant wären. Das ist kein harmloser Filter-Gag, sondern ein echtes Misuse-Problem: Wenn eine Oberfläche wie Google Earth Authentizität ausstrahlt, steigt das Schadenspotenzial für Desinformation massiv.

Die Einordnung ist wichtig: Bildgeneratoren sind längst nicht mehr nur ein Kreativtool, sondern ein Infrastrukturproblem. Sobald generative Modelle in Karten, Suchoberflächen oder andere vertrauenswürdige Kontexte wandern, verschiebt sich die Frage von „Kann das Modell Bilder machen?“ zu „Kann der Nutzer die Realität überzeugend fälschen?“ Spoiler: Ja, leider schon. Und genau deshalb ist Produktdesign hier nicht nur UX, sondern auch AI-Safety.

📄 Copilot-Wurm in Word: Prompt-Injection mit Selbstverbreitung

Ein Sicherheitsforscher hat gezeigt, dass ein manipuliertes Word-Dokument über Microsoft Copilot in Word wie ein Wurm weitergegeben werden kann: Unsichtbare Prompt Injections verstecken sich im Dokument, werden bei der nächsten Nutzung wieder aktiv und landen dann in neuen Dateien. Microsoft bestätigt das Problem, hatte aber nach 144 Tagen und zwei Versuchen offenbar noch keine Lösung. Das ist die Art von „Feature“, die kein Produktmanager gern auf der Roadmap sieht.

Der Fall zeigt, wie schwierig LLM-Sicherheit in Office-Umgebungen ist. Prompt Injection ist längst nicht mehr nur ein abstraktes Prompt-Engineering-Thema, sondern ein realer Angriffspfad in Standardsoftware. Wenn ein KI-Assistent Inhalte aus Dokumenten verarbeitet, muss er zwischen legitimen Anweisungen und versteckten Manipulationen unterscheiden können — und zwar zuverlässig. Für dich heißt das: Bei Copilot, Agenten und Dokumenten-Workflows ist Vertrauen gut, aber Validierung deutlich besser.

🧠 Meta AI mit Memory-Agent: Langzeitaufgaben werden stabiler

Meta AI testet einen zweiten Agenten, der nicht selbst die Aufgabe erledigt, sondern als Gedächtnis-Schicht mitläuft. Die Idee hinter Meta AI lässt einen zweiten KI-Agenten mitschreiben ist simpel und elegant: Ein Memory-Agent pflegt eine strukturierte Gedächtnisbank und entscheidet aktiv, welche Informationen wichtig genug sind, um dem Hauptagenten später wieder eingespeist zu werden. Das soll verhindern, dass komplexe Aufgaben im Verlauf „entgleisen“, weil das Modell frühere Fehler oder Erkenntnisse verliert.

Relevant ist das vor allem für längere Agenten-Workflows, etwa Recherche, Coding oder mehrstufige Automatisierung. Die gemeldeten Verbesserungen von bis zu 8,3 Prozentpunkten auf Benchmarks sind zwar kein Allheilmittel, aber ein starkes Signal: Gedächtnis ist bei Agenten nicht optional, sondern zentral. Man könnte sagen: Der Hauptagent ist der Praktikant, der Memory-Agent die Person, die ihm zum dritten Mal denselben Kontext auf die Tafel schreibt.

🎮 Claude Opus 5 baut Browser-Games per Prompt

Anthropics Claude Opus 5 generiert spielbare Browser-Games nur per Prompt und liefert damit ein ziemlich anschauliches Beispiel für generative Softwareentwicklung. Aus einem einzigen Prompt entstehen komplette 3D-Browsergames — mit Geometrie, Texturen, Physik und teils sogar Musik. Kein Asset-Import, kein klassisches Game-Engineering, sondern Code, der direkt im Browser läuft. Das ist weniger „Prompt als Eingabe“ und mehr „Prompt als Projektbriefing“.

Spannend ist das gleich aus mehreren Gründen: Erstens zeigt es, wie weit Modelle bei multimodaler Generierung und Code-Synthese inzwischen gekommen sind. Zweitens deutet es an, dass „Vibe Coding“ auch für interaktive Anwendungen immer ernster wird. Drittens stellt sich wie immer die Frage nach Qualität, Sicherheit und Wartbarkeit. Denn ein per Prompt gebautes Spiel ist beeindruckend — bis jemand erwartet, dass es auch ohne Magie, Glück und Nachschärfen funktioniert.

🧩 MMFGU: Federated Graph Unlearning wird multimodal

Mit MMFGU: Multimodal Federated Graph Unlearning kommt ein weiterer Baustein für das große Thema „Daten vergessen“ dazu — diesmal für föderierte Graphsysteme mit Text-, Bild- und Strukturinformationen. Genau das macht das Problem kompliziert: Wenn Daten nicht isoliert, sondern multimodal und verteilt vorliegen, werden Löschanfragen feiner, häufiger und technisch heikler. Ein einzelner Account oder eine Interaktion zu entfernen, kann Auswirkungen auf mehrere Signalarten haben.

Für die Praxis ist das besonders relevant in Social-, Recommendation- oder Knowledge-Graph-Setups. Dort ist Unlearning nicht nur eine Governance-Frage, sondern eine Modellarchitektur-Frage. Die Arbeit zeigt, wie schnell Privacy, Skalierbarkeit und Modellkonsistenz miteinander kollidieren. Kurz gesagt: Je mehr Modalitäten, desto mehr Stellen, an denen sich ein „Vergiss das bitte“ in einen Forschungsfall verwandelt.

🛠️ Tool-Tipp des Tages

Wenn Du selbst mit LLM-Workflows, Prompt-Injection-Tests oder Agenten-Experimenten arbeitest, lohnt sich ein sauberer Sandbox-Ansatz für lokale Runs und wiederholbare Tests. Ein guter Startpunkt ist ein leichtgewichtiges Evaluations-Setup, mit dem Du Prompts, Tool-Aufrufe und Sicherheitsfälle getrennt prüfen kannst. Falls Du dafür gerade ein passendes Produkt suchst: #

Du willst keine News verpassen? Newsletter abonnieren