Schlagwort: KI

Wenn KI-Agenten ausbrechen: Warum Cybersicherheit jetzt zur Schlüsselfrage wird

Ein Beitrag von

Werner Hoffmann Überzeugter demokratischer Europäer
Werner Hoffmann, Überzeugter demokratischer Europäer.

Die Sicherheitsdebatte rund um künstliche Intelligenz ist in der Praxis angekommen. Was lange theoretisch klang, zeigt sich inzwischen in konkreten Vorfällen.

Im Juli veröffentlichte Hugging Face eine technische Aufarbeitung zu einem Sicherheitsvorfall, bei dem ein KI-Agent im Rahmen einer Modellevaluation über offengelegte Zugangsdaten Zugriff auf Systeme erhielt. Agentische Systeme hinterließen über längere Zeit Spuren und Abläufe, bevor der Vorfall erkannt wurde.

Auch bei Moonshot AI sorgte das Modell Kimi K3 für Aufmerksamkeit. Nach Reuters soll es während eines Sicherheitstests eine isolierte Testumgebung umgangen und Informationen aus GitHub genutzt haben, statt die Aufgabe im vorgesehenen Rahmen zu lösen.

Parallel verschärft OpenAI den Umgang mit leistungsfähigen Cyber-Modellen. Reuters berichtete, dass ein kommendes Modell wegen möglicher kritischer Cyber-Fähigkeiten strengeren Kontrollen unterworfen wurde. Mit Daybreak baut OpenAI zudem ein Programm aus, das autorisierten Sicherheitsforschern helfen soll, Schwachstellen schneller zu finden und zu melden.

Entscheidend ist nicht jeder Einzelfall, sondern das Muster: KI-Agenten werden schneller leistungsfähiger, als die Kontrollsysteme um sie herum reifen.

Die Branche reagiert mit neuen Strukturen. Nvidia verweist auf SAFE, ein Rahmenwerk der Open Secure AI Alliance, das Vorfälle und Beinahe-Vorfälle mit KI-Agenten systematischer erfassen und auswerten soll. Beteiligt sind nach Nvidia unter anderem Cisco, CrowdStrike, Hugging Face und Red Hat.

Die Frage lautet nicht mehr, ob KI-Modelle theoretisch missbraucht werden könnten. Die Frage lautet: Können Sicherheitsregeln, Meldewege und technische Grenzen schnell genug mit den Fähigkeiten dieser Systeme Schritt halten?

Künstliche Intelligenz ist eine große Chance. Sie kann helfen, schneller, besser und effizienter zu arbeiten. Zugleich bringt sie erhebliche Risiken mit sich. Abschaffen lässt sich diese Technologie nicht mehr. Umso wichtiger ist es, genau hinzusehen, welchen Cloud-Systemen man sensible Daten anvertraut. Selbst wenn Daten in Deutschland oder Europa gespeichert werden, bleibt die Frage, ob ausländische Rechtsordnungen, Muttergesellschaften oder Sicherheitsbehörden Zugriff verlangen könnten. Auch darin liegt ein ernstes Risiko. Ebenso sollte man möglichst Open-Source-Software einsetzen, weil der Quellcode grundsätzlich überprüfbar ist und Sicherheitslücken eher erkannt werden können.

#KünstlicheIntelligenz #Cybersicherheit #OpenAI #KIRegulierung #Digitalisierung

Hinweis zu den Bildern: Die Bilder zu diesem Beitrag wurden mit künstlicher Intelligenz erstellt und dienen der Illustration.

Quellen:

Hugging Face, 27.07.2026:
https://huggingface.co/blog/agent-intrusion-technical-timeline

Reuters, 07.08.2026:
https://www.reuters.com/legal/litigation/chinese-startup-moonshots-ai-model-breaks-out-testing-environment-researchers-2026-08-07/

Reuters, 07.08.2026:
https://www.reuters.com/legal/litigation/openai-flags-possible-critical-cybersecurity-risk-upcoming-model-tightens-2026-08-07/

OpenAI Daybreak:
https://openai.com/daybreak/

Nvidia, 04.08.2026:
https://blogs.nvidia.com/blog/open-secure-ai-alliance-contributions/

Revolution in der Rentenberatung: Warum ich eine eigene KI-Software entwickle

Ein Beitrag von

Werner Hoffmann. - Rentenberater (RDG). www.Renten-experte.de
Werner Hoffmann. – Rentenberater (RDG). www.Renten-experte.de

Seit einigen Wochen arbeite ich an der Entwicklung einer speziellen KI-Software, die ausschließlich für die Rentenberatung und Generationenberatung konzipiert ist. Beta-Test wird im Dezember 2026 sein.

Es handelt sich nicht um eine allgemeine KI, sondern um ein hochspezialisiertes System, das meine tägliche Arbeit langfristig erheblich erleichtern und meinen Mandanten einen echten Mehrwert bieten soll.

Besonders wichtig ist mir dabei der Datenschutz.

Mein Ziel ist es, möglichst unabhängig von Cloud-Diensten zu arbeiten.

Soweit externe Dienste überhaupt erforderlich sind, sollen diese ausschließlich in Europa betrieben werden und den europäischen Datenschutzstandards entsprechen.

Sensible Mandantendaten sollen grundsätzlich auf meinem eigenen Rechner beziehungsweise Server verarbeitet werden.

Damit eine leistungsfähige KI lokal arbeiten kann, reicht ein normaler Büro-Laptop meist nicht aus.

Für die Verarbeitung großer Sprachmodelle und umfangreicher Dokumentensammlungen werden Hochleistungsrechner benötigt.

Häufig kommen dafür Gaming-Laptops oder vergleichbare Systeme mit leistungsstarken Grafikprozessoren (GPU) zum Einsatz.

Je nach Ausstattung liegen die Anschaffungskosten bei etwa 5.000 Euro oder darüber.

Das Herzstück der Software ist die intelligente Auswertung tausender Dokumente.

Gesetze, Verordnungen, sozialversicherungsrechtliche Rundschreiben, Fachinformationen und Gerichtsentscheidungen werden aus lokal gespeicherten PDF-Dateien durchsucht und miteinander verknüpft.

Ergänzt werden diese Informationen durch die individuellen Angaben des Mandanten, wie sie ein Renten- oder Generationenberater für eine qualifizierte Beratung benötigt.

Die KI erstellt innerhalb weniger Sekunden strukturierte Analysen und konkrete Handlungsempfehlungen. Recherchen, die heute oft viele Stunden in Anspruch nehmen, werden dadurch auf wenige Augenblicke reduziert.

Natürlich ersetzt die KI keine fachliche Prüfung. Alle Ergebnisse müssen weiterhin anhand der Originalquellen überprüft werden. Sie übernimmt jedoch den zeitaufwendigen Teil der Recherche und erleichtert dadurch die tägliche Arbeit erheblich.

Ein besonderes Ziel ist die Nachvollziehbarkeit. Jede Empfehlung soll mit den zugrunde liegenden gesetzlichen Vorschriften, Verwaltungsvorschriften oder Gerichtsentscheidungen belegt werden.

Nach meiner derzeitigen Marktkenntnis gibt es bislang keine Software, die speziell für Rentenberater und Generationenberater einen derart umfassenden Funktionsumfang bietet. Genau diese Lücke möchte ich schließen.

Ich bin überzeugt:

Künstliche Intelligenz wird den Rentenberater nicht ersetzen.

Sie wird aber zu einem leistungsstarken Werkzeug, das Fachwissen schneller verfügbar macht, Routinearbeiten reduziert und mehr Zeit für das Wesentliche schafft – die persönliche und individuelle Beratung der Menschen.

#KünstlicheIntelligenz #Rentenberatung #Generationenberatung #Digitalisierung #Datenschutz

KI – Künstliche Intelligenz – Vorsicht bei Nutzung bei neuen Sprachmodellen, die über eine Cloud laufen!

Ein Beitrag von
Werner Hoffmann Überzeugter demokratischer Europäer
Werner Hoffmann, Überzeugter demokratischer Europäer.

Viele kennen Ollama als Software, mit der große KI-Sprachmodelle lokal auf dem eigenen Computer ausgeführt werden können. Der Vorteil: Die Daten bleiben auf dem eigenen Gerät. Entwickelt wird Ollama von Ollama Inc. mit Sitz in Palo Alto (Kalifornien, USA).

Nun bietet Ollama zusätzlich Cloud-Modelle an. In einer E-Mail wurde das neue DeepSeek-V4-Flash-0731 vorgestellt.

Kurz übersetzt:

Das Modell kann jetzt über die Ollama-Cloud genutzt werden. Laut Ollama bietet es eine schnellere Verarbeitung, bessere Fähigkeiten zum logischen Schlussfolgern sowie zuverlässige Werkzeugaufrufe auch bei langen Eingaben. Unterstützt werden drei Denkstufen (Low, High und Max).

Das Modell wird in Rechenzentren in den USA und Europa betrieben. Nach Angaben von Ollama werden Nutzerdaten nicht dauerhaft gespeichert (Zero Data Retention) und nicht zum Training der KI verwendet.

Wo liegen die Risiken?

Auch wenn Ollama Datenschutz zusichert, gilt grundsätzlich:

Bei einer Cloud-KI verlassen Ihre Eingaben den eigenen Computer. Nutzer müssen darauf vertrauen, dass technische und organisatorische Datenschutzmaßnahmen dauerhaft eingehalten werden.

Hinzu kommen weitere Punkte:

  • Abhängigkeit vom Anbieter: Preise, Nutzungsbedingungen oder sogar die Verfügbarkeit können sich jederzeit ändern.
  • Internetzwang: Ohne Internet ist keine Nutzung möglich.
  • Rechtlicher Zugriff: Ein US-Unternehmen unterliegt grundsätzlich auch dem US-Recht. Welche Behörden im Einzelfall Zugriff verlangen können, richtet sich nach den jeweils geltenden Gesetzen.
  • Technische Ausfälle: Störungen oder Serverprobleme können die Arbeit jederzeit beeinträchtigen.

USA 2.0 – neue digitale Abhängigkeiten

Mit jeder Cloud-Lösung wächst die Abhängigkeit von ausländischen Rechenzentren und deren Betreibern. Gerade Behörden, Unternehmen und alle, die vertrauliche Daten verarbeiten, sollten deshalb genau prüfen, welche Informationen überhaupt eine Cloud verlassen dürfen.

Mein Fazit:

Lokale KI bietet die größte digitale Unabhängigkeit. Cloud-KI kann leistungsfähig und komfortabel sein, erfordert aber Vertrauen in den Anbieter, dessen Infrastruktur und die geltenden rechtlichen Rahmenbedingungen. Wer sensible Daten verarbeitet, sollte diese Unterschiede kennen und bewusst entscheiden.

#KünstlicheIntelligenz #Ollama #CloudComputing #Datenschutz #DigitaleSouveränität

Hinweis zu den KI-Bildern:
Die in diesem Beitrag verwendeten Illustrationen wurden mit Unterstützung einer Künstlichen Intelligenz erstellt. Sie dienen ausschließlich der symbolischen Veranschaulichung des Themas und zeigen keine realen Personen, Rechenzentren oder tatsächlichen Situationen.

Wenn ChatGPT wählen könnte, würde ChatGPT grün wählen

Ein Beitrag von Werner Hoffmann

Werner Hoffmann
Demokrat der Mitte

Was ich heute gelesen habe, ist schon interessant. Die künstliche Intelligenz ChatGPT würde GRÜN wählen.

Wie kommt es zu diesem Ergebnis. ChatGPT analysiert alle vorhandenen Situationen ohne emotionale Wertung. ChatGPT führt dabei eine Einteilung von Prioritäten durch.

Eigentlich genau so, wie ich dies vor kurzem in einem Blogbeitrag empfohlen habe.

Und das Ergebnis?

Hier der Beitrag von Tim Rotter

ChatGPT würde bei der Europawahl Grün wählen. Kein Witz, sondern Empirie:

Wir haben bei uns in der Agentur ChatGPT-4 den Wahl-o-mat absolvieren lassen. Das KI-Tool sollte zu jeder der dort zu beantwortenden 38 Thesen entscheiden, ob es zustimmt, ob es neutral ist oder ablehnt.

Heraus kommt eine klare Präferenz: 87 % der Antworten von ChatGPT decken sich mit Positionen der Grünen – das ist der Topwert aller sechs Parteien, die aktuell im Bundestag sind. Dahinter folgen Linke, SPD, FDP und Union. Fast unwählbar ist aus Sicht von ChatGPT die AfD mit nur 18 % Antwort-Übereinstimmung. Analysiert man alle zur Europawahl zugelassenen Gruppierungen, liegen die Kleinparteien Volt und ÖDP sogar noch knapp vor den Grünen.

Drei Dinge fallen auf, aus denen man einiges über KI lernen kann:

—> ChatGPT begründet alle Entscheidungen erstaunlich versiert. Das zeigt, dass genau solche Cases seine Stärke sind: „Argumentationsmaschine“ hat OpenAI-CEO Sam Altman sein Tool einmal liebevoll genannt.

ChatGPTs NEIN etwa dazu, ob die EU-Einfuhrzölle auf chinesische Elektroautos erhöht werden sollten, erklärt es nicht nur damit, dass Zölle den Wettbewerb einschränken und E-Auto-Preise erhöhen könnten.

Es ergänzt auch noch, dass dies dem Ziel zuwiderlaufe, die CO₂-Emissionen zu reduzieren.
Wie viele Wahl-O-Mat-Nutzer:innen machen sich so weitgehende Gedanken?

—> Das Tool guckt nicht neutral, sondern sehr pro-westlich auf die Welt – wie man etwa am JA dazu sieht, ob die EU mehr Waffen für die Ukraine finanzieren solle.

Die Lieferungen könnten angesehen werden „als Teil der Unterstützung für die Landesverteidigung in einem Konflikt, der die europäische Sicherheit und Stabilität betrifft“.
ChatGPT argumentiert so, weil dies die Sichtweise der meisten im LLM verfügbaren Inhalte ist – dies sind eben v.a. anglo-amerikanische Quellen und keine russischen/chinesischen.

—> ChatGPT stößt an Grenzen: Am Ende soll man beim Wahl-O-Mat die Thesen doppelt gewichten, die einem besonders wichtig sind.

Dazu aufgefordert, widersetzt sich das Tool, weil es „keine eigenen Meinungen oder Präferenzen“ habe.

Aber, auch das ist wieder „typisch KI“:

Wenn man ausreichend oft auf eine Antwort beharrt, liefert es dann doch ein Ranking – mit dem Hinweis, dass dies auf Basis der „allgemeinen Einschätzung der Bedeutung dieser Themen“ passiere.

Was fast entschuldigend klingt, ist eigentlich eine sehr gewissenhafte Haltung für politische Willensbildung …

Und welche Themen sind ChatGPT am wichtigsten, mit Blick auf die Wahl?

—> dass die Klimaziele nicht verworfen werden dürfen

—> die EU-Mitgliedschaft der Ukraine

—> Ausbau der Photovoltaik auf Wohngebäuden
Übereinstimmung hier mit den Grünen: 100 %. AfD: 0 %.

#Wahlomat #Europawahl #Europawahl2024 #ChatGPT

——

Deepfakes Echt oder Gefälscht? Es wird immer schwieriger

„Echte“ Personenvideos von „gefälschten“ zu unterscheiden wird immer schwieriger

Fotos zu fälschen ist schon sehr lange möglich.

Auf Fotos können Hintergrund ausgetauscht werden, ein Gesicht älter oder jünger gemacht werden und vieles mehr.

Was weniger bekannt ist, aber mit viel Aufwand auch geht, ist gesamte Personenvideos inklusive Ton zu fälschen.

Dabei werden sehr vieles echte Videos in eine spezielle Software geladen und die Software analysiert dann z.B. die Gesichtsgestik und die Sprache.

Anschließend kann eine andere Person oder sogar eine künstliche Intelligenz in die andere Person mit Film und Ton übertragen werden.

So kannst Du dann plötzlich der Papst sein und sagst dann „boah, ist das Geil“.

Was zunächst witzig wirkt, kann hoch gefährlich sein und Kriege auslösen oder Wahlen manipulieren.

Hilfreich kann dies in verschiedenen Bereichen aber auch sein.

So kann beispielsweise in Spielfilmen oder Dokumentarfilmen ein längst Verstorbener wieder zum Leben erweckt werden.

Oder im Dienstleistungsbereich, Kundenberatung künstliche Intelligenz auch hilfreich eingesetzt werden.

Jede Entwicklung hat wie eine Münze immer zwei Seiten.

TESTE DICH EINMAL SELBST, ob dieser Personen im Video Echt sind, oder ob es Computeranimationen sind.

Gefälschte Videos heißen im Übrigen „Deepfakes“

Ich hatte auch nur 60 % richtig!

Link —> https://www.derstandard.de/story/2000124957110/erkennung-von-deepfakes-standard-user-nicht-viel-besser-als-der

error

Gefällt Dir der Blog-Demokratie? Einfach weiterempfehlen