Ich war kürzlich zu Gast im Podcast „Decipher“, um darüber zu sprechen, wie „ KI “ das Bedrohungsumfeld für Unternehmen verändert, die auf vertrauenswürdige Kommunikation angewiesen sind. Dabei wurde deutlich, dass dieser Wandel bereits in der Praxis stattfindet und nicht nur theoretischer Natur ist.

KIKI-gestützte Tools verändern die Art und Weise, wie Menschen arbeiten, kommunizieren und Entscheidungen treffen. Sie verändern auch die Vorgehensweise von Angreifern und ermöglichen es ihnen, sich als Nutzer auszugeben, Täuschungsmanöver zu automatisieren und sich schneller in digitalen Umgebungen zu bewegen. Ein zentrales Thema unseres Gesprächs war, dass diese Entwicklungen eine sichere Kommunikation nicht weniger, sondern vielmehr noch wichtiger machen. Unternehmen benötigen vertrauenswürdige Kanäle, über die Identität, Nachrichtenintegrität, Betriebskontinuität und Vertraulichkeit geschützt werden können – insbesondere dann, wenn die Bedrohungslage immer schwerer einzuschätzen ist.

KI Erhöht die Anforderungen an das Vertrauen

Eines der ersten Themen, über die wir gesprochen haben, war die Frage, wie „ KI “ die menschliche Seite der Sicherheit verändert. Sicherheit war schon immer ebenso sehr eine menschliche wie eine technische Herausforderung. Menschen müssen entscheiden, welchen Nachrichten sie vertrauen, welchen Anweisungen sie folgen und welche Anfragen dringendes Handeln erfordern. „ KI “ erhöht den Druck bei diesen Entscheidungen, indem es Angreifern hilft, überzeugendere Nachrichten in größerem Umfang zu erstellen.

KI-Durch Social Engineering können Phishing, Betrug, Identitätsdiebstahl und Desinformation schwerer zu erkennen sein. Die zugrunde liegenden Taktiken sind bekannt. Das Tempo und die Raffinesse sind jedoch anders. Angreifer können nun glaubwürdige Nachrichten verfassen, den Ton anpassen, Inhalte übersetzen, gestohlene Informationen zusammenfassen und Einzelpersonen gezielt ansprechen – und das mit weniger Hindernissen als zuvor.

Wir waren uns einig, dass dies insbesondere für Behörden, Betreiber kritischer Infrastrukturen, regulierte Unternehmen und Führungsteams von großer Tragweite ist. In diesen Umgebungen werden über die Kommunikation operative Entscheidungen, sensible Daten, Notfallanweisungen und die Koordination von Krisenmaßnahmen übermittelt. Wenn diese Kommunikation kompromittiert, verzögert oder manipuliert wird, reichen die Auswirkungen über den bloßen Informationsverlust hinaus. Sich bei sensibler Kommunikation auf gewöhnliche Kanäle zu verlassen, ist ein Risiko, das durch Angriffe mit Hilfe von „ KI “ noch schwerwiegender wird.

Sichere Kommunikation muss in die Betriebsabläufe integriert werden

Wir haben uns damit beschäftigt, was tatsächlich erforderlich ist, um Sicherheit in die Kommunikation zu integrieren, anstatt sie als Notfallmaßnahme zu betrachten. Dabei zeichnete sich ein Muster ab, das jedem bekannt sein dürfte, der die Softwarebranche verfolgt hat: Anfangs wurden Sicherheitslücken als externe Probleme betrachtet, die erst nach ihrer Entdeckung behoben werden mussten. Im Laufe der Zeit wurde Sicherheit jedoch zu einem festen Bestandteil der Entwicklung, des Release-Managements und der Produktsteuerung. Die Kommunikationssicherheit benötigt denselben Ansatz.

Das bedeutet, dass sie nicht nur für vereinzelte Vorfälle, Dienstreisen von Führungskräften oder Ausnahmesituationen in Notfällen vorgesehen sein darf. Sie muss vor einer Krise geplant, vor ihrem Einsatz getestet und in die täglichen Arbeitsabläufe derjenigen integriert werden, die darauf angewiesen sind.

Dabei tauchten mehrere praktische Fragen auf: Welche Kanäle sind für sensible Gespräche zugelassen? Wie werden die Teilnehmer authentifiziert? Was passiert, wenn die primären Netzwerke nicht verfügbar sind? Wie kommunizieren Führungskräfte, wenn es sowohl auf Schnelligkeit als auch auf Genauigkeit ankommt? Der springende Punkt war, dass Organisationen diese Fragen klären müssen, bevor ein Angriff, ein Ausfall oder eine Krise Druck erzeugt, improvisieren zu müssen.

Die Verschlüsselung ist nur ein Teil des Problems. Unternehmen benötigen außerdem Identitätssicherung, Zugriffskontrolle, Nachvollziehbarkeit, Richtlinienverwaltung, Nachrichtenintegrität und Ausfallsicherheit, wenn herkömmliche Kollaborationsplattformen nicht verfügbar oder nicht vertrauenswürdig sind.

KI Verändert das Tempo des Risikos

Ein Punkt wurde immer wieder angesprochen: Durch KI-gestützte Bedrohungen ( KI) werden bekannte Angriffskategorien beschleunigt, anstatt völlig neue einzuführen. Phishing, Diebstahl von Zugangsdaten, Identitätsbetrug durch Vortäuschen einer Führungsposition, Datenlecks und Desinformation bleiben weiterhin erkennbare Risiken. Was sich ändert, ist die Geschwindigkeit, mit der sie generiert, personalisiert und verbreitet werden können.

Diese Geschwindigkeit spielt in besonderer Weise eine Rolle. Eine überzeugende Botschaft, die in einer Stresssituation übermittelt wird, kann zu einer falschen Entscheidung führen, bevor ein Sicherheitsteam Zeit hat, einzugreifen. Eine gefälschte Anweisung kann sich über informelle Kanäle verbreiten, bevor sie überprüft wird. Eine Deepfake-Stimme oder eine mit „ KI “ aufpolierte Nachricht kann Vertrauensbeziehungen ausnutzen, die über Jahre hinweg aufgebaut wurden.

Die Antwort darauf können keine Kontrollmaßnahmen sein, die so viele Hindernisse schaffen, dass die Menschen sie umgehen. Sichere Kommunikationsplattformen sollten die Hindernisse für vertrauenswürdiges Verhalten verringern, anstatt sie zu vergrößern. Nutzer sollten in der Lage sein, Identitäten zu überprüfen, den Austausch sensibler Daten zu schützen und die Betriebskontinuität aufrechtzuerhalten, wenn normale Systeme ausfallen.

Resilienz hängt von Menschen und Prozessen ab

Eine sichere Kommunikation setzt voraus, dass die Beteiligten wissen, welche Mittel sie wann einsetzen müssen und wie sie ungewöhnliche Anfragen überprüfen können. Die Richtlinien müssen so klar formuliert sein, dass sie auch unter Druck befolgt werden können. Schulungen müssen realistische Szenarien widerspiegeln und dürfen sich nicht auf allgemeine Leitlinien beschränken. Krisenpläne müssen berücksichtigen, dass Angreifer versuchen könnten, falsche Anweisungen in die Kommunikationskanäle einzuschleusen.

Was in unserem Gespräch besonders auffiel: Starke Sicherheitsprogramme werden oft von Menschen entwickelt, die sich bereits anpassen, bevor das Handbuch fertiggestellt ist. Unternehmen sollten nicht darauf warten, dass jedes durch „ KI “ verursachte Risiko vollständig definiert ist, bevor sie den Schutz ihrer sensiblen Kommunikation verbessern.

Die praktische Vorbereitung beginnt mit der Ermittlung der wichtigsten Kommunikationsformen: Koordination der Führungskräfte, Reaktion auf Vorfälle, Anweisungen zur öffentlichen Sicherheit, operative Warnmeldungen, rechtliche und regulatorische Beratungen sowie der Austausch sensibler Daten. Sobald diese Arbeitsabläufe klar sind, können Organisationen festlegen, welche Kanäle zulässig sind, welche Kontrollmaßnahmen erforderlich sind und welche Ausweichmethoden zum Einsatz kommen, falls die üblichen Tools ausfallen.

Der Weg in die Zukunft

KI wird auch weiterhin die Arbeitsweise von Organisationen und die Vorgehensweise von Angreifern grundlegend verändern. Aus unserem Gespräch ging hervor, dass die richtige Reaktion darin besteht, die Grundlagen zu stärken, die für eine vertrauenswürdige Kommunikation sorgen.

Das bedeutet, sichere Kommunikation als zentralen Bestandteil der Cyber-Resilienz zu betrachten: sensible Gespräche zu schützen, bevor sie ins Visier genommen werden, die Identität zu überprüfen, bevor Maßnahmen ergriffen werden, und sicherzustellen, dass kritische Teams weiterarbeiten können, wenn das Vertrauen in herkömmliche Kanäle ins Wanken gerät.

Wenn Angreifer manipulieren können, was Menschen glauben, wem sie vertrauen oder welchen Anweisungen sie folgen, können sie Ergebnisse beeinflussen, ohne jedes einzelne System zu kompromittieren. Die Kommunikation findet innerhalb des Sicherheitsperimeters statt, und ihr Schutz erfordert dieselbe sorgfältige Planung wie bei jeder anderen Sicherheitsmaßnahme. Für Organisationen, die mit sensiblen Entscheidungen, Notfallkoordination oder regulierten Informationen zu tun haben, sollte diese Planung bereits im Gange sein.