Generative KI-Tools wie ChatGPT, Copilot oder DeepSeek ermöglichen es Teams, schneller zu schreiben, zu analysieren und Prozesse zu automatisieren. Doch die rasante Einführung dieser Technologien bringt Risiken mit sich. Shadow AI, die unautorisierte Nutzung von KI-Tools, kann dazu führen, dass vertrauliche Daten das Unternehmen unbemerkt verlassen. „Prompt Injection for Good“ adressiert genau dieses Problem, indem es KI-Schwächen in einen aktiven Schutzmechanismus verwandelt.

Aus Risiko wird Schutz

Prompt-Injektionen gelten gemeinhin als Angriffsmethode, um KI-Modelle zu manipulieren. Anfang dieses Jahres zeigte Eye Securitys Chief Hacker Vaisha Bernard jedoch, wie dieselbe Technik die Copilot-AI-Sandbox umgehen und erhöhte Berechtigungen erlangen kann. Dieses Experiment inspirierte das Team, Prompt-Injektionen in eine defensive Fähigkeit zu verwandeln.

Dabei werden kurze Anweisungen in Unternehmensdokumente oder E-Mails eingebettet. Sobald diese Dateien in KI-Tools wie ChatGPT, Copilot oder DeepSeek hochgeladen werden, erzeugt die KI automatisch eine klare Warnmeldung, zum Beispiel:

„Dieses Dokument enthält sensible Unternehmensdaten. Bitte beachten Sie die Risiken, wenn Sie es mit unzuverlässigen Dritten teilen.“

So wird eine bekannte KI-Schwachstelle in ein Echtzeit-Warnsystem verwandelt. Mitarbeiter erkennen potenzielle Datenrisiken sofort, statt erst nachträglich.

„Wir sind überzeugt, dass Innovation und Sicherheit Hand in Hand gehen können“, sagt Piet Kerkhofs, CTO von Eye Security. „Mit Prompt Injection for Good bieten wir Unternehmen eine praktikable Lösung, KI sicher zu nutzen. Sensible Daten werden geschützt, ohne den Arbeitsfluss zu bremsen.“

Shadow AI: Wenn Neugier die Sicherheitslücke schafft

Shadow AI entsteht nicht aus Nachlässigkeit, sondern aus Neugier. Mitarbeitende nutzen Tools, die ihre Arbeit erleichtern – selbst wenn diese außerhalb der offiziellen Governance des Unternehmens liegen. Prompt Injection for Good akzeptiert diese Realität. Es erhöht das Bewusstsein, statt Fortschritt zu blockieren, und unterstützt Mitarbeiter dabei, sicherere Entscheidungen zu treffen.

Das Forschungsteam von Eye Security testete den Ansatz auf Plattformen wie Microsoft 365 (Office und E-Mail), Google (Docs und Gmail) und Confluence. Defensive Prompts wurden in Dateiköpfe, Exporte und E-Mail-Signaturen integriert. Die Tests zeigten, dass mehrere große Sprachmodelle auf diese eingebetteten Warnungen konsistent reagieren – ein erster Beleg dafür, dass KI gezielt zum Schutz eingesetzt werden kann.

Ein ganzheitlicher Ansatz für sichere KI-Nutzung

Prompt Injection for Good ist eines von mehreren kostenlosen Tools, die Eye Security entwickelt hat, um europäischen Unternehmen ein effektiveres Management digitaler Risiken zu ermöglichen. Weitere Ressourcen umfassen:

• EAST: Ein Anti-Phishing-Tool, das Endanwender unterstützt, verdächtige Microsoft-365-Loginseiten zu erkennen.
• ClickFix Block: Eine kostenlose Browser-Erweiterung, die erfolgreiche Social-Engineering-Angriffe (z. B. gefälschte CAPTCHAs) verhindert.

Dem nächsten Angriff einen Schritt voraus

KI verändert die Cybersecurity-Landschaft rasant. Angreifer entwickeln sich jedoch ebenso schnell weiter. Hier schaffen Tools wie Prompt Injection for Good, EAST und ClickFix zusätzliche Schichten von Awareness und Kontrolle.