Eye Security schützt Daten mit KI-Prompt-Technik
Das niederländische Cybersecurity-Unternehmen Eye Security hat mit „Prompt Injection for Good“ einen innovativen Ansatz vorgestellt, der die Manipulationsanfälligkeit generativer KI-Modelle zum Schutz sensibler Unternehmensdaten nutzt. Ziel sei es, Schatten-IT und unautorisierte KI-Nutzung wirksam einzudämmen.
Laut Eye Security lasse sich die als Angriffsmethode bekannte „Prompt Injection“ zur gezielten Datenabschirmung in Unternehmen einsetzen. Mit dem Konzept „Prompt Injection for Good“ entwickle das Unternehmen ein Tool, das Warnhinweise automatisch generiert, wenn sensible Inhalte in generative KI-Anwendungen wie ChatGPT, Copilot oder DeepSeek geladen werden.
Warnmechanismus durch eingebettete Prompts
Wie das Unternehmen mitteilt, würden kurze Anweisungen in Dokumente, E-Mail-Signaturen oder Dateiköpfe eingebettet. Diese sogenannten „defensiven Prompts“ lösten beim Upload in KI-Tools eine automatisierte Warnmeldung aus, etwa mit dem Hinweis auf sensible Inhalte und potenzielle Risiken bei Weitergabe an Dritte. Dadurch entstehe ein Echtzeit-Warnsystem, das Mitarbeitende unmittelbar auf Datenschutzrisiken hinweise.
Anwendung in gängigen Unternehmensplattformen
Eye Security habe die Wirksamkeit des Verfahrens auf Plattformen wie Microsoft 365, Google Workspace und Confluence getestet. Die eingebetteten Warntexte seien von mehreren großen Sprachmodellen konsistent erkannt und interpretiert worden. Damit lasse sich der Schutz sensibler Inhalte in produktiven Arbeitsumgebungen effektiv erhöhen – ohne den Arbeitsfluss zu behindern.
Shadow AI, also der nicht autorisierte Einsatz von KI-Tools durch Mitarbeitende, stelle laut Eye Security ein wachsendes Sicherheitsrisiko dar. Das Unternehmen betont, dass „Prompt Injection for Good“ nicht den Fortschritt blockiere, sondern das Bewusstsein für Risiken schärfen und sichere Entscheidungen fördern solle.
Teil eines ganzheitlichen Sicherheitsansatzes
Die Lösung sei Teil eines breiteren Portfolios kostenloser Sicherheitswerkzeuge, das Eye Security für europäische Unternehmen bereitstelle. Dazu zählten unter anderem:
- EAST: Ein Tool zur Erkennung gefälschter Microsoft-365-Loginseiten.
- ClickFix Block: Eine Browser-Erweiterung gegen Social-Engineering-Angriffe, etwa durch Fake-CAPTCHAs.
Eye Security positioniert sich als MDR-Anbieter mit Fokus auf kleine und mittelständische Unternehmen. Nach eigenen Angaben betreue man mehr als 750 europäische Kunden mit einem integrierten Angebot aus Cybertechnologie und Versicherungsschutz zur Stärkung der operativen Resilienz.
