Wird Prompt Injection zu einem Milliardenrisiko?

Während traditionelle Angriffe durch bestehende Schutzmechanismen wie Antiviren-Software oder Endpoint-Detection-and-Response-Systeme theoretisch beherrschbar sind, bereiten KI-native Angriffe vielen Cybersicherheitsexperten Kopfzerbrechen. Ein gefährlicher Risikoherd könnte die Prompt Injection sein, wie Munich-Re-Experte Siegfried Rasthofer bei einer Fachveranstaltung in Frankfurt erklärte. Hierbei wird der Chatbot durch gezielte Befehle dazu gebracht, seine ursprünglichen Anweisungen und Filter zu ignorieren.