Der Unterschied zwischen einem Chatbot und einem Agenten ist die Fähigkeit zu handeln. Ein Agent kann suchen, eine Datenbank lesen, eine Mail senden oder eine API aufrufen, sich ansehen, was zurückkam, und entscheiden, was als Nächstes kommt. Diese Schleife macht Agenten nützlich für Arbeit ohne feste Form — und sie macht sie zu einer völlig anderen Sicherheitsfrage.
Jedes Werkzeug, das ein Agent erreicht, erreicht auch jeder, der seine Eingabe beeinflussen kann; bei einem kundenseitigen Agenten ist das die Öffentlichkeit. Die Entwurfsfrage lautet nicht, ob das Modell ausgetrickst werden kann — nimm an, ja —, sondern was im schlimmsten Fall passiert, wenn es soweit ist. Ein Agent, der eine Wissensdatenbank liest, ist ein kleines Problem. Derselbe Agent mit Schreibrechten auf ein CRM und einer Mail-API ist ein anderes.
Verwandte Begriffe
Prompt Injection
Ein Angriff, bei dem Text, den das Modell als Daten lesen sollte, von ihm stattdessen als Anweisung behandelt wird.
MCP (Model Context Protocol)
Ein offenes Protokoll, um Werkzeuge und Daten für ein Modell bereitzustellen, sodass eine Integration mit jedem Client funktioniert, der es spricht.
Tool Calling
Der Mechanismus, mit dem ein Modell die umgebende Anwendung bittet, eine benannte Funktion auszuführen, und das Ergebnis als Text zurückbekommt.
OWASP LLM Top 10
Eine Community-Liste der wichtigsten Sicherheitsrisiken, die speziell für Anwendungen auf Basis großer Sprachmodelle gelten.
Die zugehörige Werkbank
KI-AutomatisierungDie repetitive Hälfte deiner Woche, übergeben an Software, der nicht langweilig wird. Posteingang sortieren, Nachfassen, Reporting, Datenpflege zwischen Tools, die nie zum Zusammenspiel gedacht waren.
