Mehr Kontrolle für KI-Agenten: Ministerin mahnt EU-Regeln an

04.08.2026 04:00

KI-Agenten können im Alltag helfen, aber Aufgaben auch falsch
verstehen und dann teuer werden. Welchen Schutz für Verbraucher die
zuständige Ministerin verlangt.

Stuttgart (dpa/lsw) - Künstliche Intelligenz soll den Alltag
erleichtern - aber nicht selbst über Geld und Verträge entscheiden.
Deshalb spricht sich die für den Verbraucherschutz zuständige
Bauministerin Theresa Schopper (Grüne) für verbindliche Regeln für
sogenannte KI-Assistenten aus, bevor diese massenhaft zum Einsatz
kommen. «Es muss Haltelinien und Leitplanken geben, dass der Mensch
der Herr des Verfahrens bleibt,» sagte die Grünen-Politikerin in
Stuttgart. Der Rechtsrahmen müsse am besten auf EU-Ebene geregelt
werden. Das müsse schnell passieren, weil die Technik sicherlich sehr
schnell den Alltag der Menschen noch intensiver beeinflussen könnte.

Schopper forderte die Regeln für KI-Agenten, die Verbraucher beim
Einkaufen, Buchen oder Organisieren unterstützen. «Der Agent darf
weder direkt manipulieren noch selbst manipulierbar sein. Zudem muss
eine klare Kennzeichnung von KI-Entscheidungen erfolgen.» Es müsse
auch die Möglichkeit geben, dass man Grenzen formulieren könne, wie
viel Geld man ausgeben wolle.

Verbraucher müssen Preislimit selbst festlegen

Problematisch wird es nach Angaben des Verbraucherschutzministeriums
etwa, wenn der Agent eine Aufgabe falsch versteht, ein gesetztes
Preislimit überschreitet oder eine kostenpflichtige Buchung auslöst,
die so nicht gewollt war. Auch manipulierte Inhalte könnten zum
Risiko werden: In einer Webseite, einem Dokument oder einer E-Mail
könnten versteckte Anweisungen enthalten sein. Der Agent könnte diese
als Auftrag verstehen und etwa Daten weiterleiten, Nachrichten
versenden oder eine Bestellung auslösen.

Damit ein Agent selbstständig handeln kann, braucht er häufig Zugriff
auf E-Mails, Kalender, Dateien, Kundenkonten oder Zahlungsdienste,
wie das Ministerium weiter mitteilte. Je mehr Rechte er erhalte,
desto größer sei das Risiko von Datenmissbrauch, Fehlentscheidungen
und Kontrollverlust. Außerdem mahnte Schopper: «Es muss künftig einen

eindeutig und gut lesbaren Button geben, damit der Verbraucher merkt,
dass er jetzt eine kostenpflichtige Aktion auslöst.»