Die Präsidentin des Bundesamts für Informationstechnik (BSI), Claudia Plattner, kritisiert die führenden KI-Anbieter für ihren laxen Umgang mit Cybersicherheit. Die Hersteller widmeten der Sicherheit ihrer Systeme bislang viel zu wenig Aufmerksamkeit, sagte Plattner dem „Spiegel“. Ihr fehlten dort das Engagement und die Ernsthaftigkeit, um diese Probleme zu verhindern. Das gelte „für alle großen Anbieter, in den USA wie in China“.
Plattner forderte die Hersteller auf, unkontrollierte Angriffe durch ihre Systeme effektiver zu verhindern und ansonsten für die Folgen einzustehen. Es sei ihr Produkt, sie müssten sicherstellen, dass so etwas künftig verhindert werde, sonst könnten sich künftig auch Haftungsfragen stellen.
Mit der aktuellen Situation, in der immer neue IT-Sicherheitsvorfälle durch unkontrollierte KI-Agenten bekannt werden, könne niemand zufrieden sein. Man brauche eine Regulierung, die über Selbstverpflichtungen und das Versprechen, künftig ein bisschen besser aufzupassen, hinausgehe, so Plattner. Die üblichen politischen Instrumente reichten dafür nicht aus. „Wir müssen technisch ansetzen: Was ist das für eine KI? Wem gehört sie? Wer hat sie beauftragt? Was darf sie? Wir müssen unsere Regeln an die neue Zeit und das Phänomen der autonom handelnden KI-Agenten anpassen.“
Zudem brauche es eine Stelle, die prüfe, ob diese Regeln eingehalten werden. Mit einem schnellen Abflauen der IT-Sicherheitsprobleme durch KI-Agenten und den menschlichen, gesteuerten Missbrauch von KI rechnet die BSI-Präsidentin nicht. Uns stünden unruhige Zeiten bevor, sagte sie dem „Spiegel“.