Umfrage: So setzen Unternehmen KI-Agenten ein
Arbeiten mit KI-Systemen? Warnungen vor Kontrollverlust und Forderungen nach stärkeren Sicherheitsmechanismen prägen die Debatte. Im Mittelpunkt steht die Frage, wie sich die Chancen dieser Systeme nutzen lassen, ohne Kontrolle und Verantwortung aus der Hand zu geben. Eine Umfrage des Meinungsforschungsinstituts Civey unter 500 Unternehmen im Auftrag des Eco – Verband der Internetwirtschaft e. V. zeigt, wie Unternehmen den Einsatz von KI-Agenten in der Praxis begrenzen und absichern.
Mehr als die Hälfte nutzt KI-Agenten
Der Einsatz ist in vielen Unternehmen bereits Praxis: 25 Prozent der befragten Unternehmen setzen KI-Agenten in einzelnen Abteilungen ein. Weitere 11 Prozent nutzen sie bereits flächendeckend. 18 Prozent testen Anwendungen oder führen Pilotprojekte durch. Damit setzen 54 Prozent KI-Agenten ein oder erproben sie. Weitere 7 Prozent planen den Einsatz konkret. Bei 33 Prozent ist derzeit kein Einsatz geplant.
„Die aktuell weitverbreiteten Dystopien rund um KI-Agenten gehen an der Realität deutscher Unternehmen vorbei. Unternehmen in Deutschland wollen KI nutzen, aber sie lassen sie nicht blind entscheiden. So sieht verantwortungsvoller Umgang mit der Technologie der Zukunft aus“, erklärt Eco- Vorstandsvorsitzender Oliver Süme.
Unternehmen behalten die Kontrolle
Gleichzeitig trennen die Befragten den Einsatz von der Entscheidungshoheit. 40 Prozent würden KI-Agenten auf unterstützende Zuarbeit begrenzen. Weitere 34 Prozent würden sie eigenständig arbeiten lassen, solange Menschen die Kontrolle behalten. Damit würden 74 Prozent den Einsatz auf Zuarbeit oder eigenständige Arbeit unter menschlicher Kontrolle beschränken. Autonome Entscheidungen in einzelnen Teilprozessen würden 13 Prozent zulassen. Nur 5 Prozent würden KI-Agenten vollständig autonom entscheiden lassen.
„Die Zahlen zeigen: Unternehmen in Deutschland wollen die Potenziale von KI-Agenten nutzen und gehen dabei zugleich verantwortungsvoll vor. Sie sammeln praktische Erfahrungen, schaffen verlässliche Kontrollmechanismen und machen KI so Schritt für Schritt zu einem festen Bestandteil ihrer Geschäftsprozesse. Genau dieser praxisnahe Umgang bringt Innovation und Vertrauen zusammen“, erläutert Süme.
Unternehmen sichern KI-Agenten ab
Auch bei den Sicherheitsvorkehrungen nennen die Befragten konkrete Maßnahmen. 47 Prozent würden eine automatisierte Notabschaltung vorsehen. 45 Prozent würden Rechte und Rollen strikt zuweisen. 37 Prozent würden regelmäßige Sicherheitsaudits vorsehen. 32 Prozent würden die KI-Ausgaben kontinuierlich überwachen. 31 Prozent würden transparente Handlungsprotokolle führen. Mehrfachantworten waren möglich.
Eco sieht darin einen Hinweis, dass Unternehmen Risiken von KI-Agenten nicht ignorieren, sondern Sicherheitsmechanismen von Beginn an mitdenken. Dabei geht es nicht darum, die Leistungsfähigkeit der Technologie künstlich zu begrenzen, sondern ihren Einsatz kontrollierbar zu gestalten.
Vorsicht von Skepsis abgrenzen
Eco will die Ergebnisse in die aktuelle Debatte über Geschwindigkeit und Grenzen der KI-Entwicklung einbringen. Der Verband trennt Vorsicht beim konkreten Einsatz von grundsätzlicher Technologieskepsis. Unternehmen führen neue Systeme schrittweise ein, testen Anwendungen und begrenzen deren Handlungsspielräume dort, wo sie Verantwortung nicht vollständig an Maschinen übertragen wollen.
„Sichere KI entsteht vor allem durch verantwortungsvolle Anwendung, klare Kontrollmechanismen und praktische Erfahrung. Je mehr Unternehmen KI sinnvoll einsetzen und aus der Anwendung lernen, desto besser können wir Chancen nutzen und Risiken beherrschbar machen. Diese Lernkurve sollten wir beschleunigen“, resümiert Süme.
Die Ergebnisse der Umfrage können Sie hier herunterladen.
