Fashion

KI entscheidet. Mensch verantwortet. Jetzt Verantwortungsketten prüfen.

Hagenberg, Wien (OTS) – Künstliche Intelligenz entwickelt sich vom
Assistenzsystem zum
zunehmend autonomen Akteur. Agentische KI kann Ziele verfolgen,
Aufgaben planen, Werkzeuge und andere Systeme aufrufen und daraus
selbstständig Aktionen ableiten. Der Mensch verschwindet damit
möglicherweise aus einzelnen Entscheidungsschritten, nicht aber aus
der Verantwortung.

„ Wir können Entscheidungen an KI delegieren. Verantwortung
können wir nicht delegieren “, sagt Michael Weberberger,
Geschäftsführer des oberösterreichischen KI-Dienstleisters TRUSTIFAI
. „ Je autonomer KI-Systeme werden, desto wichtiger ist es
festzulegen, wer ihre Grenzen definiert, wer ihr Verhalten überwacht
und wer eingreifen kann. “

Zwtl.: Human-in-Control statt Human-in-the-Loop

Für Unternehmen bedeutet das eine neue Governance-Aufgabe. Sie
müssen definieren, welche Entscheidungen KI autonom treffen darf, wo
Grenzen liegen, welche Aktivitäten überwacht werden und wann ein
Mensch eingreifen muss.

Statt einer Person in jeder einzelnen Entscheidungsschleife setzt
TRUSTIFAI deshalb auf das Prinzip Human-in-Control: Menschen müssen
nicht jede Entscheidung selbst treffen, aber ausreichende Transparenz
und wirksame Kontrolle über das Gesamtsystem behalten.

Managementsysteme wie ISO 42001 können dafür einen
organisatorischen Rahmen schaffen. Die Norm legt Anforderungen für
die Einrichtung, Umsetzung, Aufrechterhaltung und kontinuierliche
Verbesserung eines AI Management Systems in Organisationen fest.

TRUSTIFAI , das Joint Venture von TÜV AUSTRIA und Software
Competence Center Hagenberg (SCCH) , begleitet Unternehmen beim
Aufbau von AI Governance und Risikomanagement sowie bei der
Vorbereitung auf entsprechende Managementsysteme. Im Mittelpunkt
stehen klare Verantwortlichkeiten, technische und organisatorische
Guardrails, Monitoring und definierte Eskalationswege.

Michael Weberberger: „ Das Risiko liegt nicht darin, dass KI
autonomer wird, kritisch wird es, wenn die Autonomie der Systeme
schneller wächst als unsere Fähigkeit, sie zu verstehen, zu
überwachen und zu beherrschen. “

Zwtl.: Jetzt Verantwortungsketten überprüfen

Unternehmen, die Agentic AI einsetzen oder deren Einsatz planen,
sollten ihre Governance frühzeitig auf autonome Prozesse ausrichten:
Welche Entscheidungen darf KI übernehmen? Wo braucht es Grenzen? Wer
überwacht das System? Und wer kann im Ernstfall eingreifen?

„ Denn mit der Autonomie der KI muss auch die Fähigkeit wachsen,
sie wirksam zu kontrollieren. TRUSTIFAI liefert dazu die richtigen
Lösungen“, so Weberberger abschließend. trustifai.at

Bild(er) zu dieser Aussendung finden Sie unter http://bild.ots.at