Kaum eine Technologie wird so kontrovers diskutiert wie künstliche Intelligenz (KI). Denn neben großen Hoffnungen wirft sie unweigerlich auch Fragen zu den Risiken ihrer Nutzung auf. Unternehmen sollten sich deshalb nicht nur mit der Frage befassen, wie sie KI möglichst gewinnbringend einsetzen können: Auch gesetzliche und organisatorische Rahmenbedingungen sowie die damit verbundenen Anforderungen sind zu berücksichtigen. Eine systematische Behandlung im Kontext des Managementsystems kann dabei helfen, KI verantwortungsvoll zu nutzen.
Künstliche Intelligenz kann auf vielfältige Weise den Umgang mit den Herausforderungen unserer Zeit erleichtern. Die Auswertung großer Datenmengen kann zum Beispiel dabei helfen, die Qualität von Produkten und Dienstleistungen zu erhöhen, die Produktivität zu steigern und neue Geschäftsmodelle zu etablieren. Sie kann auch einen gesellschaftlichen Beitrag leisten, beispielsweise indem sie in der Medizin bei der Erkennung von Krankheiten unterstützt.
Auf der anderen Seite führt KI aber auch zu Risiken und Unsicherheiten: Weil sie sehr große Mengen an Daten analysieren kann, ergeben sich neue Möglichkeiten für Überwachung, Diskriminierung oder Cyberkriminalität. Gleichzeitig ist nicht immer sofort klar, wer haftet, wenn eine KI falsche Informationen verbreitet oder fehlerhafte Entscheidungen trifft. Auch gesetzgebende Organe befassen sich daher verstärkt mit den Auswirkungen von künstlicher Intelligenz.
Ein Beispiel hierfür ist die EU-Verordnung über künstliche Intelligenz, auch als AI Act bezeichnet. Sie verfolgt einen risikobasierten Ansatz, nimmt unter anderem Anbieter und Betreiber von KI-Systemen in die Pflicht und verbietet bestimmte KI-Anwendungen. Je nach Art und Einsatzgebiet eines KI-Systems können unter anderem Anforderungen an Transparenz, Risikomanagement, Dokumentation und menschliche Aufsicht gelten.
Neben dem AI Act können für Unternehmen weitere Anforderungen im Zusammenhang mit KI relevant sein. Hierzu gehören beispielsweise:
Unternehmen sollten daher prüfen, welche Vorgaben sie betreffen, und deren Erfüllung entsprechend dokumentieren. Darüber hinaus sollten sie festlegen, unter welchen Bedingungen sie und ihre Mitarbeitenden KI einsetzen. Ein solches internes Regelwerk kann beispielsweise zulässige Werkzeuge, den Umgang mit vertraulichen Daten oder Prüfpflichten für KI-generierte Ergebnisse regeln.
Über einzelne Vorgaben hinaus bietet sich eine systematische Behandlung von KI-Themen an. Denn beim Einsatz von künstlicher Intelligenz treffen unterschiedliche Risiken, Chancen, gesetzliche Anforderungen und Interessen von Kunden oder Mitarbeitenden aufeinander. Ein Managementsystem hilft dabei, diese Aspekte gemeinsam zu betrachten, geeignete Prozesse sowie Maßnahmen abzuleiten und Verantwortlichkeiten festzulegen. Mithilfe klar geregelter und dokumentierter Abläufe lässt sich so mehr Sicherheit im Umgang mit KI-Anwendungen schaffen.
Eine mögliche Orientierung bietet die Ende 2023 veröffentlichte ISO/IEC 42001, die Anforderungen an ein Managementsystem für künstliche Intelligenz formuliert. Daneben verfügen viele Unternehmen bereits über Managementsysteme, etwa für Qualität oder Informationssicherheit, in denen sich jeweils relevante KI-Themen berücksichtigen lassen. Eine Betrachtung von KI-Themen ist somit sowohl auf Grundlage der ISO/IEC 42001 als auch innerhalb der bereits im Unternehmen etablierten Managementsysteme möglich. Welches Vorgehen im Einzelfall sinnvoll ist, muss jedes Unternehmen mit Blick auf die eigenen Rahmenbedingungen und Anforderungen selbst festlegen.
In jedem Fall ist KI nur eines von vielen Themengebieten, mit denen sich Unternehmen beschäftigen müssen. Um all diese Themen gemeinsam innerhalb einer einheitlichen Struktur zu betrachten, Zusammenhänge zu erkennen und Synergien zu nutzen, bietet sich ein Integriertes Managementsystem (IMS) an. Die gemeinsame Betrachtung im Rahmen des IMS wird dadurch erleichtert, dass die gängigen Managementsystemnormen der Internationalen Organisation für Normung (ISO) auf der Harmonized Structure basieren und daher ähnlich aufgebaut sind.
Beim Auf- und Ausbau eines solchen Integrierten Managementsystems ist es hilfreich, Risiken und Chancen, Anforderungen, Prozesse und Dokumente sinnvoll miteinander zu verknüpfen. Das erhöht zugleich die Transparenz des IMS, da alle Beteiligten im Unternehmen auf die relevanten Informationen zugreifen können. Hierzu bietet sich in vielen Fällen die Nutzung einer entsprechenden Software an.
