Company News

Benedikt Bonnmann, Leiter Line of Business Data & Analytics, adesso SE (Copyright: adesso)
22. Nov 2022

adesso: KI und die Vertrauensfrage – Wie transparent muss Technologie sein?

Autor: Benedikt Bonnmann, Leiter Line of Business Data & Analytics, adesso SE

Bei wichtigen Entscheidungen ist eine zweite Meinung oft hilfreich. Doch was, wenn diese zweite Meinung von einer Künstlichen Intelligenz (KI) statt von einem Menschen stammt? Können wir Maschinen vertrauen?

Bei einer KI-basierten Produktempfehlung im Online-Shop eines Händlers mag die Antwort darauf noch egal sein. Versicherungen oder Banken hingegen sollten Erklärungen liefern, wenn ein Algorithmus eine Leistung verweigert oder einen Kreditantrag ablehnt. Nicht viel anders sieht es bei Unternehmen aus, die aufgrund einer KI-Vorauswahl Bewerbende aussortieren. Wenn es um Gleichbehandlung oder, ganz allgemein, um ethische Fragen geht, dürfen wir uns nicht hinter Computerentscheidungen verstecken. Vielmehr brauchen Algorithmen Ziele und Grenzen, die Menschen nachvollziehbar und transparent definieren – ansonsten droht ein Vertrauensverlust auf Seiten der Verbraucherinnen und Verbraucher.

Nun mögen die Zeiten, in denen KI mal zur Wunderwaffe verklärt, mal zur Gefahr für den Menschen aufgebauscht wurde, vorbei sein. Realismus und Sachlichkeit statt Technik-Angst bestimmen heute in aller Regel die Debatte rund um die Technologie. Laut der jüngsten KI-Studie von adesso haben Unternehmensverantwortliche auch diesen Eindruck: 61 Prozent sind davon überzeugt, dass Verbraucher KI als vertrauenswürdig einstufen. Dieses grundlegende Vertrauen darf aber nicht dadurch verspielt werden, dass – ob bewusst oder unbewusst – die Algorithmen eigenmächtig handeln. Denn auch das belegt die Untersuchung: 80 Prozent der Entscheiderinnen und Entscheider finden, dass KI-Anwendungen nicht ohne menschliche Kontrolle eingesetzt werden dürfen. 54 Prozent sind zudem der Meinung, dass KI-Technologien stärker reguliert werden müssen, um Manipulationen jeder Art zu verhindern.

Unternehmen tun deshalb gut daran, eine sogenannte Explainable AI zu schaffen. Diese speziellen Anwendungen öffnen die Black Box, indem sie transparent arbeiten und Erklärungen für eine getroffene Entscheidung liefern. Das reicht von der Herkunft und Charakteristika der Trainingsdaten über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten ethischer Grundwerte.

In die gleiche Richtung geht aktuell die Diskussion auf Seiten des Gesetzgebers. Mit dem Artificial Intelligence Act der EU steht eine Verordnung vor der Tür, die – sobald in nationale Gesetze gegossen – weitreichende Folgen haben wird.

Mit dem Act will die EU ein Rahmenwerk schaffen, das die Entscheidungen von KI-Anwendungen kategorisiert und den Einsatz gegebenenfalls stärker kontrolliert. Dies soll negative Auswirkungen auf die Sicherheit, Gesundheit und Grundrechte von Menschen verhindern. Ähnlich wie bei der Datenschutz-Grundverordnung (DSGVO) wird das geplante Gesetzeswerk vermutlich sogar über die Grenzen der EU hinaus Wirkung zeigen. Denn alle Anbieter, die innerhalb des europäischen Wirtschaftsraums KI-basierte Produkte und Dienste verkaufen wollen, müssen sich an den Artificial Intelligence Act halten. Das Regelwerk sieht zudem ähnlich drastische Strafen vor: Wer die Vorgaben verletzt, muss laut Entwurf mit einem Bußgeld von bis zu 30 Millionen Euro oder sechs Prozent des weltweiten Jahresumsatzes rechnen. Die Erfahrungen mit der DSVGO zeigen: Die zuständigen Behörden sind keine zahnlosen Tiger. Sie ahnden Verstöße konsequent.

Zwar sind einige Punkte rund um die Umsetzung des Artificial Intelligence Act bislang noch nicht geklärt. Für Unternehmen gilt es trotzdem jetzt schon, die Weichen zu stellen und das Risiko ihrer KI-Systeme zu bewerten. Es wäre zu einfach, sich angesichts der Wahrscheinlichkeit, dass das Gesetzespaket nicht vor 2024 in Kraft treten wird, entspannt zurückzulehnen. Wer das macht, läuft Gefahr, später unter Zeitdruck zu geraten. Zudem haben Verbraucherinnen und Verbraucher schon heute ein Recht auf eine Explainable AI – Gesetze hin oder her.

Dieser Kommentar ist auch unter www.adesso.de/presse abrufbar.

adesso​

adesso ist einer der führenden IT-Dienstleister im deutschsprachigen Raum und konzentriert sich mit Beratung sowie individueller Softwareentwicklung auf die Kerngeschäftsprozesse von Unternehmen und öffentlichen Verwaltungen. Die Strategie von adesso beruht auf drei Säulen: einem umfassenden Branchen-Know-how der Mitarbeitenden, einer breiten, herstellerneutralen Technologiekompetenz und erprobten Methoden bei der Umsetzung von Softwareprojekten. Mit passgenauen IT-Lösungen stärkt adesso die Wettbewerbsfähigkeit von Unternehmen und Organisationen in den Zielbranchen Versicherungen/ Rückversicherungen, Banken und Finanzdienstleistung, Gesundheitswesen und Life Sciences, Energieversorgung, Öffentliche Verwaltung, Automotive und Fertigungsindustrie, Handel, Verkehrsbetriebe, Medien und Entertainment sowie Lotterie.

adesso wurde 1997 in Dortmund gegründet und beschäftigt aktuell in der adesso Group über 7.500 Mitarbeiterinnen und Mitarbeiter (umgerechnet auf Vollzeitstellen/FTE), was mehr als 8.300 Mitarbeitenden nach Köpfen entspricht. Die Aktie von adesso ist im Prime Standard/SDAX notiert. Zu den wichtigsten Kunden zählen im Bankensegment u.a. Commerzbank, KfW, DZ Bank, Helaba, Union Investment, BayernLB und DekaBank, im Versicherungsbereich u.a. Münchener Rück, Hannover Rück, DEVK, DAK, Zurich Versicherung, Medizinischer Dienst der Krankenversicherung (MDK-IT) sowie branchenübergreifend u.a. Mercedes-Benz, Bosch, Westdeutsche Lotterie, Swisslos, DZR Deutsches Zahnärztliches Rechenzentrum, TÜV Rheinland, REWAG, Beschaffungsamt des Bundesministeriums des Innern und Bayerisches Staatsministerium der Justiz.

Weitere Informationen unter www.adesso.de sowie:
Unternehmens-Blog: https://www.adesso.de/de/news/blog
Twitter: https://twitter.com/adesso_SE
Facebook: http://www.facebook.com/adessoSE

Pressekontakt​

adesso SE
Eva Wiedemann
Geschäftsstelle München
Streitfeldstr. 25
81673 München
Tel.: +49-162-2921282
eva.wiedemann@adesso.de
www.adesso.de

PR-Agentur von adesso
PR-COM GmbH
Christina Haslbeck
Sendlinger-Tor-Platz 6
80336 München
Tel.: +49-89-59997-702
christina.haslbeck@pr-com.de
www.pr-com.de

Cookies helfen uns bei der Bereitstellung unserer Dienste. Mit der Nutzung unserer Dienste erklären Sie sich damit einverstanden, dass wir technisch notwendige Cookies verwenden.
Ich bin einverstanden Mehr Info