Lecture: Verantwortungsvolle KI Entwicklung sicherstellen
Da KI-Technologien immer st?rker mit unserem t?glichen Leben verflochten sind, ist die Gew?hrleistung ihrer verantwortungsvollen Entwicklung von entscheidender Bedeutung. In ihrem Vortrag untersuchte Prof. Dr. Simone Stumpf von der University of Glasgow, was erforderlich ist, um verantwortungsvolle KI-Systeme zu schaffen, die sicher, vertrauenswürdig und fair sind. Ausgehend von ihrer Arbeit im Bereich der interaktiven und erkl?rbaren KI betonte Prof. Stumpf, dass es bei der Verantwortung in der KI nicht nur um Technologie geht, sondern um Menschen. Ihr Vortrag konzentrierte sich auf drei S?ulen:
- ? Rechenschaftspflicht & Korrektheit: Verantwortungsvolle KI beginnt mit inklusivem Design. Die Einbeziehung aller Interessengruppen – insbesondere der Endnutzer – durch partizipative Methoden und ?Human-in-the-Loop“-Ans?tze stellt sicher, dass Systeme für die Komplexit?t der realen Welt gebaut werden.
- ? Transparenz: Transparenz ist keine Einheitsl?sung. Um die Erkl?rbarkeit an die Bedürfnisse der Nutzer anzupassen, muss man fragen: Wer muss die KI verstehen, was müssen sie wissen, wann und wie sollte es pr?sentiert werden?
- ?? Fairness: Fairness in der KI geht über Datens?tze hinaus. Es geht darum, Inklusion und Vielfalt über den gesamten KI-Lebenszyklus hinweg zu verankern. Ohne Berücksichtigung von Governance und historischer Voreingenommenheit riskieren Systeme, Diskriminierung und Marginalisierung aufrechtzuerhalten.
Die Kernbotschaft von Prof. Stumpf: Wir müssen uns in Richtung einer auf den Menschen zentrierten KI bewegen – indem wir den Nutzern zuh?ren, verantwortungsvolle Praktiken in die Entwicklungspipelines integrieren und den regulatorischen Druck mit den Vorteilen sichererer, breiter akzeptierter Systeme in Einklang bringen.
Wir danken Prof. Dr. Simone Stumpf für ihren inspirierenden Vortrag und die aufschlussreiche Diskussion über den Weg zu einer wirklich verantwortungsvollen KI.
Mehr über ihre Forschung erfahren Sie unter: https://www.gla.ac.uk/schools/computing/staff/simonestumpf/#publications