ETH-Weiterbildung setzt auf Ethik in der KI

Was ist Philosophie?  Was ist Ethik im Zeitalter von k¨¹nstlicher Intelligenz (KI)? Diese Fragen diskutieren zwanzig Studierende in kleinen Gruppen. Es sind Teilnehmende des CAS ETH Machine Learning in Finance and Insurance. Eine Premiere ¨C das Weiterbildungsangebot findet zum ersten Mal statt. Angesiedelt ist der neue Kurs am FinsureTech Hub der ETH Z¨¹rich bei den Professuren von Josef Teichmann und Patrick Cheridito am Departement Mathematik.

F¨¹r Studienleiter Bastian Bergmann war von Anfang an klar, dass der verantwortungsvolle Umgang mit der KI-Technologie einen wichtigen Stellenwert einnehmen muss, wenn es in einer Weiterbildung um maschinelles Lernen geht. ?Ethik ist f¨¹r mich genauso wichtig wie die Technologie selbst. Wie wird die Technologie in den Kontext implementiert und welche Herausforderungen ergeben sich daraus? Das sind wichtige Fragen, die uns im Kurs besch?ftigen?, sagt Bergmann, der selbst Finanzmathematiker und Philosoph ist.

Das sieht auch Andrea Ferrario, ebenfalls Dozent in diesem Kurs, so: ?Ethik ist nicht erst dann relevant, wenn eine KI-basierte Anwendung in der Gesellschaft ankommt. Ethik muss schon beim Programmieren ein Thema sein. Von Anfang an, bei jedem einzelnen Schritt.? Der Physiker hat an der ETH in Mathematik promoviert und forscht heute an der Universit?t Z¨¹rich im Bereich der biomedizinischen Ethik und der Philosophie der KI.

Eigener Standpunkt als Neuland

Den beiden Dozierenden geht es vor allem darum, dass die CAS-Teilnehmenden, die alle in der Schweizer Finanz- oder Versicherungsbranche arbeiten, in ihren Unternehmen Br¨¹cken bauen k?nnen zwischen den Datenwissenschaftlern, Software-Ingenieurinnen, Business-Experten, und den Kolleginnen der Compliance-Abteilung, die sich um gesetzliche Vorschriften von KI-basierenden Dienstleistungen und Produkten k¨¹mmern. Deshalb ist den beiden der interdisziplin?re Diskurs ein besonderes Anliegen. ?Die Zusammenarbeit der verschiedenen Berufsgruppen mit unterschiedlichen Ans?tzen, Meinungen und Zielen ist in der Praxis nicht immer einfach?, sagt Ferrario. F¨¹r ihn ist der Kurs ein wertvolles ?bungsfeld, um ethische Fragen in der Finanz- und Versicherungsbranche zu diskutieren.

Bergmann hat im Lauf des Kurses immer wieder festgestellt, dass das Thema Ethik f¨¹r die meisten Teilnehmenden Neuland ist: ?Sie sind es sich eher gewohnt, in ihrem Berufsalltag nach einem vordefinierten Regelwerk Ausschau zu halten. Im Ethik-Teil des CAS mussten sie ihren eigenen Standpunkt entwickeln. Was bedeutet moralisch f¨¹r mich, f¨¹r mein Unternehmen??

KI-Halluzinationen und Reputationsrisiken

Dass Diskussionen ¨¹ber ethische Themen f¨¹r die Teilnehmenden gr?sstenteils Neuland sind, bemerkten auch die beiden externen Dozierenden Christiane Hoppe-Oehl, Head of Artificial Intelligence Unit bei der Finma, und Luca Baldassarre, AI Governance Director bei Swiss Re. Beide begr¨¹ssen, dass die ETH dem ethischen Aspekt so viel Bedeutung beimisst.

?Meine Hauptbotschaft an die Studierenden war, dass Unternehmen ohne einen verantwortungsvollen Ansatz bei der Planung, Entwicklung und ?berwachung von KI-Systemen sowohl gesch?ftlichen als auch Compliance- und Reputationsrisiken ausgesetzt sind?, sagt Baldassarre. Hoppe-Oehl erg?nzt: ?KI hat das Potenzial, unsere Gesellschaft voranzubringen, aber wenn die Risiken nicht erkannt und behandelt werden, laufen wir Gefahr, die Kontrolle zu verlieren.? Als Beispiel nennt sie KI-Halluzinationen, die fundierte Entscheidungen erschweren k?nnen, weil Fakten und Unwahrheiten immer schwerer zu unterscheiden sind.

Die ethische Dimension des CAS war f¨¹r die Teilnehmerin Xenia Tao mit ein Grund, sich an der ETH im Bereich KI weiterzubilden. ?Die Art und Weise, wie der Kurs die ethische Dimension mit praktischen Anwendungen verkn¨¹pft hat, finde ich f¨¹r meine Arbeit besonders wertvoll?, sagt die Managing Director bei einer Schweizer Bank.  Auch f¨¹r ihre Studienkollegin Arantzazu Garcia macht die Mischung aus technischen Grundlagen, Ethik und Praxisbezug den Reiz des CAS aus. ?Durch die Arbeit an einem eigenen Projekt konnte ich die erlernten Konzepte direkt anwenden?, sagt die Global Operational Excellence Lead bei Hitachi Energy.

Lehrreicher Praxisteil zum Abschluss

Im Praxis-Teil der Weiterbildung standen Projekte und Workshops mit Industriepartnern im Mittelpunkt. Anhand konkreter Beispiele setzten sich die Teilnehmenden mit der Umsetzung von KI-Anwendungen in der Finanz- und Versicherungsbranche auseinander. Nun arbeiten die Teilnehmenden an ihren eigenen Projekten. Damit findet der CAS seinen Abschluss. Bergmann ist bisher mit der ersten Durchf¨¹hrung zufrieden. Es hat sich bew?hrt, mit den technischen Grundlagen des maschinellen Lernens zu beginnen und ¨¹ber die Ethik in der Praxis anzukommen. Also alles wie gehabt im n?chsten Jahr? ?Fast?, sagt der Studienleiter. ?Das Ethik-Modul wollen wir noch etwas ausbauen.?