In der Entwicklung und Implementierung von KI-Systemen sind ethische Überlegungen unerlässlich, um Vertrauen und Akzeptanz bei den Nutzern zu schaffen. Ethik in der KI umfasst Aspekte wie Fairness, Transparenz und Verantwortlichkeit. Ein ethischer Ansatz stellt sicher, dass Technologien nicht nur effizient, sondern auch gerecht und nachvollziehbar arbeiten. Ein Grundproblem: KI-Systeme sind nur so neutral wie die Daten, mit denen sie trainiert werden. Verzerrungen in den Trainingsdaten oder Trainingsmethoden können zu Diskriminierungen führen, die bestimmte Personengruppen benachteiligen. Um solche Bias zu identifizieren und zu korrigieren, sollten die Entwickler fortgeschrittene Analysemethoden einsetzen und die Trainingsdaten sorgfältig auswählen. Aber auch die anwendenden Unternehmen müssen sensibilisiert sein.
In der Praxis der letzten zwei, drei Jahre häuften sich beispielsweise die Berichte von Problemen mit Bewerbersystemen, von generierten Bilden und Videos die aufgrund ihrer Trainingsdaten nicht die Diversität der Gesellschaft widerspiegeln und von generierten Texten zu geschichtlichen und politischen Themen, die ebenfalls als einseitig und tendenziös bezeichnet werden können. Die Entwickler der Sprachmodelle haben versucht gegenzusteuern und damit häufig ebenfalls für einen Bias gesorgt, eine Benachteiligung in umgekehrter Richtung. Die KI handelt hier im blinden Vertrauen auf ihre Trainingsdaten und ohne Bewusstsein oder böse Absicht. Auf Seiten der Anbieter und ihrer Sprachmodelle dürften die Probleme ebenfalls vorrangig der Notwendigkeit geschuldet sein, große Datenmenge für das maschinelle Lernen zu akquirieren und zu klassifizieren. Mittlerweile haben die meisten Anbieter für mehr Transparenz zu den Quellen ihrer Trainingsdaten gesorgt, das strukturelle Ungleichgewicht vergleichsweise einfach und kostengünstig verfügbarer Daten aus Industrieländern gegenüber Quellen aus dem sogenannten Globalen Süden ist damit noch nicht behoben. Aber auch das beliebte Outsourcen der teuren Trainings-Arbeiten und der vorherigen Klassifizierung der Trainingsdaten führen bei mangelhafter Qualitätssicherung regelmäßig zu Problemen.
KI-Systeme beeinflussen das Leben von Menschen direkt und indirekt. Fehlentscheidungen oder Verzerrungen in KI-Systemen können zu ungerechten Behandlungenführen, Diskriminierung verstärken oder Datenschutzverletzungen verursachen und in die (...)
In der Entwicklung und Implementierung von KI-Systemen sind ethische Überlegungen unerlässlich, um Vertrauen und Akzeptanz bei den Nutzern zu schaffen. Ethik in der KI umfasst Aspekte wie Fairness, Transparenz und Verantwortlichkeit. Ein ethischer Ansatz stellt sicher, dass Technologien nicht nur effizient, sondern auch gerecht und nachvollziehbar arbeiten. Ein Grundproblem: KI-Systeme sind nur so neutral wie die Daten, mit denen sie trainiert werden. Verzerrungen in den Trainingsdaten oder Trainingsmethoden können zu Diskriminierungen führen, die bestimmte Personengruppen benachteiligen. Um solche Bias zu identifizieren und zu korrigieren, sollten die Entwickler fortgeschrittene Analysemethoden einsetzen und die Trainingsdaten sorgfältig auswählen. Aber auch die anwendenden Unternehmen müssen sensibilisiert sein.
In der Praxis der letzten zwei, drei Jahre häuften sich beispielsweise die Berichte von Problemen mit Bewerbersystemen, von generierten Bilden und Videos die aufgrund ihrer Trainingsdaten nicht die Diversität der Gesellschaft widerspiegeln und von generierten Texten zu geschichtlichen und politischen Themen, die ebenfalls als einseitig und tendenziös bezeichnet werden können. Die Entwickler der Sprachmodelle haben versucht gegenzusteuern und damit häufig ebenfalls für einen Bias gesorgt, eine Benachteiligung in umgekehrter Richtung. Die KI handelt hier im blinden Vertrauen auf ihre Trainingsdaten und ohne Bewusstsein oder böse Absicht. Auf Seiten der Anbieter und ihrer Sprachmodelle dürften die Probleme ebenfalls vorrangig der Notwendigkeit geschuldet sein, große Datenmenge für das maschinelle Lernen zu akquirieren und zu klassifizieren. Mittlerweile haben die meisten Anbieter für mehr Transparenz zu den Quellen ihrer Trainingsdaten gesorgt, das strukturelle Ungleichgewicht vergleichsweise einfach und kostengünstig verfügbarer Daten aus Industrieländern gegenüber Quellen aus dem sogenannten Globalen Süden ist damit noch nicht behoben. Aber auch das beliebte Outsourcen der teuren Trainings-Arbeiten und der vorherigen Klassifizierung der Trainingsdaten führen bei mangelhafter Qualitätssicherung regelmäßig zu Problemen.
KI-Systeme beeinflussen das Leben von Menschen direkt und indirekt. Fehlentscheidungen oder Verzerrungen in KI-Systemen können zu ungerechten Behandlungen führen, Diskriminierung verstärken oder Datenschutzverletzungen verursachen und in die (...)
Oliver Schwartz
Oliver Schwartz ist Experte für strategische Kommunikation mit mehr als 25 Jahren Erfahrung als Manager in internationalen Technologieunternehmen. Seine Expertise bringt er heute in Beratungsmandate mit Unternehmen, Vorständen und GeschäftsführerInnen und als Interimsmanager ein. Wissen und Impulse rund um KI in Business und Gesellschaft teilt er in Veröffentlichungen, als Autor, Vortrags-Redner und als Podcaster.
Dr. Michael Gebert
Dr. Michael Gebert ist visionärer Unternehmer und international gefragter Keynote-Sprecher. Er blickt auf 30 Jahre strategisches Denken und innovatives Handeln zurück. Als Positivist mit solidem betriebswirtschaftlichen Hintergrund und einer Promotion in Schwarmintelligenz, beschäftigt er sich leidenschaftlich mit ethisch akzeptablen Einsatz von KI-Innovationen und dezentralen Strukturen im Unternehmensumfeld.
Neuerscheinung!
