Bias und Diskriminierung in KI: Quizfragen und Antworten

Question 1

Welche der folgenden Aussagen definiert Voreingenommenheit in KI-Systemen am präzisesten?

Accepted Answer

Die Neigung eines KI-Systems, gegenüber bestimmten Personengruppen voreingenommen zu sein

Answer

Die Unfähigkeit eines KI-Systems, zwischen verschiedenen Personengruppen zu differenzieren

Answer

Die vorsätzliche Diskriminierung bestimmter Personengruppen durch ein KI-System

Answer

Die Unfähigkeit eines KI-Systems, menschliche Emotionen zu verstehen

Question 2

Nenne drei bewährte Verfahren für die Entwicklung fairer und ethischer KI-Systeme.

Accepted Answer

Algorithmenüberwachung

Accepted Answer

Transparenz und Rechenschaftspflicht

Accepted Answer

Einbeziehung verschiedener Perspektiven

Question 3

Fallstudie: Untersuche den Fall der diskriminierenden Kreditvergabe durch KI-Algorithmen. Erläutere die Gründe, Folgen und bewährten Praktiken zur Bewältigung solcher Vorfälle.

Accepted Answer

Gründe: Fehlende Repräsentation von Daten in den Trainingsdaten

Accepted Answer

Folgen: Kreditverweigerung für bestimmte Personengruppen

Accepted Answer

Bewährte Praktiken: Datenbereinigung und Algorithmusüberprüfung

Question 4

Welche drei Haupttypen von Voreingenommenheit können bei der Entwicklung von KI-Systemen auftreten?

Accepted Answer

**Selektionsvoreingenommenheit:** Entsteht durch die Art und Weise, wie Daten für das Training eines KI-Systems ausgewählt werden.

Accepted Answer

**Repräsentationsvoreingenommenheit:** Entsteht durch die Daten selbst, die zum Trainieren eines KI-Systems verwendet werden.

Accepted Answer

**Algorithmische Voreingenommenheit:** Entsteht durch die Art und Weise, wie das KI-System selbst entwickelt wurde.

Answer

Bestätigungsvoreingenommenheit, Verfügbarkeitsheuristik, Ankereffekt

Question 5

Welche der folgenden Aussagen beschreibt am besten die Definition von Voreingenommenheit in KI-Systemen?

Accepted Answer

Die Neigung eines Systems, Ergebnisse zugunsten bestimmter Gruppen zu verzerren, basierend auf Merkmalen wie Rasse, Geschlecht oder sozialem Status.

Answer

Die Unfähigkeit des Systems, akkurate Vorhersagen zu treffen.

Question 6

Welche der folgenden Strategien kann zur Reduzierung von Diskriminierung in KI-Systemen eingesetzt werden?

Accepted Answer

Überprüfung der Trainingsdaten auf Voreingenommenheit und deren Beseitigung.

Answer

Ignorieren von Merkmalen, die mit Diskriminierung assoziiert werden könnten.

Answer

Erhöhung der Größe des Trainingsdatensatzes ohne Berücksichtigung von Voreingenommenheit.

Question 7

Was ist eine potenzielle Auswirkung von Voreingenommenheit in KI-Systemen?

Accepted Answer

Fehlende Repräsentation von Minderheitengruppen in den Ergebnissen.

Answer

Erhöhte Rechenleistung.

Answer

Verbesserte Genauigkeit der Vorhersagen.

Question 8

Welcher der folgenden Faktoren kann zu Voreingenommenheit in KI-Systemen beitragen?

Accepted Answer

Unausgewogene Trainingsdatensätze, die bestimmte Gruppen unterrepräsentieren.

Answer

Zu wenige Eingabevariablen.

Answer

Ein zu großes Entscheidungsbaummodell.

Answer

Optimale Hyperparameter.

Question 9

Was ist der Unterschied zwischen Voreingenommenheit und Diskriminierung in KI-Systemen?

Accepted Answer

Voreingenommenheit ist die zugrunde liegende Ursache für Diskriminierung, während Diskriminierung das Ergebnis von Voreingenommenheit ist.

Answer

Voreingenommenheit ist absichtlich, während Diskriminierung unbeabsichtigt ist.

Question 10

Welches ethische Prinzip sollte bei der Entwicklung von KI-Systemen berücksichtigt werden, um Voreingenommenheit und Diskriminierung zu vermeiden?

Accepted Answer

Fairness

Answer

Profitabilität

Answer

Effizienz

Answer

Bequemlichkeit

Question 11

Welche der folgenden Maßnahmen kann dazu beitragen, KI-Systeme gerechter zu gestalten?

Accepted Answer

Einbeziehung verschiedener Perspektiven und Erfahrungen in den Entwicklungsprozess.

Answer

Verwendung proprietärer Algorithmen, die nicht offengelegt werden.

Answer

Konzentration auf die Verbesserung der Genauigkeit.

Question 12

Was ist eine Herausforderung bei der Reduzierung von Voreingenommenheit und Diskriminierung in KI-Systemen?

Accepted Answer

Die Schwierigkeit, alle potenziellen Voreingenommenheiten zu identifizieren und zu beheben, selbst mit gründlichen Überprüfungen.

Answer

Die mangelnde Verfügbarkeit von Trainingsdaten.

Answer

Die hohen Kosten für die Implementierung von Bias-Mitigationstechniken.

Question 13

Welches der folgenden Gesetze schützt vor Diskriminierung durch KI-Systeme?

Accepted Answer

Aktuell existiert noch kein spezifisches Gesetz zu diesem Thema.

Answer

Der Allgemeine Gleichbehandlungsgesetz (AGG)

Answer

Das Bundesdatenschutzgesetz (BDSG)

Question 14

Was ist die Rolle des Menschen bei der Vermeidung von Voreingenommenheit und Diskriminierung in KI-Systemen?

Accepted Answer

Überwachung, Überprüfung und Sicherstellung der Rechenschaftspflicht für ethische Entscheidungen.

Answer

Delegierung der Verantwortung an Algorithmen.

Answer

Vollständige Automatisierung des Entwicklungsprozesses.

Answer

Verzicht auf KI-Systeme zugunsten menschlicher Entscheidungen.

Question 15

Welche der folgenden Aussagen beschreibt am besten Voreingenommenheit in KI-Systemen?

Accepted Answer

Datenunwucht führt zu Vorhersagen, die bestimmte Gruppen bevorzugen.

Answer

Voreingenommenheit in KI wird durch böswillige Akteure verursacht.

Answer

KI-Algorithmen sind intrinsisch voreingenommen.

Question 16

Welche der folgenden Maßnahmen kann helfen, Voreingenommenheit in KI-Systemen zu mindern?

Accepted Answer

Sammlung und Nutzung vielfältigerer Daten.

Answer

Steigerung der Modellkomplexität.

Answer

Reduzierung der Anzahl der verwendeten Attribute.

Answer

Ignorieren möglicher Voreingenommenheit.

Question 17

Welche Art von Diskriminierung kann durch voreingenommene KI-Systeme entstehen?

Accepted Answer

Ungleiche Vorhersagegenauigkeit für unterschiedliche Gruppen.

Answer

Physische Gewalt gegen Minderheiten.

Answer

Verweigerung von Bildungsmöglichkeiten.

Question 18

Welches ethische Prinzip sollte bei der Entwicklung von KI-Systemen berücksichtigt werden, um Diskriminierung zu vermeiden?

Accepted Answer

Fairness

Answer

Effizienz

Answer

Rentabilität

Answer

Geschwindigkeit

Question 19

Welche der folgenden Maßnahmen kann die Transparenz von KI-Systemen erhöhen und so Voreingenommenheit aufdecken?

Accepted Answer

Offenlegung der verwendeten Algorithmen.

Answer

Eingeschränkter Zugriff auf Dokumentationen.

Answer

Verhinderung externer Prüfungen.

Answer

Verheimlichung von Datenquellen.

Question 20

Welche der folgenden Aussagen über die Auswirkungen von Diskriminierung ist korrekt?

Accepted Answer

Sie kann zu sozialen Ungleichheiten und Spannungen führen.

Answer

Sie hat keine Auswirkungen auf die Gesellschaft.

Answer

Sie ist immer eine bewusste Handlung.

Question 21

Welche der folgenden Maßnahmen kann ein ethisches Verständnis von KI fördern?

Accepted Answer

Bewusstseinsbildung zu den potenziellen Auswirkungen von Voreingenommenheit.

Answer

Verbot der Entwicklung von KI-Systemen.

Answer

Zensur von Informationen über KI.

Question 22

Welche der folgenden Maßnahmen kann zur Rechenschaftspflicht von KI-Systemen beitragen und Diskriminierung verhindern?

Accepted Answer

Einrichtung von Regulierungsbehörden.

Answer

Selbstregulierung durch die Industrie.

Answer

Ignorieren potenzieller Risiken.

Answer

Vertrauen auf die guten Absichten der Entwickler.

Question 23

Welche der folgenden Aussagen beschreibt Voreingenommenheit in KI-Systemen am besten?

Accepted Answer

Voreingenommenheit tritt auf, wenn KI-Algorithmen bestimmte Gruppen systematisch bevorzugen oder benachteiligen.

Answer

Voreingenommenheit ist die Absicht, Menschen aufgrund ihrer Gruppenzugehörigkeit zu diskriminieren.

Question 24

Welche der folgenden Konsequenzen kann Voreingenommenheit in KI-Systemen haben?

Accepted Answer

Diskriminierende Ergebnisse

Answer

Geringere Kosten

Answer

Verbesserte Genauigkeit

Answer

Erhöhte Effizienz

Question 25

Welche der folgenden Methoden kann verwendet werden, um Voreingenommenheit in KI-Modellen zu mindern?

Accepted Answer

Faire Datensätze

Answer

Manuelle Korrektur von Vorhersagen

Answer

Erhöhte Modellkomplexität

Answer

Reduzierte Modellgenauigkeit

Question 26

Welche der folgenden rechtlichen Vorschriften befasst sich mit Diskriminierung durch KI-Systeme?

Accepted Answer

Antidiskriminierungsgesetz

Answer

Urheberrechtsgesetz

Answer

Datenschutz-Grundverordnung

Answer

Strafgesetzbuch

Question 27

Wie unterscheidet sich Voreingenommenheit von Diskriminierung in KI-Systemen?

Accepted Answer

Voreingenommenheit ist das Potenzial für Diskriminierung, während Diskriminierung das tatsächliche Eintreten einer Benachteiligung aufgrund von Voreingenommenheit ist.

Answer

Voreingenommenheit und Diskriminierung sind Synonyme.

Question 28

Welche der folgenden ethischen Überlegungen ist im Zusammenhang mit Voreingenommenheit und Diskriminierung in KI-Systemen entscheidend?

Accepted Answer

Menschenwürde

Answer

Komfort

Answer

Technischer Fortschritt

Answer

Wirtschaftliche Effizienz

Question 29

Welche Rolle spielt Transparenz bei der Bewältigung von Voreingenommenheit und Diskriminierung in KI-Systemen?

Accepted Answer

Transparenz ermöglicht es, Voreingenommenheit zu erkennen und Maßnahmen dagegen zu ergreifen.

Answer

Transparenz ist nicht wichtig, solange KI-Systeme genaue Ergebnisse liefern.

Answer

Transparenz kann die Entwicklung von KI-Systemen behindern.

Question 30

Welche der folgenden Aussagen beschreibt einen fairen Algorithmus?

Accepted Answer

Ein Algorithmus, der Entscheidungen trifft, die nicht von geschützten Merkmalen wie Rasse oder Geschlecht beeinflusst werden.

Answer

Ein Algorithmus, der immer die gleiche Entscheidung trifft, unabhängig von den Eingaben.

Question 31

Welche Verantwortung tragen KI-Experten bei der Auseinandersetzung mit Voreingenommenheit und Diskriminierung in KI-Systemen?

Accepted Answer

Voreingenommenheit identifizieren, vermeiden und mildern

Answer

Voreingenommenheit als unvermeidbaren Bestandteil von KI akzeptieren

Answer

KI-Systeme nur für positive Zwecke einsetzen

Answer

Die gesamte Verantwortung an die Entwickler von KI-Systemen delegieren

Question 32

Welche der folgenden Faktoren können zu Voreingenommenheit in KI-Systemen beitragen?

Accepted Answer

Verzerrte Trainingsdaten

Answer

Begrenzte Rechenleistung

Answer

Komplexe Algorithmen

Answer

Geringe Datenspeicherkapazität

Question 33

Welche Strategie kann zur Minderung von Diskriminierung in KI-Systemen eingesetzt werden?

Accepted Answer

Überprüfung der Fairness der Trainingsdaten

Answer

Reduzierung der Anzahl der Systemvariablen

Answer

Beschränkung des Zugriffs auf das System

Answer

Erhöhung der Systemkomplexität

Question 34

Welcher Begriff beschreibt eine Situation, in der ein KI-System eine Gruppe von Personen gegenüber einer anderen bevorzugt?

Accepted Answer

Diskriminierung

Answer

Voreingenommenheit

Answer

Stereotypisierung

Answer

Verzerrung

Question 35

Welche mögliche Auswirkung kann Voreingenommenheit in KI-Systemen haben?

Accepted Answer

Benachteiligung bestimmter Bevölkerungsgruppen

Answer

Verbesserte Benutzerfreundlichkeit

Answer

Erhöhte Systemeffizienz

Answer

Geringere Systemkosten

Question 36

Welches ethische Prinzip ist bei der Entwicklung von KI-Systemen zu berücksichtigen?

Accepted Answer

Gerechtigkeit

Answer

Genauigkeit

Answer

Wirtschaftlichkeit

Answer

Datensicherheit

Question 37

Welche Methode kann zur Erkennung von Voreingenommenheit in KI-Systemen eingesetzt werden?

Accepted Answer

Überprüfung der Systemleistung in verschiedenen Untergruppen

Answer

Entwicklung komplexerer Algorithmen

Answer

Verwendung größerer Datensätze für das Training

Question 38

Welche Maßnahme kann zur Förderung eines ethischen Verständnisses von KI ergriffen werden?

Accepted Answer

Bereitstellung von Schulungen zu den ethischen Auswirkungen von KI

Answer

Entwicklung neuer KI-Technologien

Answer

Erlass strenger Gesetze zur Regulierung von KI

Question 39

Welcher Vorteil kann sich aus der Berücksichtigung von Voreingenommenheit und Diskriminierung bei der Entwicklung von KI-Systemen ergeben?

Accepted Answer

Erhöhtes Vertrauen in und Akzeptanz von KI-Systemen

Answer

Erhöhte Systemgeschwindigkeit

Answer

Geringere Entwicklungskosten

Question 40

Welche der folgenden Aussagen beschreibt einen potenziellen Nachteil von KI-Systemen hinsichtlich Voreingenommenheit?

Accepted Answer

Sie können vorhandene Verzerrungen in Datensätzen verstärken.

Answer

Sie können menschliche Entscheidungen ersetzen.

Answer

Sie können zu größerer Transparenz führen.

Answer

Sie können zu genaueren Vorhersagen führen.

Question 41

Welche praktikable Strategie zur Minderung von Voreingenommenheit in KI-Systemen ist?

Accepted Answer

Einsatz von Algorithmen, die auf fairem Lernen basieren.

Answer

Ignorieren von Merkmalen, die mit Voreingenommenheit verbunden sind.

Answer

Verzicht auf die Verwendung von historischen Daten.

Answer

Verwenden von mehr Daten, ohne sie zu bereinigen.

Question 42

Was ist eine der häufigsten Ursachen für Diskriminierung in KI-Systemen?

Accepted Answer

Verzerrungen in den Trainingsdaten.

Answer

Geringe Akzeptanz durch die Öffentlichkeit.

Answer

Schlechte Implementierung.

Answer

Mangel an Regulierung.

Question 43

Welche Konsequenz kann Diskriminierung durch KI-Systeme haben?

Accepted Answer

Einschränkung des Zugangs zu Möglichkeiten.

Answer

Erhöhte Effizienz.

Answer

Geringere Kosten.

Answer

Verbesserte Genauigkeit.

Question 44

Welcher ethische Grundsatz ist bei der Entwicklung von KI-Systemen von wesentlicher Bedeutung?

Accepted Answer

Vermeidung von Schaden.

Answer

Maximierung des Gewinns.

Answer

Förderung von Innovation.

Answer

Erhaltung des geistigen Eigentums.

Question 45

Welche der folgenden Aussagen beschreibt eine Herausforderung bei der Erkennung von Voreingenommenheit in KI-Systemen?

Accepted Answer

Voreingenommenheit kann subtil und schwer zu erkennen sein.

Answer

Voreingenommenheit kann durch einfache Tests beseitigt werden.

Answer

Voreingenommenheit ist immer offensichtlich.

Question 46

Welche bewährte Praxis fördert die ethische Entwicklung von KI-Systemen?

Accepted Answer

Einbeziehung vielfältiger Perspektiven.

Answer

Ignorieren von potenziellen negativen Auswirkungen.

Answer

Verzicht auf Transparenz.

Answer

Priorisierung kommerziellen Nutzens.

Question 47

Was ist ein potenzieller Vorteil von KI-Systemen hinsichtlich Voreingenommenheit?

Accepted Answer

Sie können helfen, menschliche Voreingenommenheit zu identifizieren und zu reduzieren.

Answer

Sie können Voreingenommenheit verstärken, ohne dass wir es bemerken.

Answer

Sie können Voreingenommenheit vollständig beseitigen.

Question 48

Welche der folgenden Beschreibungen definiert Voreingenommenheit in KI-Systemen am zutreffendsten?

Accepted Answer

Systematische Tendenz, Entscheidungen zugunsten oder zuungunsten bestimmter Gruppen zu treffen

Answer

Zufällige Abweichungen in der Entscheidungsfindung

Answer

Mangelnde Transparenz in den zugrunde liegenden Algorithmen

Question 49

Welche Strategie ist wirksam bei der Minderung von Voreingenommenheit in KI-Systemen?

Accepted Answer

Überprüfung der Trainingsdaten auf faire Repräsentation

Answer

Zunahme der Größe der Trainingsdaten

Answer

Ignorieren der Problematik und Hoffen auf Verbesserung

Answer

Vereinfachung der KI-Algorithmen

Question 50

Welches ethische Prinzip steht bei der Entwicklung von KI-Systemen im Vordergrund?

Accepted Answer

Gerechtigkeit

Answer

Popularität

Answer

Effizienz

Answer

Rentabilität

Question 51

Welche Rolle spielt Transparenz bei der Bewältigung von Voreingenommenheit und Diskriminierung in KI?

Accepted Answer

Ermöglicht es, mögliche Problembereiche zu identifizieren und anzugehen

Answer

Behindert die Entwicklung von KI-Systemen

Answer

Macht KI-Systeme immun gegen Voreingenommenheit

Question 52

Welche rechtliche Verantwortung tragen KI-Entwickler im Hinblick auf Voreingenommenheit und Diskriminierung?

Accepted Answer

Sicherstellung, dass KI-Systeme fair und nicht diskriminierend sind

Answer

Keine gesetzlichen Verpflichtungen

Answer

Vollständige Immunität gegenüber Klagen

Question 53

Welcher internationale Standard bietet Leitlinien für die verantwortungsvolle Entwicklung und Nutzung von KI?

Accepted Answer

IEEE-Ethikkodex für autonome und intelligente Systeme

Answer

DSGVO

Answer

HIPAA

Question 54

Welche Organisation ist führend in der Forschung und Entwicklung von Methoden zur Minderung von Voreingenommenheit in KI?

Accepted Answer

Fairness, Accountability, and Transparency in Machine Learning (FATML)

Answer

Weltwirtschaftsforum

Answer

Vereinte Nationen

Question 55

Welche der folgenden Maßnahmen trägt nicht zur Förderung eines ethischen Verständnisses von KI bei?

Accepted Answer

Förderung einer gewinnorientierten Kultur

Answer

Bereitstellung von Ressourcen zur Ausbildung in KI-Ethik

Answer

Sensibilisierung für die potenziellen Auswirkungen von KI

Answer

Einbeziehung von Ethikexperten in die KI-Entwicklung

Question 56

Welche der folgenden Aussagen beschreibt am besten den Begriff "Voreingenommenheit" im Kontext von KI-Systemen?

Accepted Answer

Eine Tendenz, gegenüber bestimmten Gruppen oder Merkmalen Vorurteile zu hegen.

Answer

Die Fähigkeit eines KI-Systems, sich an neue Daten anzupassen.

Answer

Die Effizienz eines KI-Systems bei der Ausführung von Aufgaben.

Question 57

Welche der folgenden Auswirkungen kann KI-Voreingenommenheit haben?

Accepted Answer

Fehlinterpretation von Daten, ungerechte Behandlung von Personen.

Answer

Erhöhte Kundenbindung.

Answer

Verbesserte Effizienz und Produktivität

Question 58

Welche Strategien können eingesetzt werden, um Voreingenommenheit in KI-Systemen zu reduzieren?

Accepted Answer

Datenbereinigung, Auswahl geeigneter Algorithmen, Bewertung der Ergebnisse.

Answer

Ignorieren von Voreingenommenheiten in den Trainingsdaten.

Answer

Vereinfachung der Algorithmen.

Answer

Verwendung einer größeren Datenmenge.

Question 59

Welche der folgenden Situationen zeigt ein Beispiel für eine diskriminierende KI-Entscheidung?

Accepted Answer

Ablehnung eines Kredits aufgrund der ethnischen Zugehörigkeit des Antragstellers.

Answer

Empfehlung eines Films, den eine Person bereits gesehen hat.

Answer

Vorhersage des Wetters für den nächsten Tag.

Question 60

Welche Branchen sind besonders anfällig für Voreingenommenheit in KI-Systemen?

Accepted Answer

Personalbeschaffung, Strafjustiz, Gesundheitswesen.

Answer

Produktion, Einzelhandel, Gastgewerbe.

Answer

Finanzen, Bildung, Verkehr.

Answer

Landwirtschaft, Bergbau, Energie.

Question 61

Welche rechtlichen Folgen können aus Voreingenommenheit in KI-Systemen resultieren?

Accepted Answer

Verstöße gegen Antidiskriminierungsgesetze.

Answer

Verstöße gegen geistige Eigentumsrechte.

Answer

Verletzung von Vertragsbedingungen.

Answer

Verletzung von Datenschutzbestimmungen.

Question 62

Welche ethischen Prinzipien sollten bei der Entwicklung von KI-Systemen beachtet werden?

Accepted Answer

Schadensvermeidung, Fairness, Transparenz.

Answer

Gewinnmaximierung.

Answer

Vermeidung rechtlicher Probleme.

Answer

Einhaltung von Fristen.

Question 63

Welche Aussage fasst die Kernaussage dieser Einheit am besten zusammen?

Accepted Answer

KI-Systeme können Voreingenommenheit und Diskriminierung widerspiegeln und verstärken.

Answer

Voreingenommenheit in KI-Systemen wird ausschließlich durch menschliche Fehler verursacht.

Answer

KI-Systeme sind grundsätzlich fair und unvoreingenommen.