Künstliche Intelligenz: Vergessene Übersetzung

Entwurf von Ethikrichtlinien für eine vertrauenswürdige Künstliche Intelligenz

Wie soll und darf künstliche Intelligenz unser alltägliches Leben beeinflussen? Bis zum 1. Februar 2019 haben Bürgerinnen und Bürger, Unternehmen und Interessengruppen die Möglichkeit, den Entwurf für ethische Leitlinien für KI zu kommentieren, den eine von der Europäischen Kommission eingesetzte Expertengruppe veröffentlicht hat.

Dieses Dokument "Entwurf von Ehtikrichtlinien für eine vertrauenswürdige Künstliche Intelligenz" wurde von der Europäischen Kommission am 18. Dezember 2018 nur in englischer Sprache veröffentlicht. Eine deutsche Übersetzung liegt nicht vor. Die Redaktion von "EU-Info.de" erreichten viele Nutzer-Mails, in denen das Fehlen einer deutschen Übersetzung für ein so wichtiges Dokument kritisiert würde. Wir haben uns deshalb entschlossen, die im Dokument enthaltene Kurzfassung mit Hilfe künstlicher Intelligenz zu übersetzen. 

Bitte beachten Sie: Dies ist keine offizielle Übersetzung, sondern der Versuch, eine offensichtlich fehlende Übersetzung zugänglich zu machen. Wir übernehmen keine Haftung für die Richtigkeit.  

KURZFASSUNG

Dieses Arbeitsdokument stellt einen Entwurf der KI-Ethikrichtlinien dar, die von der hochrangigen Expertengruppe für Künstliche Intelligenz (KI HLEG) der Europäischen Kommission erstellt wurden und deren endgültige Fassung im März 2019 erwartet wird.

Die Künstliche Intelligenz (KI) ist eine der transformativsten Kräfte unserer Zeit und wird das Gefüge der Gesellschaft verändern. Sie bietet eine große Chance zur Steigerung von Wohlstand und Wachstum, nach der Europa streben muss. In den letzten zehn Jahren wurden große Fortschritte erzielt, die auf die Verfügbarkeit riesiger Mengen an digitalen Daten, leistungsfähige Computerarchitekturen und Fortschritte bei KI-Techniken wie dem maschinellen Lernen zurückzuführen sind. Wichtige KI-fähige Entwicklungen in den Bereichen autonome Fahrzeuge, Gesundheitswesen, Heim-/Serviceroboter, Bildung oder Cybersicherheit verbessern täglich die Qualität unseres Lebens. Darüber hinaus ist die KI der Schlüssel zur Bewältigung vieler der großen Herausforderungen, vor denen die Welt steht, wie z.B. globale Gesundheit und Wohlbefinden, Klimawandel, zuverlässige Rechts- und Demokratiesysteme und andere, die in den Zielen der Vereinten Nationen für nachhaltige Entwicklung zum Ausdruck kommen.

Da die KI in der Lage ist, enorme Vorteile für den Einzelnen und die Gesellschaft zu generieren, entstehen auch bestimmte Risiken, die angemessen gemanagt werden sollten. Da die Vorteile der KI insgesamt die Risiken überwiegen, müssen wir sicherstellen, dass wir den Weg gehen, der den Nutzen der KI maximiert und gleichzeitig ihre Risiken minimiert. Um sicherzustellen, dass wir auf dem richtigen Weg bleiben, ist ein menschenzentrierter Ansatz für die KI erforderlich, der uns zwingt, daran zu denken, dass die Entwicklung und Anwendung der KI nicht als Mittel an sich gesehen werden sollte, sondern als Ziel, das menschliche Wohlbefinden zu steigern. Die vertrauenswürdige KI wird unser Nordstern sein, denn nur wenn der Mensch der Technologie vertrauen kann, kann er die Vorteile der KI selbstbewusst und vollständig nutzen.

Die vertrauenswürdige KI hat zwei Komponenten: (1) Sie sollte die Grundrechte, die geltenden Vorschriften und die Grundprinzipien und -werte respektieren und einen "ethischen Zweck" gewährleisten, und (2) sie sollte technisch robust und zuverlässig sein, da selbst bei guten Absichten ein Mangel an technologischer Beherrschung unbeabsichtigter Schaden verursachen kann.

Diese Leitlinien legen daher einen Rahmen für eine vertrauenswürdige KI fest:

  • Kapitel I befasst sich mit der Sicherstellung des ethischen Ziels der KI, indem es die Grundrechte, Grundsätze und Werte darlegt, die sie einhalten sollte.
  • Aus diesen Prinzipien leitet Kapitel II Leitlinien für die Realisierung einer vertrauenswürdigen KI ab, die sowohl ethische Ziele als auch technische Robustheit berücksichtigen. Dies geschieht durch Auflistung der Anforderungen an eine vertrauenswürdige KI und durch einen Ãberblick über technische und nicht-technische Methoden, die für deren Implementierung verwendet werden können.
  • Kapitel III operationalisiert die Anforderungen anschließend durch die Bereitstellung einer konkreten, aber nicht abschließenden Bewertungsliste für vertrauenswürdige KI. Diese Liste wird dann an die spezifischen Anwendungsfälle angepasst.

Im Gegensatz zu anderen Dokumenten, die sich mit ethischer KI befassen, zielen die Leitlinien daher nicht darauf ab, eine weitere Liste von Kernwerten und -prinzipien für KI zu liefern, sondern bieten Leitlinien für die konkrete Umsetzung und Operationalisierung in KI-Systeme. Diese Leitlinien werden in drei Abstraktionsebenen bereitgestellt, von den abstraktesten in Kapitel I (Grundrechte, Grundsätze und Werte) bis zu den konkretesten in Kapitel III (Bewertungsliste).

Die Leitlinien richten sich an alle relevanten Interessengruppen, die KI entwickeln, einsetzen oder nutzen, und umfassen Unternehmen, Organisationen, Forscher, öffentliche Dienste, Institutionen, Einzelpersonen oder andere Einrichtungen. In der endgültigen Fassung dieser Leitlinien wird ein Mechanismus vorgeschlagen, der es den Beteiligten ermöglicht, diese freiwillig zu übernehmen.

Wichtig ist, dass diese Leitlinien weder als Ersatz für irgendeine Form der Politikgestaltung oder Regulierung gedacht sind (die im zweiten Ergebnis der KI HLEG behandelt werden soll: die im Mai 2019 fälligen Policy & Investment Recommendations), noch zielen sie darauf ab, deren Einführung zu verhindern. Darüber hinaus sollten die Leitlinien als ein lebendiges Dokument betrachtet werden, das im Laufe der Zeit regelmäßig aktualisiert werden muss, um eine kontinuierliche Relevanz im Zuge der Weiterentwicklung der Technologie und unseres Wissens darüber zu gewährleisten. Dieses Dokument sollte daher ein Ausgangspunkt für die Diskussion über "Vertrauenswürdige KI made in Europe" sein.

Während Europa seinen ethischen Ansatz für KI nur dann verbreiten kann, wenn es auf globaler Ebene wettbewerbsfähig ist, ist ein ethischer Ansatz für KI von entscheidender Bedeutung, um eine verantwortungsvolle Wettbewerbsfähigkeit zu ermöglichen, da er das Vertrauen der Nutzer schafft und eine breitere Akzeptanz von KI erleichtert. Diese Leitlinien sollen nicht dazu dienen, KI-Innovationen in Europa zu ersticken, sondern zielen darauf ab, die Ethik als Inspiration für die Entwicklung einer einzigartigen Marke von KI zu nutzen, die darauf abzielt, den Einzelnen und das Gemeinwohl zu schützen und zu fördern. Dies ermöglicht es Europa, sich als führendes Unternehmen für innovative, sichere und ethische KI zu positionieren. Nur wenn die Vertrauenswürdigkeit gewährleistet ist, werden die europäischen Bürger die Vorteile der KI voll ausschöpfen können.

Schließlich zielen diese Leitlinien auch außerhalb Europas darauf ab, Überlegungen und Diskussionen über einen ethischen Rahmen für KI auf globaler Ebene zu fördern.

LEITLINIEN FÜR UNTERNEHMEN UND VERWALTUNGEN

Jedes Kapitel der Leitlinien bietet Leitlinien für die Erreichung einer vertrauenswürdigen KI, die sich an alle relevanten Interessengruppen richtet, die KI entwickeln, einsetzen oder nutzen; sie sind im Folgenden zusammengefasst:

Kapitel I: Wichtige Hinweise zur Sicherstellung des ethischen Zwecks:

  • Stellen Sie sicher, dass die KI auf den Menschen ausgerichtet ist: Die KI sollte mit einem "ethischen Zweck" entwickelt, eingesetzt und verwendet werden, der auf den Grundrechten, gesellschaftlichen Werten und den ethischen Prinzipien von Beneficence (Gutes tun), Non-Maleficence (Kein Schaden), Autonomie der Menschen, Gerechtigkeit und Erklärbarkeit beruht und diese reflektiert. Dies ist entscheidend, um auf eine vertrauenswürdige KI
  • Verlassen Sie sich auf Grundrechte, ethische Grundsätze und Werte, um mögliche Auswirkungen von KI auf den Menschen und das Gemeinwohl prospektiv zu bewerten. Besondere Aufmerksamkeit gilt Situationen, an denen schutzbedürftigere Gruppen wie Kinder, Menschen mit Behinderungen oder Minderheiten beteiligt sind, oder Situationen mit Macht- oder Informationsasymmetrien, wie beispielsweise zwischen Arbeitgebern und Arbeitnehmern oder Unternehmen und Verbrauchern.
  • Erkennen Sie an und seien Sie sich der Tatsache bewusst, dass die KI neben dem materiellen Nutzen für den Einzelnen und die Gesellschaft auch negative Auswirkungen haben kann. Seien Sie wachsam in Bezug auf Bereiche, die von kritischer Bedeutung sind.

Kapitel II: Wichtige Hinweise zur Realisierung einer vertrauenswürdigen KI:

  • Integrieren Sie die Anforderungen an eine vertrauenswürdige KI bereits in der frühesten Designphase: Verantwortlichkeit, Data Governance, Design für alle, Governance der KI-Autonomie (menschliche Aufsicht), Nicht-Diskriminierung, Respekt vor der menschlichen Autonomie, Respekt vor dem Datenschutz, Robustheit, Sicherheit, Transparenz.
  • Erwägen Sie technische und nicht-technische Methoden, um die Umsetzung dieser Anforderungen in das KI-System zu gewährleisten. Darüber hinaus sollten Sie diese Anforderungen im Hinterkopf behalten, wenn Sie das Team für die Arbeit am System, dem System selbst, der Testumgebung und den möglichen Anwendungen des Systems zusammenstellen.
  • Bereitstellung von Informationen über die Fähigkeiten und Grenzen des KI-Systems auf klare und proaktive Weise für Interessengruppen (Kunden, Mitarbeiter usw.), so dass sie realistische Erwartungen formulieren können. Die Sicherstellung der Rückverfolgbarkeit des KI-Systems ist in diesem Zusammenhang von entscheidender Bedeutung.
  • Machen Sie die vertrauenswürdige KI zu einem Teil der Unternehmenskultur und informieren Sie die Interessengruppen darüber, wie die vertrauenswürdige KI in die Gestaltung und Nutzung von KI-Systemen implementiert wird. Eine vertrauenswürdige KI kann auch in die Deontologie-Charta oder den Verhaltenskodex von Organisationen aufgenommen werden.
  • Sicherstellung der Beteiligung und Einbeziehung der Interessengruppen bei der Gestaltung und Entwicklung des KI-Systems. Achten Sie außerdem auf Vielfalt bei der Zusammenstellung der Teams, die das Produkt entwickeln, implementieren und testen.
  • Bestreben, die Auditierbarkeit von KI-Systemen zu erleichtern, insbesondere in kritischen Kontexten oder Situationen. Gestalten Sie Ihr System so weit wie möglich so, dass individuelle Entscheidungen auf Ihre verschiedenen Eingaben, Daten, vorgebildete Modelle usw. zurückgeführt werden können. Definieren Sie außerdem Erklärungsmethoden des KI-Systems.
  • Sicherstellung eines spezifischen Prozesses für die Governance der Rechenschaftspflicht.
  • Schauen Sie sich die Aus- und Weiterbildung an und stellen Sie sicher, dass Manager, Entwickler, Benutzer und Arbeitgeber sich der vertrauenswürdigen KI bewusst sind und in ihr geschult werden.
  • Beachten Sie, dass es grundlegende Spannungen zwischen verschiedenen Zielen geben kann (Transparenz kann die Tür zum Missbrauch öffnen; das Erkennen und Korrigieren von Verzerrungen könnte im Gegensatz zum Datenschutz stehen). Kommunizieren und dokumentieren Sie diese Trade-offs.
  • Förderung von Forschung und Innovation, um die Erfüllung der Anforderungen an eine vertrauenswürdige KI zu fördern.

Kapitel III: Wichtige Hinweise für die Bewertung vertrauenswürdiger KI

  • Eine Bewertungsliste für vertrauenswürdige KI bei der Entwicklung, Bereitstellung oder Nutzung von KI übernehmen und an den spezifischen Anwendungsfall anpassen, in dem das System verwendet wird.
  • Denken Sie daran, dass eine Bewertungsliste nie vollständig sein wird und dass es bei der Sicherstellung einer vertrauenswürdigen KI nicht darum geht, Kästchen zu markieren, sondern um einen kontinuierlichen Prozess der Identifizierung von Anforderungen, der Bewertung von Lösungen und der Sicherstellung verbesserter Ergebnisse über den gesamten Lebenszyklus des KI-Systems.

Diese Leitlinien sind Teil einer Vision, die einen menschenzentrierten Ansatz für die künstliche Intelligenz umfasst, der es Europa ermöglichen wird, ein weltweit führender Innovator für ethische, sichere und hochmoderne KI zu werden. Sie ist bestrebt, "vertrauenswürdige KI made in Europe" zu erleichtern und zu ermöglichen, was das Wohlergehen der europäischen Bürger verbessern wird.

GLOSSAR

Künstliche Intelligenz oder KI:

Künstliche Intelligenz (KI) bezieht sich auf Systeme, die von Menschen entworfen wurden, die angesichts eines komplexen Ziels in der physischen oder digitalen Welt agieren, indem sie ihre Umgebung wahrnehmen, die gesammelten strukturierten oder unstrukturierten Daten interpretieren, über das aus diesen Daten gewonnene Wissen nachdenken und die besten Maßnahmen (nach vordefinierten Parametern) zur Erreichung des vorgegebenen Ziels festlegen. KI-Systeme können auch so konzipiert werden, dass sie lernen, ihr Verhalten anzupassen, indem sie analysieren, wie sich die Umwelt durch ihre früheren Handlungen verändert.

Als wissenschaftliche Disziplin umfasst die KI mehrere Ansätze und Techniken, wie z.B. das maschinelle Lernen (für das das tiefe Lernen und das Verstärkungslernen spezifische Beispiele sind), das maschinelle Denken (das Planung, Planung, Wissensrepräsentation und -logik, Suche und Optimierung umfasst) und die Robotik (das Steuerung, Wahrnehmung, Sensoren und Aktoren sowie die Integration aller anderen Techniken in cyberphysikalische Systeme umfasst).

Parallel zu diesem Entwurf wird ein separates Dokument veröffentlicht, in dem die Definition der KI, die für die Zwecke dieses Arbeitsdokuments verwendet wird, erläutert wird.

Vorurteile:

Bias ist ein Vorurteil für oder gegen etwas oder jemanden, das zu ungerechten Entscheidungen führen kann. Es ist bekannt, dass der Mensch bei seiner Entscheidungsfindung voreingenommen ist. Da KI-Systeme vom Menschen entworfen werden, ist es möglich, dass Menschen ihre Vorurteile in sie einbringen, auch auf unbeabsichtigte Weise. Viele der heutigen KI-Systeme basieren auf datengesteuerten Techniken des maschinellen Lernens. Daher kann eine vorherrschende Art und Weise, Verzerrungen einzubringen, in der Erfassung und Auswahl von Trainingsdaten bestehen. Wenn die Trainingsdaten nicht umfassend und ausgewogen genug sind, könnte das System lernen, ungerechte Entscheidungen zu treffen. Gleichzeitig kann die KI den Menschen helfen, ihre Vorurteile zu erkennen und ihnen helfen, weniger voreingenommene Entscheidungen zu treffen.

Ethischer Zweck:

In diesem Dokument wird der ethische Zweck verwendet, um die Entwicklung, den Einsatz und die Nutzung von KI anzugeben, die die Einhaltung der Grundrechte und der geltenden Vorschriften sowie die Einhaltung der Grundprinzipien und Werte gewährleistet. Dies ist eines der beiden Kernelemente, um eine vertrauenswürdige KI zu erreichen.

Menschlich-zentrierte KI:

Der menschenzentrierte Ansatz der KI strebt danach, sicherzustellen, dass menschliche Werte immer im Vordergrund stehen, und zwingt uns, daran zu denken, dass die Entwicklung und Nutzung der KI nicht als Mittel an sich, sondern mit dem Ziel der Steigerung des Wohlbefindens der Bürger gesehen werden sollte.

Vertrauenswürdige KI:

Die vertrauenswürdige KI hat zwei Komponenten: (1) seine Entwicklung, sein Einsatz und seine Nutzung sollten den Grundrechten und den geltenden Vorschriften sowie den Grundprinzipien und Werten entsprechen und einen "ethischen Zweck" gewährleisten, und (2) er sollte technisch robust und zuverlässig sein.

BEGRÜNDUNG UND VORAUSSCHAU DER LEITLINIEN

In ihren Mitteilungen vom 25. April 2018 und 7. Dezember 2018 hat die Europäische Kommission (die Kommission) ihre Vision für die Künstliche Intelligenz (KI) dargelegt, die eine ethische, sichere und hochmoderne KI "made in Europe" unterstützt. Drei Säulen stützen die Vision der Kommission: (i) Erhöhung der öffentlichen und privaten Investitionen in KI, um deren Akzeptanz zu steigern, (ii) Vorbereitung auf sozioökonomische Veränderungen und (iii) Gewährleistung eines angemessenen ethischen und rechtlichen Rahmens zur Stärkung der europäischen Werte.

Um die Umsetzung zu unterstützen, hat die Kommission die Hochrangige Expertengruppe für Künstliche Intelligenz (AI HLEG) eingesetzt und sie mit der Ausarbeitung von zwei Ergebnissen beauftragt: (1) AI Ethikrichtlinien und (2) Richtlinien und Anlageempfehlungen. Dieses Arbeitsdokument stellt den ersten Entwurf der von der KI HLEG erstellten KI-Ethikrichtlinien dar.

In den letzten Monaten haben wir 52 uns bei verschiedenen Treffen getroffen, diskutiert und interagiert, getreu dem europäischen Motto: united in diversity.

Zahlreiche wissenschaftliche und journalistische Publikationen haben die positiven und negativen Aspekte des Designs, der Entwicklung, des Einsatzes und der Implementierung von KI im letzten Jahr aufgezeigt. Die KI HLEG ist überzeugt, dass die KI das Versprechen hält, das menschliche Wohlbefinden und das Gemeinwohl zu steigern, aber dazu muss sie menschlich orientiert sein und die Grundrechte respektieren. In einem Kontext des raschen technologischen Wandels halten wir es für unerlässlich, dass das Vertrauen der Zement der Gesellschaften, Gemeinschaften, Wirtschaften und der nachhaltigen Entwicklung bleibt. Deshalb haben wir die vertrauenswürdige KI als unseren Nordstern festgelegt.

Dieses Arbeitsdokument formuliert einen Rahmen für eine vertrauenswürdige KI, der ethische Zwecke und technische Robustheit erfordert. Diese beiden Komponenten sind entscheidend für eine verantwortungsvolle Wettbewerbsfähigkeit, da sie das Vertrauen der Nutzer schaffen und damit die Akzeptanz der KI erleichtern.

Dies ist der Weg, den Europa unserer Meinung nach gehen sollte, um sich als Heimat und Vorreiter für Spitzentechnologie, Sicherheit und Ethik zu positionieren.

Und so werden wir als europäische Bürger die Vorteile der KI voll ausschöpfen können.

Vertrauenswürdige KI

Künstliche Intelligenz trägt dazu bei, unsere Lebensqualität durch personalisierte Medizin oder eine effizientere Erbringung von Gesundheitsleistungen zu verbessern. Sie kann dazu beitragen, die Ziele der nachhaltigen Entwicklung wie die Förderung des Gleichgewichts zwischen den Geschlechtern, die Bekämpfung des Klimawandels und die bessere Nutzung der natürlichen Ressourcen zu erreichen. Es trägt zur Optimierung unserer Verkehrsinfrastrukturen und Mobilität bei und unterstützt unsere Fähigkeit, die Fortschritte anhand von Indikatoren für Nachhaltigkeit und soziale Kohärenz zu überwachen. KI ist also kein Selbstzweck, sondern ein Mittel zur Steigerung des individuellen und gesellschaftlichen Wohlbefindens.

In Europa wollen wir diese Ziele durch vertrauenswürdige KI erreichen. Vertrauen ist eine Voraussetzung dafür, dass Menschen und Gesellschaften Künstliche Intelligenz entwickeln, einsetzen und nutzen können. Ohne nachweislich vertrauenswürdig zu sein, können subversive Folgen entstehen und die Akzeptanz durch Bürger und Verbraucher behindert werden, was die Realisierung der enormen wirtschaftlichen und sozialen Vorteile der KI untergräbt. Um diese Vorteile zu gewährleisten, ist es unsere Vision, Ethik anzuwenden, um eine vertrauenswürdige Entwicklung, Bereitstellung und Nutzung von KI zu fördern. Ziel ist es, ein Klima zu schaffen, das für die vorteilhafte Innovation und Akzeptanz von KI am günstigsten ist.

Vertrauen in die KI beinhaltet: Vertrauen in die Technologie durch die Art und Weise, wie sie von Menschen aufgebaut und genutzt wird; Vertrauen in die Regeln, Gesetze und Normen, die die KI regeln - es sei darauf hingewiesen, dass derzeit kein Rechtsvakuum besteht, da Europa bereits über eine Regelung verfügt, die für die KI gilt - oder Vertrauen in die Geschäfts- und Public Governance-Modelle von KI-Dienstleistungen, -Produkten und -Herstellern.

Die vertrauenswürdige KI hat zwei Komponenten: (1) Bei der Entwicklung, dem Einsatz und der Nutzung sollten die Grundrechte und die geltenden Vorschriften sowie die Grundprinzipien und -werte beachtet werden, wobei ein "ethischer Zweck" gewährleistet sein sollte, und (2) Sie sollte technisch robust und zuverlässig sein. Tatsächlich kann selbst bei guten Absichten oder Absichten der Mangel an technologischer Beherrschung zu unbeabsichtigtem Schaden führen. Darüber hinaus bedeutet die Einhaltung der Grundrechte, Prinzipien und Werte, dass diese durch ihre Umsetzung bei der Konzeption, Entwicklung und Bereitstellung der KI-Technologie ordnungsgemäß umgesetzt werden. Eine solche Umsetzung kann sowohl mit technischen als auch mit nicht-technischen Methoden erfolgen.

Die Leitlinien bieten daher einen Rahmen für eine vertrauenswürdige KI, der alle diese Aspekte berücksichtigt.

Die Rolle der KI-Ethik

Die Errungenschaft der vertrauenswürdigen KI stützt sich stark auf den Bereich der Ethik. Die Ethik als Studienfach ist Jahrhunderte alt und konzentriert sich auf Fragen wie "Was ist eine gute" Handlung, "Was ist richtig" und in einigen Fällen "Was ist das gute Leben". KI Ethik ist ein Teilbereich der angewandten Ethik und Technologie und konzentriert sich auf die ethischen Fragen, die sich aus dem Design, der Entwicklung, der Implementierung und dem Einsatz von KI ergeben. Das Ziel der KI-Ethik ist es, herauszufinden, wie KI das gute Leben des Einzelnen fördern oder Bedenken äußern kann, sei es in Bezug auf die Lebensqualität, die geistige Autonomie oder die Freiheit, in einer demokratischen Gesellschaft zu leben. Sie befasst sich mit Fragen der Vielfalt und Integration (in Bezug auf Ausbildungsdaten und die Ziele, denen die KI dient) sowie mit Fragen der Verteilungsgerechtigkeit (wer von der KI profitiert und wer nicht).

Ein domänenspezifischer Ethik-Code - wie konsistent, entwickelt und feinkörnig er auch sein mag - kann in zukünftigen Versionen sein.

- kann niemals als Ersatz für die ethische Argumentation selbst dienen, die immer sensibel bleiben muss für kontextuelle und umsetzungsbezogene Details, die nicht in allgemeinen Leitlinien erfasst werden können. Dieses Dokument ist daher nicht als Endpunkt zu verstehen, sondern als Beginn eines neuen und offenen Diskussionsprozesses. Wir bekräftigen daher, dass unsere europäischen Ethikrichtlinien für KI als Ausgangspunkt für die Debatte über vertrauenswürdige KI zu verstehen sind. Die Diskussion beginnt hier, endet aber keineswegs hier.

Zweck und Zielgruppe der Leitlinien

Diese Leitlinien bieten den Interessengruppen Orientierungshilfe, wie eine vertrauenswürdige KI erreicht werden kann. Alle relevanten Interessengruppen, die KI entwickeln, einsetzen oder nutzen - Unternehmen, Organisationen, Forscher, öffentliche Dienste, Institutionen, Einzelpersonen oder andere Einrichtungen - sind Adressaten. Regierungen können nicht nur eine regulatorische Rolle spielen, sondern auch KI entwickeln, einsetzen oder nutzen und so als Adressaten betrachtet werden.

Geltungsbereich der Leitlinien

Eine grundlegende und zugrundeliegende Annahme dieses Arbeitsdokuments ist, dass KI-Entwickler, -Bereitsteller und -Nutzer die Grundrechte und alle geltenden Vorschriften einhalten. Die Einhaltung dieser Richtlinien ersetzt in keiner Weise die Einhaltung dieser Richtlinien, sondern stellt lediglich eine Ergänzung dar.

Die Leitlinien sind kein offizielles Dokument der Europäischen Kommission und nicht rechtsverbindlich. Sie sind weder als Ersatz für irgendeine Form der Politikgestaltung oder Regulierung gedacht, noch sollen sie von deren Entstehung abhalten.

Der Anwendungsbereich der Leitlinien erstreckt sich zwar auf KI-Anwendungen im Allgemeinen, doch sollte bedacht werden, dass unterschiedliche Situationen unterschiedliche Herausforderungen mit sich bringen. KI-Systeme, die den Bürgern Lieder empfehlen, erheben nicht die gleichen Empfindlichkeiten wie KI-Systeme, die eine kritische medizinische Behandlung empfehlen. Ebenso ergeben sich unterschiedliche Chancen und Herausforderungen aus KI-Systemen, die im Rahmen von Business-to-Consumer-, Business-to-Business- oder Public-to-Citizen-Beziehungen oder - allgemeiner - in verschiedenen Branchen oder Anwendungsfällen eingesetzt werden. Es wird daher ausdrücklich anerkannt, dass angesichts der Kontextabhängigkeit der KI ein maßgeschneiderter Ansatz erforderlich ist.

EIN RAHMEN FÜR VERTRAUENSWÜRDIGE KI

Dieser Entwurf der KI-Ethikrichtlinien besteht aus drei Kapiteln, die jeweils eine Anleitung auf einer weiteren Abstraktionsebene bieten und zusammen einen Rahmen für die Erreichung einer vertrauenswürdigen KI bilden:

  • Ethischer Zweck. Dieses Kapitel konzentriert sich auf die Kernwerte und Prinzipien, die alle, die sich mit KI befassen, einhalten sollten. Diese basieren auf den internationalen Menschenrechtsnormen, die auf EU-Ebene in den in den EU-Verträgen und in der Charta der Grundrechte der Europäischen Union verankerten Werten und Rechten verankert sind. Zusammenfassend kann dieser Abschnitt als Regelung des "ethischen Zwecks" von Entwicklern, Nutzern und Nutzern von KI definiert werden, der in der Achtung der darin festgelegten Rechte, Prinzipien und Werte bestehen sollte. Darüber hinaus werden eine Reihe von Bereichen von besonderem Interesse aufgeführt, in denen davon ausgegangen wird, dass die Verwendung von KI gegen diesen ethischen Zweck verstoßen kann.
  • Realisierung einer vertrauenswürdigen KI. Bloße gute Absichten reichen nicht aus. Es ist wichtig, dass KI-Entwickler, -Bereitsteller und -Nutzer auch Maßnahmen und Verantwortung übernehmen, um diese Prinzipien und Werte tatsächlich in die Technologie und deren Einsatz umzusetzen. Darüber hinaus sollten sie Vorkehrungen treffen, dass die Systeme aus technischer Sicht so robust wie möglich sind, um sicherzustellen, dass - auch bei Einhaltung des ethischen Zwecks - die KI keinen unbeabsichtigten Schaden verursacht. Kapitel II identifiziert daher die Anforderungen an eine vertrauenswürdige KI und gibt Hinweise auf die möglichen Methoden - sowohl technische als auch nicht-technische -, die zu ihrer Realisierung eingesetzt werden können.
  • Beurteilungsliste & Anwendungsfälle. Basierend auf dem in Kapitel I dargelegten ethischen Zweck und den Implementierungsmethoden von Kapitel II legt Kapitel III eine vorläufige und nicht erschöpfende Bewertungsliste für KI-Entwickler, -Bereitsteller und -Nutzer fest, um eine vertrauenswürdige KI zu operationalisieren. Angesichts der Anwendungsspezifität der KI muss die Bewertungsliste auf spezifische Anwendungen, Zusammenhänge oder Sektoren zugeschnitten werden. Wir haben eine Reihe von Anwendungsfällen ausgewählt, um ein Beispiel für eine solche kontextspezifische Bewertungsliste zu liefern, die in der endgültigen Version des Dokuments entwickelt wird.


DAS KÖNNTE SIE AUCH INTERESSIEREN: