Die KI-Verordnung: Alles, was du dazu wissen musst

Min. Lesezeit

ChatGPT oder andere vergleichbare Anwendungen sind schon jetzt kaum noch aus dem Arbeitsalltag vieler Unternehmen wegzudenken. Du liest sicher ebenfalls täglich News oder nutzt künstliche Intelligenz (KI) sogar schon für dein Unternehmen? Dann bist du nicht allein. Nicht nur junge Tech-Startups setzen immer mehr auf die Unterstützung von generativer KI bei der Arbeit, sondern KI erreicht bereits mit großen Schritten die Mitte der Gesellschaft.

Weil das kein rechtsfreier Raum ist, hat die EU mit der Regulierung begonnen und die KI-Verordnung (engl. Artificial Intelligence Act, kurz AI Act) auf den Weg gebracht. Was hat es damit auf sich und könntest auch du direkt und bald davon betroffen sein? Hier kommen die Antworten.

KI-Verordnung: Roboter- und Menschenhand imitieren Michelangelo Buonarottis Erschaffung Adams

KI-Verordnung – Kurz und Kompakt

  1. Die KI-Verordnung stellt das weltweit erste Regelwerk zur Regulierung von KI dar.
  2. Sie umfasst Pflichten für die Entwicklung und die Anwendung von künstlicher Intelligenz.
  3. Dabei werden die KI-Anwendungen nach Risiko eingestuft.
  4. Ziel: Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit sollen vor KIs mit hohem Risiko geschützt werden.
  5. Kritiker sprechen von massiven wirtschaftlichen Nachteilen durch eine Überregulierung.
  6. Je nach Verstoß und Größe des Unternehmens sind Bußgelder in Millionenhöhe möglich.


Wann spricht man eigentlich von KI?

Unter einem KI-System versteht man eine Technologie oder eine Software, die bestimmte Vorgänge wie maschinelles Lernen nutzt, um im Hinblick auf vom Menschen festgelegte Ziele, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen zu erzeugen. Ziel ist es, Maschinen intelligent zu machen und vor allem auch das selbständige Lernen in den Fokus zu nehmen.

 

Warum reguliert die EU den Einsatz künstlicher Intelligenz?

Die Vorteile künstlicher Intelligenz für unsere Gesellschaft sind vielfältig und reichen von einer verbesserten medizinischen Versorgung bis hin zu einer optimierten Bildung. Die Undurchsichtigkeit vieler Algorithmen kann jedoch zu Unsicherheit führen. Zu den Nachteilen der KI gehören auch die Verarbeitung sensibler Daten oder KI-Entscheidungen, die wichtige persönliche Interessen berühren, etwa in den Bereichen Kreditvergabe, Gesundheitswesen oder Strafverfolgung.

Zu bedenken sind insbesondere auch durch KI verursachte, reelle Schäden, beispielsweise im Bereich autonomer Fahrzeuge. Als Reaktion auf diese und zahlreiche weitere Herausforderungen waren gesetzgeberische Maßnahmen erforderlich. Die EU beschloss daher, einen weltweit ersten Rechtsrahmen zu schaffen, nach dem KIs künftig verantwortungsvoll und sicher eingesetzt werden müssen.

 

 

tip

Frag einen Anwalt

Schon gewusst? Mit "Rechtsberatung Direkt" bietet dir der Händlerbund Rechtsberatung in zahlreichen Gebieten wie IT-Recht, Datenschutz, Mietrecht und vielen weiteren.

Jetzt informieren

 

 

Was beinhaltet die KI-Verordnung?

Die genauen Regelungen der KI-Verordnung wurden mehrmals angepasst und beinahe wäre die Verordnung an den vielen widerstreitenden Interessen gescheitert. Der beschlossene Verordnungstext wurde zum Zeitpunkt der Erstellung dieses Ratgebers noch nicht offiziell veröffentlicht. Die KI-Verordnung, so viel steht bereits fest, unterteilt KI voraussichtlich in drei Risikoklassen: 

 

Inakzeptables Risiko

KIs der höchsten Kategorie sind verboten, darunter fällt z. B. Social Scoring.

Hohes Risiko

KIs der zweithöchsten Risikoklasse: KIs, die ein „erhebliches Schadenspotenzial“ haben und eine hohe Gefahr für Sicherheit, Gesundheit oder Grundrechte darstellen (z.B. KIs bei der Vergabe von Krediten), müssen eine Reihe von Vorschriften einhalten. Dazu gehört z.B. eine Beschwerdemöglichkeit für Betroffene sowie Dokumentations- und Überwachungspflichten.

Geringes Risiko

KIs mit geringem Risiko,  z.B. Chatbots/ ChatGPT, werden kaum oder gar nicht beschränkt. Es gibt lediglich Transparenz- und Dokumentationspflichten. Darunter fallen z.B. Informationspflichten für die Anwender.

 

Betrifft die KI-Verordnung dich als Online-Händler?

In erster Linie adressiert die KI-Verordnung die Entwickler und Anbieter solcher KIs, sobald sie sich in der EU befinden oder sich an EU-Bürger richten. Als möglicher kommerzieller Anwender („deployer“) bist du, wenn auch eingeschränkt, ebenfalls in der Verantwortung. Du darfst beispielsweise keine verbotenen KIs einsetzen und musst bei deinem Personal ein Bewusstsein für die Chancen und Risiken beim Einsatz von KI schaffen. Die von KI betroffenen Personen sind beispielsweise über den Einsatz dieses Systems zu informieren, z.B. wenn du Chatbots in deinem Kundenservice einsetzt.

Erstellst oder veränderst du mittels eines KI-Systems Bilder (z. B. für deine Webseite) oder generierst Texte wie z. B. Blogartikel, musst du vermutlich künftig offenlegen, dass diese Inhalte von einer KI generiert oder verändert wurden.

 

Macht die KI-Verordnung der Digitalisierung einen Strich durch die Rechnung?

Die europäische Wirtschaft sieht die geplante KI-Verordnung in der EU oftmals kritisch. In einem offenen Brief an die EU-Kommission monieren beispielsweise viele namhafte Unternehmen, dass der Entwurf in seiner aktuellen Fassung „die Wettbewerbsfähigkeit und technologische Souveränität Europas gefährden“ würde. Viele Unternehmen führen vor allem an, bei der Entwicklung in der EU mit unverhältnismäßigen Compliance-Kosten und Haftungsrisiken konfrontiert zu sein. Betroffene könnten ihre Arbeit daher ins Ausland verlagern. Die Akteure in der EU hingegen es als historischen Meilenstein. Wie sich die KI-Verordnung in der Praxis gestaltet, kann allein die Zukunft zeigen.

 

  KI Content Marketing Academy

KI Content Marketing Academy – Entfache die Kraft der künstlichen Intelligenz

Lerne in einem 6-wöchigen Kurs, wie du deinen gesamten Content-Erstellungsprozess mithilfe digitaler KI-Technologien revolutionierst.

  1. 3 Live-Trainings mit jeweils über 120 Minuten Länge (inkl. Aufzeichnungen)
  2. Unterlagen zur nachhaltigen Umsetzung
  3. Zugang zu AI Software
  4. Teilnahmezertifikat

Jetzt anmelden




Gibt es weitere Gesetze zum Thema künstliche Intelligenz?

Flankiert werden soll die KI-Verordnung durch eine KI-Haftungsrichtlinie, sowie einer Erweiterung der bestehenden Produkthaftungsrichtlinie. In Arbeit sind zudem neue Vorschriften für Maschinen und diesbezügliche Sicherheitsvorschriften, die bislang in der Maschinenrichtlinie (2006/42/EG) festgelegt waren und nun in eine moderne und zeitgemäßere Maschinen-Verordnung (Machinery Directive) übergehen sollen. Unter anderem soll beispielsweise eine vollständige Risikobewertung für den Einsatz von maschinellen Verhalten (autonomes Lernen) eingeführt werden, bevor die Produkte auf den Markt kommen dürfen. Unsicherheit in Sicherheits- und Haftungsfragen beim Einsatz von künstlicher Intelligenz, beispielsweise in der Robotik, könnten somit beseitigt werden.

 

Ab wann gilt die KI-Verordnung?

Die KI-Verordnung wurde Anfang Februar 2024 beschlossen. Nach der Veröffentlichung im Amtsblatt der EU tritt sie in Kraft. Zur Anwendung kommen im ersten Schritt die Verbote. KI-Systeme mit einem inakzeptablen Risiko (wie etwa das Social Scoring) sind ab Mitte 2024 gänzlich verboten. Im Weitesten muss die KI-Verordnung jedoch erst Mitte 2026 angewendet werden.

 

Zeitleiste zum AI Act

  • April 2021

    Die EU-Kommission präsentiert den ersten Entwurf zur KI-Verordnung.
  • Dezember 2022

    Der Europäische Rat präsentiert seinen Vorschlag für eine KI-Verordnung.
  • Juni 2023

    Das EU-Parlament veröffentlicht seine Verhandlungsposition.

  • Juni - Dezember 2023

    Beginn der Trilog-Verhandlungen zwischen EU-Parlament, EU-Rat und EU-Kommission.
  • 9. Dezember 2023

    EU-Parlament und EU-Rat beschließen die KI-Verordnung.
  • Ab ca. Februar 2024

    Der vereinbarte Text wird vom Parlament sowie vom Rat offiziell angenommen. Veröffentlichung und Verkündung werden erwartet. Im Laufe des Jahres 2024 tritt die KI-Verordnung in Kraft.
  • 2025 bis 2026

    Die Übergangsfrist läuft ab und die KI-Verordnung muss angewendet werden.

 

 

 

Fazit zum AI Act

Künstliche Intelligenz verändert bereits jetzt unseren Alltag. Und das ist erst der Anfang. Bei klugem und umfassendem Einsatz verspricht KI enorme Vorteile für unsere Wirtschaft und Gesellschaft. Das KI-Gesetz der EU ist weltweit der erste umfassende Rechtsrahmen zu künstlicher Intelligenz.

Die neue KI-Verordnung sorgt daher künftig für Rechtssicherheit und ebnet den Weg für Innovationen im Bereich vertrauenswürdiger KI. Durch die Gewährleistung der Sicherheit und Grundrechte von Menschen und Unternehmen in der KI-Verordnung wird eine verantwortungsvolle Entwicklung und Nutzung von KI in der EU unterstützt. Allerdings darf man den Unternehmen, die KI vertrauensvoll einsetzen, keine Steine in den Weg legen.
new-work-mann-auf-gluehbirne

Das könnte dich auch interessieren

  1. KI im E-Commerce
  2. Themenseite KI auf OnlinehändlerNews
  3. HB Marketplace: KI-Suche und Assistent für deinen Webshop
  4. Mensch vs. Maschine – Wer schreibt die besseren Texte?
  5. HB Marketplace: Angebote zu KI-Tools
hb-iconset-hb-logo
Alles für Online-Händler

Du willst im E-Commerce Erfolge feiern? Mit unseren Lösungen unterstützen wir dich als Online-Händler bei den täglichen Herausforderungen des E-Commerce.

E-Commerce-Lösungen entdecken
hb-iconset-rechtsberatung
Rechtsberatung vom Profi

Du hast rechtliche Fragen? Wir beantworten sie. Unsere auf E-Commerce-Recht spezialisierten Anwälte stehen dir bei rechtlichen Fragen gern zur Seite.

Zur Rechtsberatung
hb-iconset-video-audio-1
Mehr Tipps gibt es auf YouTube

Der Händlerbund YouTube-Kanal hält noch viele weitere Informationen und Tipps bereit, um das Thema Online-Handel erfolgreich und rechtssicher zu gestalten.

Praxistipps entdecken