KI Recht » AI Act, Gesetze, Ethik, DSGVO, Trends

Min. Lesezeit

Künstliche Intelligenz bestimmt zunehmend unseren Alltag und unsere Arbeitswelt. Sprachassistenten füllen deinen Warenkorb, Bots helfen dir bei deinen wichtigsten Anliegen und Autos bringen dich ganz von selbst an dein Ziel. Aber KI kann auch die Suche in deinem Online-Shop verbessern und personalisierte Produktvorschläge perfektionieren. Insbesondere Unternehmer kommen dabei nicht umhin, sich mit den rechtlichen Rahmenbedingungen und Herausforderungen zu beschäftigen, wenn sie auf KI setzen wollen. Urheberrechte, Datenschutz, Haftung – Wie kann KI rechtssicher eingesetzt werden? 

Auch die Europäische Union hat sich diese Frage gestellt und mit dem Artificial Intelligence Act (AI Act) als “KI-Gesetz” eine erste Antwort formuliert. Ziel ist eine Balance zwischen Innovation von künstlicher Intelligenz und dem Vertrauen und der Sicherheit aller Bürger zu finden. Was genau der AI Act beinhaltet, was das für Unternehmen genau bedeutet und wie es in Zukunft mit KI weitergeht, liest du hier. 

KI-Rechte – Kurz & Kompakt 

  1. Mit dem Einsatz von KI kommen rechtliche Fragen auf nach Haftung, Datenschutz, Transparenz und Ethik in der KI. 
  2. Der Artificial Intelligence Act (AI Act) ist eine Produktsicherheitsverordnung und regelt die Entwicklung und den Einsatz von KI in der EU.
  3. Unter anderem wird künstliche Intelligenz dabei in verschiedene Risikostufen eingeteilt, die unterschiedlich ausgeprägt reglementiert werden. 
  4. KI-Systeme der höchsten Kategorie, die eine besondere Gefahr für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen darstellen, sind grundsätzlich verboten.
  5. Verstöße werden mit gestaffelten Geldstrafen in Millionenhöhe oder 7 % des Jahresumsatzes bestraft.
  6. Haftbar für Fehler bei künstlichen Intelligenzen sind die Personen, die die KI entwickelt, bereitgestellt oder eingesetzt haben. 

 

 

Künstliche Intelligenz – Grundlagen  

Künstliche Intelligenz (KI, Engl: Artificial Intelligence, AI) hat in den letzten Jahren eine rasante Entwicklung erfahren und ist aus vielen Aspekten unseres täglichen Lebens nicht mehr wegzudenken. Doch was genau verbirgt sich hinter dem Begriff “Künstliche Intelligenz”? Wie funktionieren KI-Systeme und welche Anwendungsbereiche haben sie?  

In der heutigen hochtechnologisierten Welt ist der Begriff “Künstliche Intelligenz" allgegenwärtig. Von personalisierten Empfehlungen auf Streaming-Plattformen bis hin zur Automatisierung von Produktionsprozessen in der Industrie – KI hat sich zu einem integralen Bestandteil unseres Alltags entwickelt. Ihre Fähigkeit, unter anderem komplexe Probleme zu lösen, hat sie zu einem unverzichtbaren Werkzeug in verschiedenen Branchen gemacht. Die Popularität von künstlicher Intelligenz spiegelt sich nicht nur in ihrer weitreichenden Anwendung, sondern auch in ihrem kontinuierlichen Einfluss auf die Art und Weise wider, wie wir leben, arbeiten und interagieren. 

KI – Was ist das?  

Bei künstlicher Intelligenz handelt es sich einfach erklärt um Technologien, die Maschinen und Computersystemen die Fähigkeit verleihen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern würden.  

Künstliche Intelligenz definiert sich als die Schaffung und Anwendung von Algorithmen und Technologien, die es Computersystemen ermöglichen, Handlungen zu vollführen, für die es besagte menschliche Intelligenz braucht: komplexe Probleme zu lösen, Muster zu erkennen und Entscheidungen zu treffen. 

KI-Systeme werden oft durch Algorithmen und Daten trainiert, um Muster und Zusammenhänge zu erkennen und Entscheidungen zu treffen oder Probleme zu lösen.

Seit wann gibt es KI?  

Die Ideen und Konzepte, die der Entwicklung von künstlicher Intelligenz zugrunde liegen, reichen bis in die 1950er Jahre zurück. Der Begriff “Künstliche Intelligenz” wurde erstmals von dem amerikanischen Informatiker John McCarthy im Jahr 1956 geprägt. Seitdem hat sich das Feld der KI kontinuierlich weiterentwickelt, wobei verschiedene Meilensteine und Fortschritte in den letzten Jahrzehnten erreicht wurden. Heutzutage sind KI-Technologien in vielen Bereichen des täglichen Lebens weit verbreitet und präsent. 

Anwendungsbereiche von KI 

Es gibt verschiedene Arten von KI, darunter schwache KI, die für spezifische Aufgaben entwickelt wird, und starke KI, die eine allgemeine Intelligenz ähnlich der menschlichen Intelligenz aufweisen soll. Momentan gibt es noch keine starke KI.

Die Anwendungsbereiche von Künstlicher Intelligenz (KI) sind breit gefächert und reichen über verschiedene Branchen und Bereiche hinweg. Hier sind einige Beispiele, wie KI in unserem Alltag zum Einsatz kommt: 

  1. Gesundheitswesen: KI unterstützt bei der Diagnose von Krankheiten, der Analyse medizinischer Bilder und der Entwicklung personalisierter Behandlungspläne. 
  2. Finanzwesen: KI wird für die Betrugserkennung, Risikoanalysen, Handelsstrategien und die Kundenberatung eingesetzt. 
  3. Transportwesen: Selbstfahrende Fahrzeuge nutzen KI für die Navigation, Verkehrsflussoptimierung und Unfallprävention. 
  4. Landwirtschaft: KI verbessert die Effizienz von Ernte- und Bewässerungssystemen, optimiert den Einsatz von Düngemitteln und unterstützt bei der Ernteplanung. 
  5. Kundenservice: Chatbots und virtuelle Assistenten nutzen KI, um Kundenanfragen zu beantworten und Support zu bieten. 
  6. Sprach- und Bilderkennung: KI-Systeme ermöglichen die automatische Übersetzung von Sprachen, die Erkennung von Objekten in Bildern und die Generierung von Bildunterschriften. 
  7. E-Commerce: KI wird für die Personalisierung von Produktvorschlägen, die Preisoptimierung und die Betrugserkennung eingesetzt. 
  8. Robotik: Roboter mit KI-Fähigkeiten können komplexe Aufgaben in der Fertigung, Logistik und im Gesundheitswesen ausführen. 

Diese Beispiele verdeutlichen die Vielseitigkeit und das breite Anwendungsspektrum von künstlicher Intelligenz, die kontinuierlich weiterentwickelt wird und unser tägliches Leben nachhaltig beeinflusst. Den Menschen könnte KI beispielsweise eine bessere Gesundheitsfürsorge, saubereren Verkehr, innovative Dienstleistungen, effizientere Fertigungen und nachhaltigere Dienste, wie z. B. in der Abfallentsorgung, bringen. 

 

gpt-e-learning-kurs
Texterstellung mit ChatGPT

Eine der vielen Anwendungen von künstlicher Intelligenz ist ChatGPT. Mit Hilfe von KI kann der Chatbot nicht nur verschiedene Textinhalte erstellen, sondern auch Ideen liefern, Gespräche führen oder Texte in verschiedene Sprachen übersetzen. Die besten Ausgaben, die du in deinem Online-Shop nutzen kannst, erhältst du aber nur mit den richtigen Anweisungen. Wie du ChatGPT am effektivsten für dich einsetzt, lernst du in unserem E-Learning-Kurs. 

Zum E-Learning Kurs

 

Rechtliche Herausforderungen bei der Implementierung von KI

Bei der Implementierung von künstlicher Intelligenz ergeben sich verschiedene rechtliche Herausforderungen. Dazu gehören:

  1. Fragen der Haftung bei unerwünschten Folgen von KI-Entscheidungen,
  2. Datenschutzbedenken hinsichtlich der Verarbeitung sensibler Daten,
  3. die Notwendigkeit, Diskriminierung in KI-Systeme zu vermeiden und Fairness zu gewährleisten,
  4. Forderung nach Transparenz in Entscheidungsprozessen und
  5. ethische Bedenken im Zusammenhang mit dem Einsatz von KI in verschiedenen Bereichen. 

Diese rechtlichen Herausforderungen von KI erfordern eine sorgfältige Beachtung und zusätzliche rechtliche Rahmenbedingungen, um potenzielle Risiken zu minimieren und den verantwortungsvollen Einsatz von KI zu gewährleisten. 

Die KI Gesetzgebung bzw. die Rechte von KI sind daher derzeit in der Entwicklung, denn: KI kann nur zur Lösung gesellschaftlicher Probleme beitragen, wenn die Technologie qualitativ hochwertig ist und so entwickelt und genutzt wird, dass ihr Menschen vertrauen können. 

Hat künstliche Intelligenz Rechte? 

KI selbst hat keine Rechte im rechtlichen Sinne, da sie keine natürliche oder juristische Person ist. Stattdessen werden Rechte und Verantwortlichkeiten im Zusammenhang mit KI von denjenigen wahrgenommen, die sie entwickeln, einsetzen und kontrollieren. Dies können Einzelpersonen, Unternehmen oder staatliche Einrichtungen sein, die für die Entscheidungen und Handlungen von KI-Systemen verantwortlich sind. 

In einigen Rechtsordnungen können bestimmte Rechte und Pflichten im Zusammenhang mit dem Einsatz von KI gesetzlich festgelegt sein, insbesondere in Bezug auf Haftung, Datenschutz und Ethik. 

Kann eine KI Urheber sein? 

Nach deutschem Urheberrechtsgesetz (UrhG) kann eine KI kein Urheber sein, denn sie hat als künstliche Intelligenz kein Anrecht auf geistiges Eigentum. § 8 UrhG legt fest, dass sich nur natürliche Personen auf das Urheberrecht beziehen dürfen und dass es sich bei den Werken nur um persönliche geistige Schöpfungen handelt. 

hb-iconset-urheberrechtDu willst deinen Shop mit KI nach vorne bringen?
In unserem Ratgeber ChatGPT Urheberrecht findest du mehr Informationen.

Können KI-generierte Werke patentiert werden? 

Da die Ausgaben einer künstlichen Intelligenz keiner persönlichen Schöpfungshöhe unterliegen, können die generierten Inhalte nicht patentiert werden. 

Warum wird KI reguliert? 

KI wird reguliert, weil sie potenziell weitreichende Auswirkungen auf Menschen und Gesellschaft hat und daher verantwortungsvoll entwickelt, eingesetzt und kontrolliert werden muss, um negative Folgen zu minimieren und sicherzustellen, dass sie zum Wohl der Menschen genutzt wird. 

Die EU reguliert KI aus mehreren Gründen: 

  1. Ethik und Verantwortung
    KI kann weitreichende Auswirkungen auf Menschen und Gesellschaft haben. Es ist wichtig sicherzustellen, dass KI-Systeme ethisch einwandfrei und verantwortungsbewusst entwickelt, eingesetzt und kontrolliert werden, um mögliche negative Folgen zu minimieren. 
  2. Haftung und Rechtssicherheit
    Bei der Nutzung von KI können rechtliche Fragen und Haftungsfragen auftreten, insbesondere wenn KI-Systeme Entscheidungen treffen, die Auswirkungen auf Menschen haben. Durch klare rechtliche Rahmenbedingungen können Haftungsfragen geklärt und Rechtssicherheit geschaffen werden. 
  3. Datenschutz und Privatsphäre
    KI-Systeme können große Mengen sensibler Daten verarbeiten. Es ist wichtig sicherzustellen, dass diese Daten angemessen geschützt und die Privatsphäre der betroffenen Person respektiert wird. 
  4. Transparenz und Fairness
    Die Funktionsweise von KI-Systemen kann oft komplex und undurchsichtig sein. Regulierung kann dazu beitragen, dass KI-Systeme transparenter werden und dass Entscheidungsprozesse nachvollziehbar sind. Darüber hinaus ist es wichtig sicherzustellen, dass KI-Systeme fair und diskriminierungsfrei arbeiten. 
  5. Sicherheit
    KI-Systeme können auch Sicherheitsrisiken darstellen, wenn sie anfällig für Missbrauch oder Manipulation sind. Regulierung kann dazu beitragen, diese Risiken zu identifizieren und zu minimieren. 

Insgesamt ist die Regulierung von KI wichtig, um sicherzustellen, dass diese Technologie zum Wohl der Menschen und der Gesellschaft eingesetzt wird und dass potenzielle Risiken und Herausforderungen angemessen adressiert werden. 

Wer reguliert KI? 

Die Regulierung von KI erfolgt in der Regel durch eine Kombination von Regierungen, internationalen Organisationen, Branchenverbänden und anderen Interessengruppen. 

Auf internationaler Ebene spielen Organisationen wie die Vereinten Nationen (United Nations, UN), die Europäische Union (EU), die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) und andere internationale Gremien eine wichtige Rolle. Die Entwicklung von Richtlinien und Empfehlungen für den Umgang mit KI findet auf globaler Ebene statt. 

Darüber hinaus können Branchenverbände und Normungsorganisationen Standards und Best Practices für den verantwortungsvollen Einsatz von KI entwickeln und fördern. 

In Deutschland werden KI-Technologien indirekt unter anderem geregelt durch

  1. Bundesdatenschutzgesetz (BDSG) 
  2. Telemediengesetz (TMG) 
  3. Urheberrechtsgesetz (UrhG)
  4. Datenschutzgrundverordnung (DSGVO) 

Auch arbeitsrechtliche Regelungen können relevant sein, wenn künstliche Intelligenzen am Arbeitsplatz eingesetzt werden. Nun wird innerhalb von Europa die künstliche Intelligenz durch den AI Act reglementiert und die vorhandenen Gesetzgebungen vereinheitlicht. 

 

hb-iconset-rechtsberatung
Professionelle Beratung dank direktem Draht zum Anwalt

Als Unternehmer stehst du den ganzen Tag vor vielen Rechtsfragen, die effizient gelöst sein wollen, um Konsequenzen zu vermeiden. Hilfreich ist da dein direkter Draht zum Anwalt über unsere Rechtsberatung Direkt. Unternehmer profitieren von einer Rund-um-die-Uhr-Beratung eines erfahrenen Rechtsanwalts – zum monatlichen Festpreis ohne versteckte Gebühren. 

Jetzt beraten lassen

 

Der AI Act der EU: Überblick und Bedeutung 

Der Einsatz von KI und die damit einhergehenden Risiken sind zwangsläufig Teil von Politik und Gesetzgebung. Nicht nur im Koalitionsvertrag der Ampelregierung, sondern beispielsweise auch in der Digitalstrategie der Europäischen Union (EU) gibt es erste Ansätze für KI-Rechte. 

Neben dem geplanten internationalen KI-Abkommen soll auf EU-Ebene eine weitere wichtige Säule für die Digitalstrategie erstellt werden: Der AI Act der EU. Im Dezember 2023 einigte sich die Europäische Union auf das Gesetz zur Regulierung von künstlicher Intelligenz. Das EU-Parlament bezeichnet den Artificial Intelligence Act (AI Act) als weltweit erstes KI Gesetz

 

tip
Deutsche Politik und KI

Der Koalitionsvertrag der Ampel setzt in verschiedenen Bereichen auf die Nutzung und Förderung der KI, wobei es Ziel ist, die Technologie zugunsten der Menschen einzusetzen. Die Ampelregierung sieht KI als Schlüsseltechnologie, da sie Marktpotenzial für viele Wirtschaftszweige aufweist. Die Ampelregierung unterstützt den AI Act. 

 

Was ist der AI Act der EU? 

Der Artificial Intelligence Art (AI Act) ist ein Gesetzesentwurf der EU-Kommission für eine Produktsicherheitsverordnung. Ziel ist es, europäische Verbraucher vor Grundrechtsverletzungen zu schützen, die auf eine unangemessene Nutzung von künstlicher Intelligenz zurückzuführen sind. 

Der AI Act wird als wichtiger Fortschritt in der Technologiepolitik gesehen. Die neue KI-Verordnung ist darauf ausgerichtet, die Entwicklung und den Einsatz von Systemen mit KI in der EU zu regeln. Damit soll die Sicherheit und die Einhaltung der Grundrechte der Bürger gewahrt werden. Ziel ist es, bessere Bedingungen für die Nutzung und Entwicklung dieser Technologie zu schaffen. 

Außerdem beabsichtigt die EU, das Vertrauen der Menschen in künstliche Intelligenz und ihre Systeme zu stärken. In ihrer Strategie wollen sie sich daher auf die Werte der EU stützen, um nicht nur die Akzeptanz KI-basierter Lösungen bei den Bürgern zu erhöhen, sondern auch um Unternehmen zur Verbreitung und Weiterentwicklung von KI-Systemen anzuspornen. 

Zentrale politische Ziele in der KI Gesetzgebung durch die EU sind: 

  1. EU als Standort für erfolgreiche KI etablieren 
  2. Sicherstellung, dass KI und ihre Technologien den Menschen dienen
  3. In hochwirksamen Sektoren Aufbau einer strategischen Führungsrolle 
  4. Günstige Voraussetzungen für die Entwicklung und Verbreitung von KI schaffen 

Zudem plant die EU beim Recht für künstliche Intelligenz: 

  1. Aus den Programmen “Digitales Europa” und “Horizont Europa” jährlich eine Milliarde Euro in KI zu investieren 
  2. In diesem Jahrzehnt 20 Milliarden Euro pro Jahr als KI-Investitionen zu mobilisieren 
  3. 25 % aller Industrie- und Haushaltsroboter in Europa zu produzieren 

Was regelt der AI Act der EU im Detail? 

Die Europäische Union will sicherstellen, dass die KI-Systeme, die zum Einsatz kommen, nachvollziehbar, sicher, transparent, nicht-diskriminierend und umweltfreundlich sind

Erster Ansatzpunkt ist daher, eine einheitliche und technologieneutrale Definition von KI festzulegen, die auf Systeme angewandt werden kann. Die EU-Kommission möchte eine vertrauenswürdige Technologie gewährleisten. Die in der EU verwendeten KI-Systeme sollen ethisch, unparteiisch und unter menschlicher Kontrolle entwickelt und angewendet werden. 

Um das zu erreichen, plant die EU mit der KI Gesetzgebung verschiedene Maßnahmen, zum Beispiel: 

  1. Netze von KI-Exzellenzzentren für einen breiteren Wissensaustausch 
  2. Versuchseinrichtungen, um moderne Technologien unter realen Bedingungen zu testen
  3. Digitale Innovationszentren bzw. zentrale Anlaufstellen für Zugang zu Fachwissen und Experimenten
  4. Zentrale KI-Plattform als europäisches Instrument für KI-Ressourcen, die von Industrie und öffentlichem Sektor genutzt werden können 
  5. Öffentlich-private Partnerschaften für KI und Robotik, um eine gemeinsame strategische Forschungs- und Innovationsagenda in Europa zu fördern 

tip
Förderung der KI durch die EU

Die EU fördert bereits verschiedene KI-Projekte, die sich mit Lösungen für gesellschaftliche Bereiche beschäftigen. Im Gesundheitsbereich half das CDAC-Projekt beispielsweise bei der Entwicklung innovativer Technologien, um Schlaganfallpatienten zu behandeln. Mit dem Antares Projekt konnten intelligente Sensoren entwickelt werden, die Landwirten dabei helfen, ohne negative Auswirkungen auf Mensch und Umwelt mehr Lebensmittel zu produzieren. 

 

Mit dem AI Act der EU werden zudem verschiedene Maßnahmen zur gesetzlichen Regulierung von künstlicher Intelligenz vorgesehen. Beispielsweise sieht die Verordnung verschiedene Transparenzpflichten für KI-Systeme (z. B. Chatbots) vor. Der Verordnung zufolge bestehen abhängig vom Risiko der jeweiligen KI weitere strenge Anforderungen an das System und: 

  1. das Risikomanagement 
  2. die Daten-Governance
  3. die Überwachung
  4. die Cyber Security
  5. die Transparenz 

Besonders relevant sind die Risikostufen der künstlichen Intelligenz. Je nach Bereich, in dem KI-System genutzt werden, sollen sie nach dem Risiko, welches sie für Nutzer darstellen, eingestuft und analysiert werden. Je höher die Risikostufe, desto mehr Regulierungen finden statt. Das Recht für die künstliche Intelligenz richtet sich also nach dem potenziellen Risiko von KI. 

Folgende Risikostufen sind mit der KI Gesetzgebung vorgesehen: 

  1. Allgemeine und generative KI
    Generative künstliche Intelligenz, z. B. ChatGPT, werden dazu verpflichtet, Transparenzanforderungen zu erfüllen. Die Tools sollen so gestaltet werden, dass sie keine illegalen Inhalte erzeugen. Außerdem soll offengelegt werden, wann Inhalte durch eine KI generiert wurden, z. B. bei Blogartikeln. Zudem ist vorgesehen, dass offengelegt wird, welche (urheberrechtlich geschützten) Daten zum Training der KI genutzt wurden. 
  1. Begrenztes Risiko
    Es sollen minimale Transparenzforderungen erfüllt werden, damit Nutzer entscheiden können, ob sie dieses KI-System nutzen möchten. Nutzern soll bewusst sein, dass sie mit einer künstlichen Intelligenz interagieren, egal, welche Art von Inhalte die KI erzeugt. 

  2. Hochrisiko-KI-Systeme
    Als hochriskant gelten die KI-Systeme, die für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen ein hohes Risiko darstellen. Das umfasst einerseits Systeme in Produkten, die unter die Produktsicherheitsvorschriften der EU fallen, zum Beispiel Fahrzeuge oder Luftfahrt. Weiterhin umfasst sind KI-Systeme bestimmter Bereiche, die in einer EU-Datenbank registriert werden müssen, z. B. Verwaltung von Arbeitnehmern, Strafverfolgung, Verwaltung von Grenzkontrollen oder Unterstützung bei der Anwendung von Gesetzen. 

  3. Unannehmbares Risiko
    Künstliche Intelligenzen gelten hier als Bedrohung für den Menschen, sodass diese KI-Systeme verboten werden. Das umfasst kognitive Verhaltensmanipulation, soziales Scoring (Klassifizierung von Menschen auf Grundlage verschiedener Parameter), biometrische Identifizierung und Echtzeit-Fernidentifizierungssysteme. Ausnahmen gelten nur für Strafverfolgungszwecke, z. B. die Gesichtserkennung. Für eine nachträgliche biometrische Fernidentifizierung sind gerichtliche Genehmigungen notwendig. 

Grundsätzlich gilt aber, dass eindeutige Bedrohungen für Bürger der EU im KI-Recht verboten sind. 

Um Innovationen nicht zu blockieren und trotzdem eine vertrauensvolle Nutzung von KI-Systemen gewährleisten zu können, setzt sich die Bundesregierung bei der KI Gesetzgebung für praxistaugliche Regeln ein. Ihrer Meinung nach brauchen insbesondere kleine Unternehmen und Start-Ups eine gute Balance, da eine übermäßige Regulierung Wettbewerbsnachteile nach sich ziehen könne. 

Außerdem wird mit dem AI Act der EU festgelegt, dass künstliche Intelligenzen von Menschen und nicht von weiteren Automatisierungen überwacht werden sollen.

Wer wird den AI Act durchsetzen?  

Auf EU-Ebene wird das Amt für künstliche Intelligenz innerhalb der Europäischen Kommission eine neue Behörde sein. Sie wird die Umsetzung des Gesetzes innerhalb aller EU-Mitgliedstaaten koordinieren. Zusätzlich bilden Interessenvertreter aus Wirtschaft und Zivilgesellschaft einen KI-Ausschuss. Dieser soll sicherstellen, dass während des Umsetzungsprozesses ein breites Spektrum an Meinungen vertreten ist. 

Risiken erkennen und Leitlinien bereitstellen, damit die Maßnahmen zur Durchsetzung den neuesten wissenschaftlichen Erkenntnissen entsprechen, soll ein Beratungsforum aus unabhängigen Experten. Zusätzlich sollen die EU-Mitgliedstaaten zuständige nationale Behörden einrichten oder zumindest festlegen, wer für die Durchsetzung der KI Gesetzgebung verantwortlich ist. 

justizia-ai-act

Wen betrifft der AI Act? 

Der AI Act betrifft insbesondere Anbieter und Nutzer von künstlicher Intelligenz. Ein Anbieter ist eine Person oder Einrichtung, die ein KI-System entwickelt und in Verkehr bringt. Betroffen sind dabei die Anbieter, die KI-Anwendungen auf dem europäischen Markt zur Verfügung stellen

Für Anbieter von KI-Systemen mit hohem Risiko gelten im KI Recht neue Vorschriften. Wenn sie ein System mit hohem Risiko entwickeln, muss es zunächst einer Konformitätsbewertung unterzogen werden und dabei verschiedenen KI-Anforderungen genügen. Anschließend müssen eigenständige KI-Systeme in einer EU-Datenbank registriert werden, um eine Konformitätserklärung und eine CE-Kennzeichnung zu erhalten. Erst danach kann das System zur Nutzung bereitgestellt werden. 

Aber Anbieter sind laut künstlichem Intelligenz Recht dazu verpflichtet, ein System zur Überwachung der KI einzurichten. Das veröffentlichte KI-System wird durch die KI Gesetzgebung der Markt durch Behörden überwacht, während Nutzer das System kontrollieren. Anbieter und Nutzer werden außerdem dazu angehalten, Fehlfunktionen oder Vorfälle zu melden. 

Grundsätzlich ausgenommen vom AI Act sind KI-Systeme, die ausschließlich zu verteidigungspolitischen oder militärischen Zwecken dienen oder im Forschungsbereich zum Einsatz kommen. 

Wie werden Verstöße bestraft?  

Anbieter von KI-Systemen können gesetzlich dazu gezwungen werden, ihre KI-Systeme vom Markt zu nehmen, wenn sie gegen die Grundsätze der Verordnung verstoßen. Außerdem werden erhebliche Geldstrafen drohen. 

Die Strafen richten sich dabei nach der Schwere des Verstoßes: 

  1. bis zu 7,5 Mio. Euro oder 1,5 % des Jahresumsatzes bei fehlerhaften Meldungen 
  2. bis zu 15 Mio. Euro oder 3 % des Jahresumsatzes bei geringfügigen Verstößen
  3. bis zu 35 Mio. Euro oder 7 % des Jahresumsatzes (je nachdem, welcher Betrag höher ist) bei Verstößen in Bezug auf verbotene KI-Systeme

Für kleine und mittelständische Unternehmen sowie Start-Ups sieht das KI Recht gemäßigtere Geldbußen vor. 

Was bedeutet der AI Act für Unternehmen? 

Der AI Act der EU legt Unternehmen insbesondere Pflichten im Falle von Vorfällen auf. Diese gelten hinsichtlich der Überwachung und Information von Vorfällen. 

Die digitalen Innovationszentren und zentralen Anlaufstellen sollen Unternehmen die Möglichkeit geben, künstliche Intelligenzen bzw. KI-Systeme zu testen, bevor sie Investitionen tätigen. 

Wann tritt der AI Act in Kraft?

Der AI Act der EU soll im ersten Schritt schon 2024 zur Anwendung kommen

Das Gesetz wurde bereits beschlossen und wird nach seiner Verkündung im Amtsblatt der EU somit 2024 in Teilen in Kraft treten. Zum Einsatz kommen die restlichen Vorschriften des Gesetzes dann zwei Jahre später. 

Zu den Bestimmungen, die bereits früher umgesetzt werden, gehören zum Beispiel die Verbote von KI-Systemen mit unannehmbarem Risiko. Die EU-Kommission hat für alle anderen Regelungen den KI-Pakt ins Leben gerufen, um zu erreichen, dass sich Anbieter, Nutzer und Unternehmen bereits vor 2026 mit den kommenden Regulierungen beschäftigen. 

hb-iconset-paragraphWillst Du mehr über das weltweit erste KI-Gesetz wissen?
In unserem Ratgeber KI-Verordnung findest du mehr Informationen.

 

hb-iconset-umschlag
News Für Online-Händler direkt in Postfach

Nichts mehr verpassen! Mit unseren Newslettern bist du immer am Puls der Zeit. Erhalte professionell recherchierte Informationen aus dem E-Commerce.

Newsletter abonnieren

 

Datenschutz und KI: Die DSGVO im Kontext künstlicher Intelligenz 

Mit der Datenschutzgrundverordnung (DSGVO) werden personenbezogene Daten von Bürgern noch besser geschützt, was insbesondere Online-Händler vor große Herausforderungen gestellt hat. Denn die Verordnung stellt hohe Anforderungen an Transparenz, Minimierung von Datenverarbeitung und den Datenschutz. Auch auf künstliche Intelligenz und ihre Anwendungen hat die DSGVO Auswirkungen. 

Wie beeinflusst die DSGVO den Einsatz von KI? 

Die DSGVO beeinflusst die Verarbeitung personenbezogener Daten durch KI-Systeme. Im Zuge der Verordnung, die Grundsätze wie Datenminimierung und Zweckbindung in den Fokus stellt, haben Betroffene außerdem das Recht auf Erklärung automatisierter Entscheidungen. 

Um den Datenschutz zu gewährleisten, ist es notwendig, von Beginn des KI-Projektes an Datenschutzmaßnahmen zu implementieren. Die Anwendung der künstlichen Intelligenz muss im KI Recht außerdem so gestaltet sein, dass sie: 

  1. eine DSGVO-konforme Einwilligung zur Datenverarbeitung einholen 
  2. Datenverarbeitung transparent durchführen
  3. Möglichkeit zur Korrektur oder Löschung der Daten bieten 

Trotz des Einsatzes von künstlicher Intelligenz müssen Unternehmer und Online-Händler sicherstellen, dass die Datenverarbeitung rechtmäßig und transparent abläuft, um so die Vorgaben der DSGVO einhalten zu können. 

hb-iconset-paragraphDu willst keine Probleme mit der DSGVO riskieren?
In unserem Ratgeber ChatGPT und Datenschutz findest Du noch mehr Informationen zum Thema.

 

Datenschutz-Paket Pro

  • Externer Datenschutzbeauftragter
  • Anwaltliches Beratungsgespräch
  • Rechtssichere Datenschutzdokumente
  • Persönliche Datenschutzschulung
Mit einem Experten sprechen Jetzt buchen
datenschutz-paket-pro

 

KI im Arbeitsrecht: Neue Arbeitswelt, neue Gesetze? 

Der vermehrte Einsatz von künstlicher Intelligenz im E-Commerce wird auch die Arbeitswelt zunehmend verändern. Neue Arbeitsplätze werden geschaffen, während andere vollständig wegfallen können. 

Insbesondere in Personalabteilungen kann künstliche Intelligenz aber wertvolle Unterstützung sein, indem sie: 

  1. Stellenbeschreibungen erstellt 
  2. den Bewerberpool nach Relevanz filtert 
  3. Fragen zum Arbeitsverhältnis beantwortet 

Auch Arbeitgeber setzen mittlerweile auf künstliche Intelligenz, um Entscheidungen, die Auswirkungen auf Mitarbeiter haben, besser treffen zu können. Üblich ist das beispielsweise schon bei der automatisierten Zuordnung von Arbeitsanweisungen. Das verdeutlicht aber, dass KI keine eigenständigen Entscheidungen trifft, sondern nur ein Werkzeug des Arbeitgebers sein kann, was rechtliche Bedenken ausschließt. 

Beim künstliche Intelligenz Recht sind derzeit keine expliziten Gesetze bezogen auf die Arbeitswelt vorgesehen. Die EU wird den AI Act als neue KI Gesetzgebung aller Voraussicht nach immer weiter verändern und optimieren müssen, um auch den sich verändernden Bedingungen des Arbeitsmarktes gerecht zu werden. 

Arbeitsrecht-Paket Light

Festpreise schon ab 49,90 Euro* Euro/Monat
  • Große Auswahl an Vorlagen, Checklisten und Anleitungen
  • Dokumente immer auf dem aktuellen rechtlichen Stand, z.B. Arbeitsverträge, Arbeitszeugnisse
  • Kompetente Beratung zu arbeitsrechtlichen Dokumenten
  • Individuelle Beratung zu arbeitsrechtlichen Fragen
  • Anwaltliches Erstgespräch zu deinen individuellen Fragen
Jetzt buchen Rückruftermin vereinbaren
Arbeitsrecht-Paket Light

Arbeitsrecht-Paket Pro

Festpreise schon ab 59,90 Euro* Euro/Monat (nach Mitarbeiterzahl)
  • alle Vorteile des Arbeitsrecht-Pakets Light
  • Außergerichtliche Vertretung bei arbeitsrechtlichen Streitigkeiten
  • Schriftliche und telefonische Kommunikation mit dem Gegner/Rechtsanwalt
  • Außergerichtliche Vergleichs- und Kündigungsverhandlungen
  • Vertretung gegenüber dem Betriebsrat
Jetzt buchen Rückruftermin vereinbaren
Arbeitsrecht-Paket Pro

 

Ethik in der KI: Grenzen und Regulierungen 

Da KI-Systeme auch Entscheidungen treffen können, die Auswirkungen auf das Leben von Menschen haben, wird die Frage nach der Ethik bei künstlicher Intelligenz immer relevanter. Kann eine künstliche Intelligenz moralisch handeln oder braucht es ethische Grundsätze im Algorithmus? 

Was hat künstliche Intelligenz mit Ethik zu tun? 

Bei der Ethik handelt es sich um die Lehre von moralischen Werten und Pflichten des Menschen. Ethik beschäftigt sich hauptsächlich mit der Frage, welche Motive hinter Handlungen stecken sollten und welches daraus resultierende Verhalten richtig oder falsch ist. Bei ethischen Entscheidungen sind Absichten, Motive und das Ergebnis relevant. 

Ist eine KI moralisch bzw. trifft sie ethische Entscheidungen? Unter Experten ist diese Frage umstritten. Eine künstliche Intelligenz kann zwar so programmiert werden, dass sie auch den Menschen möglichst viel Nutzen bringt und somit nach einem ethischen Grundsatz handelt, aber diese Handlungen basieren auf Algorithmen und nicht auf moralischen Werten der KI

Was ist ein Beispiel für ein ethisches Problem bezüglich der Verwendung von KI? 

Ein bekanntes ethisches Dilemma ist das sogenannte Trolley-Problem. An einem Bahnsteig rollt ein Zug auf fünf Menschen zu, die ihn nicht hören können. Auf einem anderen Gleis steht dagegen nur eine Person und mit einem Hebel könnte man den Zug umlenken. Die meisten Menschen entscheiden sich dazu, den Hebel umzulegen, um so viele Menschen wie möglich retten zu können. Würdest du genauso entscheiden?

In einem Experiment haben Forscher anhand dieser und ähnlicher ethischer Probleme versucht herauszufinden, ob KI ethische oder ethisch begründbare Entscheidungen treffen kann. Dabei stellte sich heraus, dass die künstliche Intelligenz oft anders entscheiden würde. 

Für Anbieter von KI-Systemen ist es daher besonders wichtig, den Algorithmus der KI so zu gestalten, dass eine künstliche Intelligenz Entscheidungen treffen würde, die Menschen als ethisch vertretbar einstufen. 

Gibt es ethische Richtlinien für KI-Entwicklungen in der EU? 

Die EU-Kommission hat eine unabhängige Expertengruppe für KI ins Leben gerufen, die ethische Leitlinien für die Entwicklung von KI verfasst hat. Die Experten unterstützen beispielsweise eine risikobasierte KI-Governance sowie Möglichkeiten für sogenannte regulatorische Sandkästen. Diese sollen trotz aller Vorschriften noch Innovation fördern und die Gesellschaft vor Nachteilen schützen. Die Leitlinien sind Teil der europäischen Strategie zur künstlichen Intelligenz. 

Haftungsfragen bei Fehlern Künstlicher Intelligenz 

Im Zuge der KI-Verordnungen wurde durch die EU-Kommission zudem die AI Liability Directive, also eine Richtlinie über KI-Haftung, vorgeschlagen. In dieser Direktive sind Kompensationen vorgesehen für die Schadensfälle, die durch künstliche Intelligenz verursacht wurden. Ziel ist es, eine schadensvermeidende KI zu fördern

Aber beim Thema Haftung in der KI Gesetzgebung ist interessant, wie die Handlungen einer KI rechtlich eingeordnet werden. Denn KIs können Entscheidungen treffen, die Auswirkungen auf Menschen und die Umwelt  haben. Wenn die KI nun einen Schaden verursacht, kann sie dann als nicht natürliche Person verantwortlich und haftbar sein? 

Der Faktor der Vorhersagbarkeit von Entscheidungen wird mit ins KI Recht einbezogen. Wenn die Anwendung so programmiert ist, dass die KI eigenständige Entscheidungen trifft, kann die Verantwortung nur schwierig einer bestimmten Person zugeordnet werden. 

Das bedeutet: In den meisten Fällen ist diejenige Person bzw. sind diejenigen Personen haftbar, welche die KI entwickelt, bereitgestellt und eingesetzt haben. Dieser Fall tritt insbesondere dann ein, wenn nachgewiesen werden kann, dass wesentliche Sicherheitsvorkehrungen oder Mechanismen zur Überwachung nicht eingesetzt wurden. 

Denn: Die Verantwortung obliegt dem, der im klassischen Sinne handlungsfähig ist und dementsprechend Entscheidungen treffen kann. In der Verantwortung sind damit automatisch die verschiedenen Instanzen, also Entwickler, Hersteller, sowie gesellschaftliche und politische Akteure. 

 

hb-iconset-rechtsberatung

Du hast rechtliche Fragen? Unsere Rechtsanwälte antworten!

Im E-Commerce-Alltag stehst du beim Urheberrecht auch ohne die Nutzung von ChatGPT vor einigen Herausforderungen. Woher sind beispielsweise die Bilder in deinem Online-Shop? Willst du in irgendeiner Form Musik einbinden? Brauchst du Lizenzen, musst du Quellen angeben und wenn ja, wie genau macht man das? Du hast viele Fragen, auf die du in unserer Rechtsberatung Direkt Antworten erhältst. Mit einem direkten Draht zu einem unserer erfahrenen Anwälte bringt dich rechtlich in einen sicheren Hafen.

 

Künstliche Intelligenz mit ihrer verschiedenen Anwendung kann bereits jetzt viel leisten, aber die Trends bleiben dynamisch und vielversprechend. Bei den aktuellen Entwicklungen gehen Experten davon aus, dass zukünftige Fortschritte noch leistungsfähigere und intuitivere Systeme hervorbringen. 

Welche Rolle wird künstliche Intelligenz in der Zukunft spielen? 

Viele gehen davon aus, dass der Zweig der Informatik, der sich mit der Entwicklung intelligenter Computersysteme befasst, in Zukunft starken Zuwachs erhalten wird. Künstliche Intelligenzen werden Experten zufolge also stets weiter ausgefeilt und eine immer wichtigere Rolle in unserem Leben spielen. 

Experten gehen davon aus, dass künstliche Intelligenz auch unseren Alltag immer stärker bestimmen wird. Sie könnte irgendwann dabei helfen, den Verkehrsfluss zu optimieren und Staus zu reduzieren, die Energieeffizienz zu verbessern oder auch Kindern beim Lernen zu helfen. Außerdem halten es Experten für wahrscheinlich, dass KI mehr Arbeitsplätze schaffen als beseitigen wird. 

Was sind die größten rechtlichen Herausforderungen für KI in den nächsten Jahren? 

Mit der (Weiter)Entwicklung von KI werden auch in Zukunft Themen wie Datenschutz, Urheberrecht und Haftung im Mittelpunkt stehen

Hier ist es Aufgabe der Gesetzgebung, mit den Entwicklungen Schritt zu halten und das KI Recht stetig an die Veränderungen anzupassen. Damit wird nicht nur weiterhin die Sicherheit der Bürger, sondern auch die Innovationsfähigkeit von Unternehmen gewährleistet. Um beim Einsatz von KI auch in Zukunft Rechtssicherheit gewährleisten zu können, wird ein kontinuierlicher Dialog zwischen Juristen, Ethikern, Technologieexperten und Investoren empfohlen. 


 

Fazit zum KI-Recht

Künstliche Intelligenz ist gar nicht so neu, wie viele denken, sondern hilft uns in unserem Arbeitsleben und Alltag bereits seit einer Weile. Allerdings wird sie stetig weiterentwickelt, immer innovativer und smarter, was viele rechtliche Fragen aufwirft. Die Europäische Union versucht dieser Situation durch den AI Act Herr zu werden, ohne zu viele Reglementierungen vorzunehmen und damit die Innovation auszubremsen. 

Der AI Act beschäftigt sich dabei hauptsächlich mit den direkten Auswirkungen von KI und nimmt daher die Unterteilung in Risikostufen vor. Allerdings wird künstliche Intelligenz in den verschiedensten Bereichen ganz unterschiedlich eingesetzt: Für selbstfahrende Autos, in der Diagnostik, bei Lernsystemen und nicht zuletzt in unseren Smartphones. Mit der Weiterentwicklung von KI braucht es auch eine Weiterentwicklung der Rechtslage, sodass wir auch zukünftig mit weiteren Anpassungen rechnen können. 

fazit-ki-recht

FAQ zu KI-Rechten 

Was ist KI Governance? 

Bei KI Governance handelt es sich um die Rahmenbedingungen, Richtlinien oder Praktiken, mit denen sichergestellt werden soll, dass sich KI ethisch vertretbar und verantwortungsvoll entwickelt und eingesetzt wird. Die Entwicklung und Anwendung künstlicher Intelligenz soll so gesteuert werden, dass Risiken minimiert sowie positive Auswirkungen maximiert werden können und sie gesellschaftlichen Interessen dient. KI Governance ist unerlässlich, damit bei KI-Technologien, die unser tägliches Leben immer mehr beeinflussen, Missbrauch verhindert werden kann. 

Wie gehen andere Länder mit KI-Recht um?

Der AI Act der EU ist das erste KI Gesetz seiner Art. Obwohl es ansonsten global noch keine einheitlichen Standards gibt, versuchen sich auch andere Länder an der Regulierung von KI. Obwohl in den USA viele KI-Firmen ansässig sind, passiert dort hinsichtlich KI-Recht momentan sehr wenig. China, wo öffentliche Äußerungen und Unternehmen ohnehin schon streng kontrolliert werden, versucht eine Balance zwischen Innovation und Zensur zu finden. 

Welche rechtlichen Herausforderungen gibt es bei KI in der Medizin? 

Insbesondere in der Medizin birgt künstliche Intelligenz immense Chancen. Vor allem in der Medizintechnik und der bildgebenden Diagnostik kommt KI derzeit zum Einsatz. Die rechtlichen Herausforderungen hierbei sind vor allem: 

  1. regulatorische Voraussetzungen zur Leistungserbringung 
  2. Abrechnungsmöglichkeiten KI-basierter Softwareapplikationen
  3. Aufklärung des Patienten 

Laut Verordnung ist beispielsweise eine KI-basierte App ein Medizinprodukt, welches nicht Leistungskatalog der gesetzlichen Krankenversicherung (GKV) ist. Eine Nutzung solcher Möglichkeiten ist momentan als Untersuchungsmethode außerdem noch nicht anerkannt. Auch die Aufklärung des Patienten gestaltet sich dabei aufgrund der verschiedenen Aufklärungsoptionen als schwierig. Obwohl KI gerade im Gesundheitswesen ganzheitliche Verbesserungen herbeiführen kann, sind noch viele Aspekte zu überarbeiten. 

Wie kann man sich über aktuelle Entwicklungen im KI-Recht informieren? 

Melde dich am besten zu unserem Newsletter an, um Gesetzesänderungen oder rechtliche Neuheiten nicht zu verpassen. 

 

Das könnte dich auch interessieren

  1. ChatGPT Urheberrecht » Kann eine KI Urheber sein? 
  2. KI im E-Commerce » Mehr Erfolg mit künstlicher Intelligenz 
  3. Dein KI-Assistent: Brain Assistant 
  4. Mensch vs. Maschine – Wer schreibt die besseren Texte? 
  5. Content mit ChatGPT schreiben (E-Learning Kurs) 
  6. KI Content Marketing Academy – Besserer Content in kürzerer Zeit 
  7. Masterin Midjourney – Neue Möglichkeiten im E-Commerce (E-Learning Kurs)
  8. Künstliche Intelligenz im E-Commerce » So setzt du sie ein 

Kommentare
Lass uns gern einen Kommentar da
hb-iconset-hb-logo
Alles für Online-Händler

Du willst im E-Commerce Erfolge feiern? Mit unseren Lösungen unterstützen wir dich als Online-Händler bei den täglichen Herausforderungen des E-Commerce.

E-Commerce-Lösungen entdecken
hb-iconset-rechtsberatung
Rechtsberatung vom Profi

Du hast rechtliche Fragen? Wir beantworten sie. Unsere auf E-Commerce-Recht spezialisierten Anwälte stehen dir bei rechtlichen Fragen gern zur Seite.

Zur Rechtsberatung
hb-iconset-video-audio-1
Mehr Tipps gibt es auf YouTube

Der Händlerbund YouTube-Kanal hält noch viele weitere Informationen und Tipps bereit, um das Thema Online-Handel erfolgreich und rechtssicher zu gestalten.

Praxistipps entdecken