Sycor Group LogoSycor Group Logo
Sycor Group LogoSycor Group Logo

Die neue KI-Verordnung 
‘EU AI Act’ 

18. Juni 2024

Wie wirkt sich diese auf digitalisierte und KI-unterstützte Unternehmensprozesse aus

Die KI-Verordnung der Europäischen Union (EU) hat erhebliche Auswirkungen auf Unternehmen, die KI-Systeme entwickeln, vertreiben oder nutzen. Hier sind einige Schlüsselbereiche, die von der Verordnung betroffen sind:

  1. Risikobasierter Ansatz:
    Die Verordnung kategorisiert KI-Anwendungen nach ihrem Risikopotenzial. Hochrisikosysteme, z. B. im Gesundheitswesen oder bei kritischer Infrastruktur, unterliegen strengen Compliance- und Risikomanagementpflichten
  2. Transparenz und Kennzeichnung:
    Künstlich erzeugte oder bearbeitete Inhalte müssen eindeutig als solche gekennzeichnet werden. Unternehmen müssen transparent über den Einsatz von KI informieren.
  3. Verbot bestimmter Anwendungen:
    KI-Systeme, die das Verhalten von Personen manipulieren können, sind verboten.
    Auch “Social Scoring” mit KI-basierten Punktebewertungen ist untersagt.
  4. Innovation und Sicherheit:
    Die Verordnung schafft einen rechtssicheren Rahmen für KI-Experimente.
    Unternehmen müssen Vertrauen und Akzeptanz in KI fördern, während sie die Grundrechte schützen.

KI in der Medizintechnik

Die neue KI-Verordnung der EU hat weitreichende Auswirkungen auf KI-Systeme im gesamten EU-Raum, insbesondere auch im Medizintechnik-Sektor.

Für die Entwicklung KI-basierten Medizinprodukten gelten sowohl MDR (Medical Device Regulation) und auch EU AI Act. Die MDR legt spezifische Anforderungen an die Sicherheit und Leistung von Medizinprodukten fest. Der EU AI Act führt zusätzliche Anforderungen spezifisch für KI-basierte Produkte ein, insbesondere in Bezug auf Transparenz, Überwachung und Zertifizierung von KI-Systemen. Beide Regularien sind somit für KI-basierte Medizinprodukte verpflichtend.

Je nach Risikoprofil eines KI-Systems müssen Anbieter künftig bestimmte Auflagen und eine Reihe von Kriterien (u.a. Systemgenauigkeit, Transparenz, Robustheit, Cybersecurity und menschliche Aufsicht) erfüllen.

Die KI-Verordnung ‘EU AI Act’ ermöglicht der Medizintechnik qualitativ hochwertige KI-Lösungen einzusetzen und das Vertrauen in KI zu stärken. Dies ist wiederum der Grundstein für KI-gestützte qualitativ hochwertige Gesundheitsanwendungen, die einen echten Mehrwert bieten. Diese Produkte können mit Hilfe von KI eingesetzt werden, unseren Gesundheitszustand zu überwachen, Diagnosen zu stellen, Krankheitsursachen zu erforschen, neue Therapien zu entwickeln und unseren Lebensstil positiv zu beeinflussen.

Als einer der ersten Microsoft AI Cloud Partner unterstützen wir unsere Kunden bei der Umsetzung der neue KI-Verordnung ‘EU AI Act’

Die KI-Verordnung bietet Chancen für Innovation und Sicherheit, erfordert jedoch eine sorgfältige Umsetzung. Als einer der ersten Microsoft AI Cloud Partner sind wir bereit, unsere Kunden auf diesem Weg zu begleiten.

  • Compliance-Management: Wir können Unternehmen bei der Einhaltung der Verordnung unterstützen, indem wir ihnen helfen, ihre KI-Systeme zu klassifizieren und die erforderlichen Maßnahmen zu ergreifen.
  • IT Security & Datenmanagement: Wir können bei der sicheren Verarbeitung und Speicherung von KI-Daten helfen, um die Anforderungen der Verordnung zu erfüllen.
  • KI-Tool Trainings:
    Wir schulen Ihre Mitarbeiter, die mit der Aufsicht über die KI-Systeme beauftragt sind
  • Prozessvalidierung: Wir unterstützen bei der Umsetzung geeigneter technischer und organisatorischer Maßnahmen, um sicherzustellen, dass die KI-Systeme entsprechend ihrer Gebrauchsanweisung verwendet werden
  • Dokumentation: Audit Trail für KI unterstützte Prozesse
    Sichere, automatische, zeitgestempelte Aufzeichnung von Änderungen im Verlauf der Prozesse (gemäß FDA) und das Führen von Systemprotokollen

Hintergrundinformationen: Die KI-Verordnung (EU AI Act) der Europäischen Union

Die KI-Verordnung der Europäischen Union (EU) ist das weltweit erste umfassende Regelwerk für Künstliche Intelligenz (KI). Sie wurde am 21. Mai 2024 vom Rat der 27 EU-Mitgliedstaaten verabschiedet. Die KI-Verordnung der EU zielt darauf ab, einen umfassenden rechtlichen Rahmen für den Einsatz von KI zu schaffen und Vertrauen in KI-Technologien zu fördern. Sie regelt die Zulässigkeit von KI-Systemen und KI-Modellen und wird voraussichtlich bis 2026 in Kraft treten.

Natalie Pflug

Marketing Manager
+49 551 490 2016

Kontaktformular

Unsere Partner

Alle Partner