A-BODY

Ein Hotel in Bayern setzt seit sechs Monaten einen humanoiden Serviceroboter ein. Gäste lieben ihn, das Personal ist entlastet, die Betriebskosten sind gesunken. Was der Betreiber nicht weiss: Der Roboter sendet im Auslieferungszustand alle fünf Minuten Daten an Server ausserhalb der EU. Das ist kein Einzelfall. Und ab 2026 ist es kein Kavaliersdelikt mehr.

Was ist der EU AI Act?

Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Er wurde am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht und trat am 1. August 2024 in Kraft. Die Umsetzung erfolgt stufenweise: Verbotene KI-Praktiken gelten seit Februar 2025. Die Regeln für Hochrisiko-KI-Systeme greifen vollständig ab August 2026.

Warum humanoide Roboter als Hochrisiko-KI gelten

Anhang III des EU AI Acts listet die Anwendungsbereiche auf, die automatisch als Hochrisiko eingestuft werden. Dazu gehören KI-Systeme, die in direktem Kontakt mit Menschen eingesetzt werden und deren Gesundheit, Sicherheit oder Grundrechte beeinflussen können. Humanoide Roboter in Pflege, Gastronomie, Reinigung und Handwerk erfüllen diese Kriterien: Sie bewegen sich autonom in von Menschen genutzten Räumen, treffen selbständige Entscheidungen und verarbeiten personenbezogene Daten wie Gesichtsbilder und Bewegungsprofile.

Für Hochrisiko-KI-Systeme verlangt der AI Act unter anderem eine Konformitätsbewertung vor dem Inverkehrbringen, lückenlose technische Dokumentation, ein Risikomanagementsystem, ein Datenverwaltungsprotokoll sowie die Registrierung in einer EU-Datenbank. Wer einen humanoiden Roboter betreibt, der von einem Drittanbieter ohne CE-Zertifizierung geliefert wird, trägt das Compliance-Risiko selbst. Was der Fraunhofer-Benchmark dazu konkret zeigt, lesen Sie in unserem Beitrag Fraunhofer IPA testet erstmals humanoide Roboter: Was der neue Benchmark für den Mittelstand bedeutet.

Die EU-Maschinenverordnung 2027: Händler werden mitverantwortlich

Parallel zum AI Act tritt am 20. Januar 2027 die EU-Maschinenverordnung (EU) 2023/1230 in Kraft. Sie ersetzt die bisherige Maschinenrichtlinie und enthält eine wesentliche Neuerung: Händler und Integratoren werden erstmals direkt mitverantwortlich für die Sicherheit der von ihnen vertriebenen Produkte. Wer einen Roboter ohne ausreichende Sicherheitsprüfung und Dokumentation an einen Betrieb liefert, haftet bei Schäden mit. Das betrifft insbesondere Importeure chinesischer Modelle, die ohne lokale Compliance-Begleitung verkauft werden.

Das konkrete Datenproblem: Chinesische Roboter im deutschen Betrieb

Der sogenannte UniPwn-Exploit (2024) legte offen, was Sicherheitsforschern schon länger bekannt war: Unitree-G1-Roboter ermöglichten im Auslieferungszustand Root-Zugang via Bluetooth und sendeten Telemetriedaten alle fünf Minuten zu Servern ausserhalb der EU. Für einen deutschen KMU-Betreiber, der einen solchen Roboter ohne Schutzmassnahmen in einem Pflegeheim oder Hotel einsetzt, entsteht daraus eine direkte DSGVO-Haftung. Verarbeitete Gesundheitsdaten oder biometrische Daten sind besonders schutzbedürftig und lösen bei unerlaubtem Datenabfluss empfindliche Bussgelder aus.

Die neue Produkthaftungsrichtlinie (EU) 2024/2853 bezieht erstmals Software und KI ausdrücklich in die Produkthaftung ein. Das bedeutet: Auch ein Softwarefehler, der zu einem Schaden führt, kann haftungsrechtlich relevant sein.

Was der EU AI Act für den Mittelstand konkret bedeutet

Betreiberpflichten ab August 2026: Wer ein Hochrisiko-KI-System betreibt, muss sicherstellen, dass es korrekt eingesetzt, beaufsichtigt und gewartet wird. Das erfordert geschultes Personal, schriftliche Betriebsanweisungen und ein Protokollierungssystem. Bei Incidents ist eine Meldepflicht gegenüber der zuständigen Marktüberwachungsbehörde vorgesehen.

Datenschutz-Folgenabschätzung: Wer einen humanoiden Roboter in einem Bereich mit personenbezogenen Daten einsetzt, muss gemäss DSGVO Artikel 35 eine Datenschutz-Folgenabschätzung (DSFA) durchführen. Das ist keine Empfehlung, sondern Pflicht.

CE-Zertifizierung prüfen: EU-Hersteller wie PAL Robotics (TIAGo) und NEURA Robotics liefern CE-zertifizierte Roboter, die den europäischen Anforderungen bereits entsprechen. Bei chinesischen Modellen fehlt die CE-Zertifizierung für Hochrisiko-Anwendungen regelmässig. Einen Überblick über unser Hersteller-Portfolio mit allen CE-zertifizierten Modellen finden Sie auf der A-BODY Über-uns-Seite.

Wie der Einstieg trotzdem gelingt: RaaS als Compliance-sicherer Weg

Das RaaS-Modell (Robotics as a Service) ist für viele Betriebe der compliance-sicherste Einstieg: Der Anbieter übernimmt Wartung, Updates und technische Absicherung. Die Compliance-Verantwortung ist vertraglich klar geregelt. Wie das Modell funktioniert und was es kostet, erklärt unser Artikel Roboter mieten statt kaufen: Warum RaaS für den Mittelstand die bessere Wahl ist. Welche Entwicklung den Markt bis 2040 prägen wird, zeigt die VDMA-Studie „Humanoid Robotics 2040“.

5 Massnahmen, die Betriebe jetzt ergreifen sollten

1. Bestandsaufnahme der eingesetzten KI-Systeme. Welche Systeme laufen im Betrieb? Welche davon treffen autonome Entscheidungen oder verarbeiten personenbezogene Daten?

2. CE-Status und Herkunft klären. EU-zertifizierte Modelle sind für regulierte Branchen wie Pflege und Klinik erste Wahl. Bei chinesischen Modellen ist CyberShield-Nachrüstung und technische Netzwerkisolation Pflicht.

3. Datenschutz-Folgenabschätzung durchführen. Für jeden Roboter, der in Kontakt mit Personen kommt oder Kameradaten verarbeitet, ist eine DSFA nach DSGVO Artikel 35 notwendig.

4. Personal schulen und dokumentieren. Der EU AI Act verlangt nachweislich geschultes Personal für Hochrisiko-KI. Schulungsprotokolle müssen vorlegbar sein.

5. Compliance-Begleitung einplanen. Für Pflegeroboter gilt: Echte Praxisergebnisse aus deutschen Pilotprojekten zeigt unser Beitrag Roboter im Einsatz: Echte Ergebnisse aus Pflege, Hotel und Handwerk.

Häufige Fragen zum EU AI Act und humanoiden Robotern

---

Sie möchten wissen, ob Ihr geplanter oder bereits eingesetzter Roboter compliant ist? A-BODY begleitet mittelständische Betriebe von der Auswahl bis zur Zertifizierung: a-body@a-robots.de