AI-Act-Transparenz
Wie wir bei AdLuna mit dem EU AI Act umgehen — in voller Offenheit, weil Datenschutz und KI-Verantwortung für uns keine Gegensätze sind, sondern dieselbe Pflicht.
Unsere Haltung zum AI Act
Der EU AI Act (Verordnung 2024/1689) ist seit August 2024 in Kraft und tritt stufenweise in Anwendung. Er ist weltweit der erste umfassende Rechtsrahmen für KI-Systeme — und nach unserer festen Überzeugung richtig. Die Verordnung nimmt Hersteller und Betreiber in die Pflicht, nicht die Nutzer. Sie differenziert nach Risikoklassen. Sie verlangt Transparenz.
Wir betrachten die Einhaltung des AI Act nicht als Belastung, sondern als Mindestmaß. Über das, was der Gesetzgeber verlangt, gehen wir an mehreren Stellen hinaus — diese Seite dokumentiert das in den Details, die wir jetzt schon kennen.
Welche Risikoklasse haben AdLuna-Produkte?
Nach der Einordnung des AI Act (Art. 5–7) sind unsere aktuellen Produkte:
ALVA-TEXT (Diktat-Assistent)
Einordnung: KI-System mit begrenztem Risiko (Art. 50 AI Act).
Begründung: Sprach-zu-Text-Transkription ohne kritische Entscheidungsfunktion. Keine automatisierten Entscheidungen über Menschen (Bewerbung, Kreditvergabe, Strafverfolgung, etc.).
Transparenzpflicht: Nutzer werden jederzeit informiert, dass es sich um ein KI-System handelt (offensichtlich — das Produkt ist als KI-Werkzeug positioniert).
AdMed (Medizinische Dokumentation)
Einordnung: In Prüfung. Möglicherweise Hochrisiko-System nach Anhang III Nr. 5 AI Act, falls die Dokumentation direkt in klinische Entscheidungen einfließt.
Unsere Haltung: Wir behandeln AdMed vorsorglich nach den Anforderungen für Hochrisiko-Systeme. Unabhängig von der endgültigen rechtlichen Einordnung implementieren wir: Risikomanagement-System, Datenqualitätskontrolle, technische Dokumentation, Logging der Systemaktivitäten, Menschliche Aufsicht durch den behandelnden Arzt.
Das ist unser Beispiel für das Prinzip: Lieber strengere Maßstäbe anlegen als nötig, als später nachjustieren zu müssen.
Welche KI-Modelle setzen wir ein?
Transparenz beginnt bei den Modellen, die wir verwenden. Wir verwenden ausschließlich Open-Source- oder lizenzierte Modelle, deren Herkunft und Trainingsansätze öffentlich dokumentiert sind:
- Whisper (OpenAI, MIT-Lizenz) — für Sprach-zu-Text-Transkription, lokal ausgeführt
- Qwen2.5 Medical / Med42 (Apache-2.0 bzw. forschungsfreundlich) — für medizinische Dokumentationsstruktur in AdMed, lokal auf Kunden-Hardware
- Optional: OpenAI-GPT-Modelle via Cloud-API, nur auf expliziten Opt-in des Nutzers, niemals im Hintergrund
Wie gehen wir mit Trainingsdaten um?
Klare Antwort: Wir trainieren nicht auf Nutzerdaten. Punkt.
Die von uns verwendeten Modelle wurden von Dritten (OpenAI, Alibaba, etc.) trainiert. Wir selbst übernehmen diese Modelle in der dokumentierten Version und passen sie nicht mit Kundendaten an. Sollten wir in Zukunft modellspezifisches Fine-Tuning einsetzen, würden wir dafür ausschließlich synthetische, eigens lizenzierte oder explizit freigegebene Trainingsdaten verwenden — und das an dieser Stelle transparent dokumentieren.
Menschliche Aufsicht
Der AI Act verlangt für risikorelevante Anwendungen eine wirksame menschliche Aufsicht (Art. 14). Bei uns bedeutet das konkret:
- Alle KI-Ausgaben sind für den Nutzer sichtbar und überprüfbar, bevor sie wirksam werden
- Keine automatisierten Aktionen ohne Nutzerfreigabe (z.B. Auto-Paste in ALVA-TEXT kann jederzeit deaktiviert werden)
- In AdMed: Kein medizinisches Protokoll geht ohne ärztliche Freigabe in die Patientenakte
- Fehlerhafte Ausgaben können jederzeit korrigiert werden, ohne dass Systemzustände verloren gehen
Unsere Verpflichtungen als Betreiber
Nach Art. 26 und 27 AI Act haben wir als Anbieter folgende Verpflichtungen, die wir wie folgt umsetzen:
| Verpflichtung | Umsetzung |
|---|---|
| Risikomanagement-System | Interne Risikoanalyse pro Produkt, regelmäßige Aktualisierung |
| Datenqualitätskriterien | Nur öffentlich dokumentierte Modelle mit nachvollziehbarer Herkunft |
| Technische Dokumentation | Versionierte Architektur-Docs, Model-Cards, Entscheidungslogik offengelegt |
| Logging / Nachvollziehbarkeit | Lokale Audit-Logs auf Kundensystemen, keine Telemetrie zu uns |
| Transparenz gegenüber Nutzern | Diese Seite, sowie klare Kennzeichnung in der App |
| Cybersicherheit | Code-Signing, Notarization, Verzicht auf Cloud-Abhängigkeiten |
Kontakt bei AI-Act-Fragen
Für Fragen zur AI-Act-Compliance, zu Transparenzberichten oder zu spezifischen Systemeigenschaften: datenschutz@adluna.de.
Was wir zukünftig ergänzen
Diese Seite ist ein Anfang, kein Abschluss. Mit jedem neuen Produkt, jeder substantiellen Änderung und mit dem Inkrafttreten weiterer AI-Act-Bestimmungen wird diese Seite aktualisiert. Wir werden insbesondere ergänzen:
- Formale Risikoklassifizierung pro Produkt, mit Begründung
- Model-Cards für alle eingesetzten KI-Modelle
- Jährlicher Transparenzbericht (erstmals Frühjahr 2027)
- Konkrete Bewertungen nach §§ 10 ff AI Act, sobald die delegierten Rechtsakte vollständig sind
Stand: April 2026. Diese Seite wird mit dem Fortschritt der AI-Act-Umsetzung regelmäßig aktualisiert.