- Regulierung riskanter KI-Anwendungen: Das KI-Gesetz implementiert strikte Restriktionen für KI-Anwendungen in sensitiven Bereichen wie dem Gesundheitswesen, Bildung und Polizeiwesen, mit dem Ziel, die fundamentalen Rechte der Menschen zu schützen, und sieht vor, bestimmte Anwendungen bis Jahresende zu verbieten. Zusätzlich verbietet das Gesetz explizit den Einsatz von KI-Systemen für Manipulation oder zur Erkennung sensibler Merkmale wie politischer Überzeugungen, wobei Ausnahmen für Strafverfolgungsbehörden bestehen, was von Bürgerrechtsorganisationen kritisiert wird.
- Transparenzpflicht bei KI-generierten Inhalten: Das Gesetz verpflichtet Technologieunternehmen, KI-generierte Inhalte zu kennzeichnen und Nutzer über Interaktionen mit KI-Systemen zu informieren, um gegen Desinformation vorzugehen und die Forschung zu Authentizitätsmerkmalen zu unterstützen. Obwohl dies einen Fortschritt darstellt, bleibt die effektive Umsetzung eine Herausforderung, da die Technologie zur Erkennung von KI-generierten Inhalten noch nicht ausgereift ist.
- Rechtsschutz für Bürger bei KI-Schädigung: Mit der Einrichtung eines neuen Europäischen KI-Büros schafft das KI-Gesetz eine Anlaufstelle für Bürger, um Beschwerden gegen schädigende KI-Systeme einzulegen und Transparenz bezüglich der Entscheidungsfindung dieser Systeme zu erhalten. Dies stellt einen wichtigen Schritt zur Stärkung der Bürgerrechte dar, setzt jedoch voraus, dass die Bürger über ausreichende Kenntnisse verfügen, um algorithmische Schäden zu verstehen und anzufechten.
- Transparenzanforderungen an KI-Unternehmen: KI-Unternehmen, die in als hochriskant eingestuften Bereichen tätig sind, werden mit dem Vollzug des KI-Gesetzes in drei Jahren neuen Verpflichtungen unterliegen, wie verbessertes Datenmanagement und menschliche Aufsicht. Das Gesetz verlangt von Entwicklern allgemeiner KI-Modelle, detaillierte technische Dokumentationen ihrer Modelle anzufertigen und öffentlich zugänglich zu machen, was einen Paradigmenwechsel im Hinblick auf Datentransparenz und -management im KI-Sektor darstellt.
https://www.europarl.europa.eu/topics/de/article/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz
Bleibe immer auf dem Laufenden über KI und komm zu unseren mAILounge Veranstaltungen: mAILounge-Termine