Das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) hat eine detaillierte Checkliste zu den zentralen datenschutzrechtlichen Anforderungen an die Entwicklung und den Einsatz von KI-Modellen veröffentlicht (Stand: 24.01.2024).

Da das Datenschutzrecht den Begriff der Künstlichen Intelligenz (KI) nicht kennt, wird zunächst in einer Einordnung anschaulich erläutert, welche KI-Anwendungen („KI-Modelle“) von der Checkliste erfasst werden (S. 2 – 3). Eine Definition des „KI-Systems“ enthält Art. 3 Abs. 1 Nr. 1 Artificial Intelligence Act (KI-Verordnung) – finaler Entwurf, der am 02.02.2024 von den EU-Mitgliedstaaten gebilligt wurde. Der Text wurde noch nicht veröffentlicht.

Die Checkliste des BayLDA enthält drei Abschnitte:

  • Training von KI-Modellen: 27 Prüfungspunkte (S. 4 – 6)
  • Bewertung von Risiken bei KI: Erstellen eines Risikomodells (S. 7 – 8)
  • Einsatz einer KI-Anwendung: 23 Prüfungspunkte (S. 9 – 11)

Das Prüfschema folgt einem ‚Good-Practice‘-Ansatz. Die Liste der Prüfungspunkte ist nicht abschließend, denn – so das BayLDA:

„Aufgrund der stetig fortschreitenden Entwicklungen im Bereich KI können Anpassungen zu dieser Checkliste – insbesondere zur Harmonisierung mit deutschen und europäischen Datenschutzpositionen zu KI – erforderlich werden“ (S.1). Da es sich um eine dynamische Prüfliste handelt, ist es ratsam, ihre Fortschreibung aktiv zu beobachten. Über den privaten Sektor hinaus, setzt die Checkliste des BayLDA auch Maßstäbe für die öffentlichen Stellen. Die Liste ist nicht nur als Orientierung für Verantwortliche sowie für Datenschutzbeauftragte im Rahmen ihrer Beratungs- und Kontrolltätigkeit bedeutsam. Zur Pflichtlektüre kann sie allen empfohlen werden, die sich in ihrer beruflichen Praxis mit datenschutzrechtlichen Fragen von KI-Modellen befasst.“

Im Gegensatz zur Checkliste zielt der vom BayLDA veröffentlichte Flyer ‚Next-Level-Bausteine für KI‘ darauf ab, bei einem breiteren Publikum das allgemeine Bewusstsein für die datenschutzrechtlichen Anforderungen an KI-Modelle zu fördern.

Prägnant werden 8 zentrale Punkte im Bereich Datenschutz und KI adressiert:

  • KI rechtskonform einsetzen: Grundlagen kennen & meistern
  • Datenschutzfolgenabschätzung: Hochrisiko-KI in Schach halten
  • KI-as-a-Service: Datenschutz nicht automatisch inbegriffen
  • Besonderer Fokus Datenschutz: KI-Schutzziele kennen
  • Halluzinationen: Der künstliche Geist bricht manchmal aus
  • KI und Mensch: Mitarbeiter für den Einsatz von KI schulen
  • Betroffenenrechte bei KI: Auskunft und Co. vorbereiten
  • Zukunft der KI: Optimismus statt Sorge vor der Superintelligenz

Wie das BayLDA ankündigt, sollen die Inhalte des Flyers noch erweitert werden. Die Publikation ist insbesondere zur Ergänzung von Schulungsmaterialien gut geeignet.

Insidas berät Sie umfassend zum Themenbereich Datenschutz und Datensicherheit bei Künstlicher Intelligenz und unterstützt Sie bei der ordnungsgemäßen Umsetzung der rechtlichen Vorgaben.

Weiterführende Hinweise:

    Verpassen sie keine Beiträge mehr!

    Wenn Ihnen dieser Beitrag gefällt, abonnieren Sie unsere Newsletter. Dann entgeht Ihnen kein Insidas Artikel mehr.

    Datenschutzhinweis

    Mit dem Abonnement des Newsletters messen wir auch Reichweite und Erfolg, um diesen noch interessanter zu gestalten. Die Einwilligung kann mit Wirkung für die Zukunft widerrufen werden. Ausführliche Hinweise erhalten Sie in unserer Datenschutzerklärung.

    Diese Beiträge könnten Sie auch interessieren

    Videoüberwachung bei öffentlichen Stellen in Bayern

    Videoüberwachung bei öffentlichen Stellen in Bayern

    Ein ungebrochener Trend und ein Dauerbrennpunkt im Bereich des Datenschutzrechtes ist das Thema Videoüberwachung. Es ist eines der wichtigsten Schwerpunkte in der Arbeit der Datenschutzbehörden und häufiger Gegenstand in datenschutzpolitischen Diskussionen. Was ist...

    read more
    Tipps zur Nutzung der Webanalytik-Plattform Matomo

    Tipps zur Nutzung der Webanalytik-Plattform Matomo

    Tipps zur Einstellung Matomo ermöglicht das Tracking von Webseitenbesucherinnen und -besuchern mittels Cookies oder JavaScript. Auch im Hinblick auf die zunehmende Verbreitung von Schutzmechanismen in Webbrowsern ist ein Tracking per JavaScript dem Tracking durch...

    read more
    Rechtliche Anforderungen an den Einsatz von Microsoft 365

    Rechtliche Anforderungen an den Einsatz von Microsoft 365

    Teil 1: Microsoft 365: Aufsichtsbehörden im Fokus – Was sagen die Datenschützer?   Dies ist der Auftakt einer Beitragsreihe zur rechtskonformen Nutzung von Anwendungen und Diensten der cloudbasierten „Produktivitätsplattform“ Microsoft 365 (Word, Excel,...

    read more