Direkt zum Inhalt

QA-Strategie

A4Q AI Essentials: KI verstehen, Risiken einordnen

KI bringt neue Chancen und neue Risiken. Was die A4Q-Zertifizierung AI Essentials zu Risikoklassen, EU AI Act und verantwortungsvollem Einsatz vermittelt.

Was ist die A4Q AI Essentials?

Die Zertifizierung A4Q AI Essentials vermittelt grundlegendes Wissen über künstliche Intelligenz – nicht aus Sicht von Datenwissenschaftlern, sondern aus Sicht der Fachleute, die KI in Unternehmen einführen, bewerten oder begleiten. Im Mittelpunkt stehen Risikoklassen, Transparenz, Datenschutz und menschliche Aufsicht, abgestimmt auf den europäischen KI-Rechtsrahmen.

Franz Hetz hat die Zertifizierung am 20. August 2025 abgelegt. Sie bildet den Einstieg in das Thema KI-Qualität bei Hetz Enterprises.

Welche Inhalte die Zertifizierung abdeckt

  • KI-Grundlagen: Was künstliche Intelligenz kann und was nicht, typische Anwendungen und Begriffe.
  • EU AI Act: Die Einteilung von KI-Systemen nach Risiko – von verbotenen Anwendungen über Hochrisikosysteme bis zu Systemen mit geringem Risiko – und die Pflichten, die daraus folgen.
  • Datenschutz: DSGVO-Grundsätze im Zusammenspiel mit KI, etwa Zweckbindung und Datenminimierung.
  • Ethik und Fairness: Wie Verzerrungen (Bias) in Daten zu Diskriminierung führen können und wie man sie erkennt.
  • Transparenz und menschliche Aufsicht: Warum Nutzer wissen müssen, wann sie mit KI interagieren, und wo ein Mensch die letzte Entscheidung behalten sollte.

Warum KI eine eigene Sicht auf Qualität braucht

Klassische Software verhält sich deterministisch: gleiche Eingabe, gleiche Ausgabe. KI-Systeme dagegen liefern Wahrscheinlichkeiten, lernen aus Daten und können auf dieselbe Frage unterschiedlich antworten. Ein Fehler steckt deshalb oft nicht im Code, sondern in den Trainingsdaten, in unklaren Anforderungen oder in einem Einsatz, für den das System nie gedacht war.

Qualitätssicherung bei KI beginnt daher früher als beim Test: bei der Frage, ob ein Anwendungsfall überhaupt für KI geeignet ist, in welche Risikoklasse er fällt und welche Nachweise der EU AI Act dafür verlangt.

Ein Beispiel: der Chatbot im Kundenservice

Ein Unternehmen plant einen Chatbot, der Kundenfragen zu Verträgen beantwortet. Technisch ist das heute schnell gebaut. Die Fragen, die über die Qualität entscheiden, beginnen aber früher:

  • Transparenz: Wissen Kundinnen und Kunden, dass sie mit einer KI sprechen? Der EU AI Act verlangt das für solche Systeme ausdrücklich.
  • Datenschutz: Welche Daten sieht der Chatbot, wo werden Gespräche gespeichert, und wer hat darauf Zugriff?
  • Grenzen: Was passiert bei Fragen, die der Chatbot nicht sicher beantworten kann – etwa zu Kündigungsfristen oder Beschwerden? Gibt es eine verlässliche Übergabe an einen Menschen?
  • Fairness: Antwortet das System allen Gruppen gleich gut, auch bei einfacher Sprache oder Tippfehlern?

Werden diese Punkte vor dem Start geklärt, lassen sie sich als Anforderungen und Testkriterien festhalten. Werden sie übersehen, zeigen sie sich meist erst im Betrieb – dann als Beschwerde, Datenschutzvorfall oder Imageschaden.

Wofür wir das Wissen in Projekten einsetzen

  • Einordnung von KI-Vorhaben: Welche Risikoklasse ist wahrscheinlich, und welche Anforderungen an Dokumentation, Transparenz und Aufsicht folgen daraus?
  • Qualitätsanforderungen formulieren: Was heißt „korrekt“ bei einem System, das Wahrscheinlichkeiten liefert? Akzeptanzkriterien für KI-Funktionen brauchen eine eigene Herangehensweise.
  • Risiken früh sichtbar machen: Bias, Datenschutz und fehlende Nachvollziehbarkeit gehören in die Risikoanalyse, bevor ein System live geht.

Den nächsten Schritt in diesem Themenfeld markiert die Zertifizierung A4Q AI Foundation, die die technischen Grundlagen und generative KI vertieft.

Häufige Fragen

Was regelt der EU AI Act?

Der EU AI Act ist die europäische Verordnung über künstliche Intelligenz. Er teilt KI-Systeme nach ihrem Risiko ein und knüpft daran Pflichten – von Verboten bestimmter Anwendungen bis zu Anforderungen an Dokumentation, Datenqualität und menschliche Aufsicht bei Hochrisikosystemen.

Für wen ist die A4Q AI Essentials gedacht?

Für Fachleute, die KI in Unternehmen einführen, bewerten oder begleiten – etwa aus Qualitätssicherung, Projektleitung, Compliance oder Fachbereichen. Programmierkenntnisse sind nicht nötig.

Was ist Bias bei KI?

Bias bezeichnet systematische Verzerrungen, meist aus den Trainingsdaten. Ein System kann dadurch bestimmte Gruppen benachteiligen, ohne dass das beabsichtigt ist. Solche Verzerrungen müssen gezielt geprüft werden.

Gilt die DSGVO auch für KI?

Ja. Sobald personenbezogene Daten verarbeitet werden – im Training oder im Betrieb –, gelten die Grundsätze der DSGVO, etwa Zweckbindung, Datenminimierung und Transparenz gegenüber den Betroffenen.

Nachweis

Das Zertifikat ist mit der ID 25-AI-E-265697-43 beim iSQI ausgestellt und öffentlich prüfbar: Nachweis bei SkillsClub ansehen (öffnet in neuem Tab).

Branchen

Branchen­kompetenz

Jede Branche hat eigene Regeln, Risiken und Prüfer. Wir kennen sie aus der Praxis – und testen so, dass Ihre Software nicht nur funktioniert, sondern jeder Prüfung standhält.

  • Finanz­wirtschaft

    Online-Banking, Kernbanksysteme und regulierte Prozesse. Wir testen gegen hohe Sicherheits- und Compliance-Anforderungen – damit Releases planbar, nachvollziehbar und prüfbar bleiben.

    • BFSG
    • DORA
    • BAIT
  • Öffentliche Hand

    Fachverfahren, Bürgerportale und SAP-Landschaften. Barrierefreiheit nach BITV, saubere Abnahmen und eine Dokumentation, die jedem Audit standhält.

    • BITV 2.0
    • EN 301 549
    • SAP
  • IT & Software

    Für Softwarehersteller und IT-Dienstleister: Teststrategie, Automatisierung in der CI/CD-Pipeline und die Qualitätssicherung von KI-Funktionen – vom MVP bis zum Release.

    • CI/CD
    • Testautomatisierung
    • EU AI Act