Deep Learning

Verbindlich festgelegt ist keine Zahl. Als Größenordnung taugt der Datensatz, an dem das Verfahren bekannt wurde: Der Trainingssatz des ImageNet-Wettbewerbs 2012 umfasste laut dessen Ausschreibung 1,2 Millionen Bilder in 1.000 Kategorien, also rund 1.200 Beispiele je Kategorie. Wer ein vortrainiertes Modell anpasst, kommt mit deutlich weniger aus, weil nur die oberen Schichten neu lernen. Die Untergrenze setzt dann die Messung: Wer von 50 Beispielen ein Fünftel zurückhält, prüft gegen 10 Fälle – dort verschiebt ein einziger Fehler das Ergebnis um 10 Punkte.

Nein. Hornik, Stinchcombe und White wiesen 1989 in Neural Networks nach, dass bereits ein Netz mit einer einzigen verborgenen Schicht jede stetige Funktion beliebig genau annähern kann, sofern es breit genug ist. Tiefe erweitert also nicht die Menge des Darstellbaren, sondern senkt die Zahl der nötigen Einheiten für dasselbe Ergebnis. Die verbreitete Aussage, erst Deep Learning mache eine Aufgabe überhaupt lösbar, ist damit falsch – sie beschreibt eine Frage des Aufwands, nicht des Könnens.

Der Betreiber, denn das Modell kann es nicht. Ein tiefes Netz gibt einen Wert aus, keine nachlesbare Ableitung. Die KI-Verordnung setzt deshalb an anderer Stelle an: Artikel 13 verpflichtet Anbieter von Hochrisiko-Systemen zu Informationen für den Betreiber, Artikel 14 verlangt, dass natürliche Personen das System wirksam überwachen können. Für eigenständige Hochrisiko-Systeme nach Anhang III gilt beides nach der Änderungsverordnung von 2026 erst ab dem 2. Dezember 2027; bis dahin ist die menschliche Nachprüfung eine Frage der Haftung, nicht der Aufsicht.

Es antwortet trotzdem, und oft mit einem hohen Wert. Ein tiefes Netz kann eine Eingabe von sich aus nicht zurückweisen: Es ordnet sie der nächstliegenden gelernten Klasse zu. Der ausgegebene Wert ist dabei keine Wahrscheinlichkeit, richtig zu liegen – Guo, Pleiss, Sun und Weinberger zeigten 2017 auf der ICML, dass moderne Netze im Gegensatz zu den kleineren von zehn Jahren zuvor schlecht kalibriert sind und die Tiefe einer der Einflussfaktoren ist. Eine Schwelle auf diesen Wert ersetzt daher keinen Rückweg an einen Menschen.