Alles eine Frage der Daten: Die Trainingsmethoden des Deep Learning

Im Deep Learning gibt es verschiedene Trainingsmethoden. Welche davon wir in einem Projekt mit Künstlicher Intelligenz (KI) einsetzen, hängt von den Daten ab, die unser Kunde bereitstellt: Wie viele Daten gibt es? Sind sie gelabelt, also mit Kategorien beschriftet, oder ungelabelt? Oder liegen sowohl gelabelte als auch ungelabelte Daten vor?

Nehmen wir an, unser Kunde benötigt strukturierte, gelabelte Bilder für ein Online-Tourismusportal. Die Aufgabe unseres KI-Modells besteht also darin zu erkennen, ob ein Bild ein Schlafzimmer, ein Badezimmer, einen Wellnessbereich, ein Restaurant usw. zeigt. Schauen wir uns die möglichen Trainingsmethoden an.

1. Supervised Learning

Verfügt unser Kunde über viele Bilder, die alle gelabelt sind, ist das ein seltener Glücksfall. Dann können wir Supervised Learning anwenden. Das KI-Modell lernt die verschiedenen Bildkategorien anhand der gelabelten Bilder. Dafür erhält es von uns die Trainingsdaten zusammen mit den gewünschten Ergebnissen.

Während des Trainings sucht das Modell in den Bildern nach Mustern, die zu den gewünschten Ergebnissen passen, und lernt so die Merkmale der einzelnen Kategorien. Das Gelernte kann es anschliessend auf neue, unbekannte Daten anwenden und auf diese Weise für ungelabelte Bilder eine Vorhersage liefern, etwa «Badezimmer 98 %».

2. Unsupervised Learning

Kann unser Kunde zwar viele Bilder als Trainingsdaten bereitstellen, sind diese aber allesamt nicht gelabelt, müssen wir auf Unsupervised Learning ausweichen. Das heisst, wir können dem Modell nicht vorgeben, was es lernen soll (die Zuordnung zu Kategorien), sondern es muss selbst Regelmässigkeiten in den Daten finden.

Contrastive Learning ist – Stand 2022 – eine verbreitete Methode des Unsupervised Learning. Dabei erzeugen wir aus jeweils einem Bild mehrere Ausschnitte. Das Modell soll lernen, dass sich die Ausschnitte desselben Bildes untereinander ähnlicher sind als den Ausschnitten anderer Bilder. Kurz gesagt: Das Modell lernt, ähnliche von unähnlichen Bildern zu unterscheiden.

Zwar lassen sich auch mit dieser Methode Vorhersagen treffen, doch erreichen sie nie die Ergebnisqualität des Supervised Learning.

3. Semi-supervised Learning

Kann uns unser Kunde nur wenige gelabelte, dafür aber eine grosse Menge ungelabelter Daten zur Verfügung stellen, wenden wir Semi-supervised Learning an. In der Praxis begegnet uns diese Datenlage tatsächlich am häufigsten.

Beim Semi-supervised Learning können wir beide Datenbestände für das Training nutzen, die gelabelten wie die ungelabelten Daten. Möglich wird das zum Beispiel durch die Kombination von Contrastive Learning und Supervised Learning: Wir trainieren ein KI-Modell mit den gelabelten Daten, um Vorhersagen für die Raumkategorien zu erhalten. Gleichzeitig lassen wir das Modell Ähnlichkeiten und Unähnlichkeiten in den ungelabelten Daten lernen und sich daraufhin selbst optimieren. So erreichen wir am Ende gute Label-Vorhersagen für neue, unbekannte Bilder.

Supervised vs. Unsupervised vs. Semi-supervised Learning

Wer mit einem KI-Projekt betraut ist, möchte am liebsten Supervised Learning anwenden. In der Praxis ist das jedoch selten möglich, denn nur selten sind alle Trainingsdaten sauber strukturiert und gelabelt.

Stehen nur unstrukturierte und ungelabelte Daten zur Verfügung, können wir mit Unsupervised Learning zumindest Informationen aus den Daten gewinnen. Diese können für unseren Kunden bereits einen Mehrwert bieten. Im Vergleich zum Supervised Learning ist die Ergebnisqualität allerdings deutlich schlechter.

Mit Semi-supervised Learning versuchen wir, das Datendilemma aus einem kleinen Anteil gelabelter und einem grossen Anteil ungelabelter Daten aufzulösen. Wir nutzen beide Datenbestände und erhalten gute Vorhersageergebnisse, deren Qualität oft mit der des Supervised Learning mithalten kann.

Dieser Beitrag ist in Zusammenarbeit mit pixolution entstanden, einem Unternehmen für Computer Vision und KI-basierte visuelle Suche.