KI generiert (D): KS Pulse - Scaling Smarter The Art of Deliberate Practice in AI

KI Generierte News of the Day. Der Pulse ist ein Experiment ob es interessant ist die aktuellen Nachrichten in ca. 5 min. kleinen Paketen täglich zu bekommen. 

Er ist vollständig KI generiert. Einzig und allein der Inhalt ist kuratiert. Carsten und ich wählen passende Nachrichten aus. Danach wird sowohl das Manuskript als auch die Audio Datei vollständig automatisiert erstellt.

Dementsprechend können wir nicht immer für die Richtigkeit garantieren.

Taxonomy, Opportunities, and Challenges of Representation Engineering for Large Language Models  -  https://arxiv.org/pdf/2502.19649

Improving the Scaling Laws of Synthetic Data with Deliberate Practice - https://arxiv.org/pdf/2502.15588

Transcript

Willkommen beim Knowledge Science Pulse Podcast. Ich bin Sigurd, und wie immer dabei ist Carsten. Heute tauchen wir in zwei spannende KI Forschungsthemen ein.
Die Verbesserung des Skalierens synthetischer Daten und eine neue Methode zur Steuerung großer Sprachmodelle.
Carsten, hast du dich jemals gefragt ob KI so lernen kann wie Menschen?
####Das ist eine interessante Frage! KI ist großartig darin, riesige Datenmengen zu verarbeiten, aber lernt sie auch wirklich effizient wie ein Mensch?
####Genau das untersucht die Studie Improving the Scaling Laws of Synthetic Data with Deliberate Practice.
Sie stellt eine Methode namens Deliberate Practice vor, die es KI-Modellen ermöglicht intelligenter statt härter zu trainieren.
####Deliberate Practice klingt nach etwas, das Menschen tun, wenn sie eine neue Fähigkeit erlernen.
####Richtig! Statt der KI einfach mehr Daten zu geben, wählt Deliberate Practice gezielt die schwierigsten und informativsten Beispiele für das Training aus.
Stell es dir vor wie einen Schüler, der gezielt die kniffligsten Aufgaben übt, anstatt immer wieder einfache zu wiederholen.
Auf diese Weise lernen Modelle effizienter!
####Also anstatt die KI mit riesigen Datensätzen zu überfluten werden gezielt die schwierigsten Fälle ausgewählt, um das Lernen zu verbessern.
####Absolut! Die Studie zeigt dass Deliberate Practice eine bessere Leistung erzielt – bei bis zu zehnmal weniger Daten.
Auf ImageNet one kay benötigten Modelle mit Deliberate Practice 30 % weniger Trainingszyklen und übertrafen dennoch Standard-Trainingsmethoden was einen gewaltigen Effizienzsprung ausmacht!
####Beeindruckend! Indem man sich also auf das konzentriert, was das Modell am meisten herausfordert, erhält man also bessere KI mit weniger Daten! Funktioniert das wirklich?
####Die größte Herausforderung besteht darin gute Auswahlkriterien zu entwickeln. Also zu bestimmen, welche Daten am nützlichsten sind.
Die Forscher lösen das durch entropiebasiertes Sampling, das sicherstellt, dass sich die KI auf die schwierigsten und unsichersten Fälle konzentriert.
####Klingt logisch!
Jetzt hast du noch einen Durchbruch in der KI-Steuerung erwähnt. Worum geht es in dieser Studie?
####Die zweite Studie mit dem Titel:
„Taxonomy Opportunities and Challenges of Representation Engineering for Large Language Models“ stellt eine neue Methode namens Representation Engineering oder kurz REPe vor.
Das ist eine neue Möglichkeit, das Verhalten von KI direkt über ihre internen Repräsentationen zu steuern!
####Aber wie unterscheidet sich das von Prompting oder Fine-Tuning?
####Gute Frage! Statt die Eingabe zu verändern (wie beim Prompting) oder die Modellgewichte anzupassen (wie beim Fine-Tuning), verändert RepE, wie das Modell intern Informationen verarbeitet.
Das ermöglicht eine präzisere, effizientere und besser interpretierbare Steuerung!
####Also quasi wie das Anpassen der Zahnräder in einer KI, anstatt nur zu ändern, was man hineingibt! Wofür kann das eingesetzt werden?
####Für jede Menge Anwendungen!
RepE kann das Verhalten der KI steuern, ihre Antworten an menschliche Präferenzen anpassen und sogar Vorurteile reduzieren!
Zum Beispiel:, wenn eine KI zu aggressive Antworten gibt, kann RepE sie in eine neutralere oder höflichere Richtung lenken – ohne das Modell neu trainieren zu müssen!
####Das klingt unglaublich mächtig!
####Aber gibt es dabei auch Einschränkungen ?
####Ja! Die größten Herausforderungen sind herauszufinden, wie verschiedene Konzepte im Modell repräsentiert sind und Sicherzustellen, dass Änderungen keine unbeabsichtigten Nebenwirkungen verursachen.
Die Studie betont, dass wir bessere Werkzeuge brauchen, um diese internen Repräsentationen zu analysieren und gezielt zu steuern!
####Das ist faszinierend.
Zwischen smarterem Training und präziserer KI-Steuerung scheint es also als würden wir effizientere und anpassungsfähigere KI-Systeme entwickeln.
####Ganz genau! Beide Studien zeigen spannende Wege, wie wir KI intelligenter und besser steuerbar machen können.
Wir stehen hier erst am Anfang!
####Ich bin gespannt, was als Nächstes kommt und vielen dank für die Einblicke Sigurd!
####Sehr gern! Das war’s für diese Folge von Knowledge Science Pulse.
Danke fürs Zuhören – und bis zum nächsten Mal!