Freibit

Eigene KI – aber zu welchem Preis?

Season 1 Episode 13

Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.

0:00 | 58:36

Wer eine Frage an eine KI – beispielsweise ChatGPT – stellt, bekommt eine Antwort. Woher die kommt, ist für die nutzende Person meist unklar. Ob sie stimmt, auch. Und welche Daten zum Training des Modells genutzt wurden, ist meist intransparent. 

Viele Unternehmen wollen das ändern und bauen deshalb eigene KI-Systeme auf Open-Source-Basis. Die Idee: So die Kontrollierbarkeit und Sicherheit gewährleisten. Nur das eigene Wissen wird aufbereitet und ist ausschließlich intern abrufbar.

In dieser Folge erklärt Frederik, wie das technisch funktioniert. Von Chunking und Embedding über Vektordatenbanken bis zu Sprachmodellen und GPU-Anforderungen. Und warum eine eigene KI kein Plug-and-play ist, sondern eine Designentscheidung nach der anderen.

Am Ende bleibt eine Frage, die es schon vor KI gab: Wie viel ist einem Unternehmen der Zugang zum eigenen Wissen eigentlich wert?

Danke fürs Zuhören und vergiss nicht, FREIBIT zu abonnieren, um keine spannende Folgen rund um das Thema Open Source zu verpassen! 🚀