00:00:05
Intro Speaker: Wissenswertes und Wissen. News aus den Studiengängen der Technik an der FH Campus Wien.
00:00:24
Sigrid Schefer-Wenzl: ChatGPT ist der Prototyp eines Dialog basierten Chatbots, der künstliche Intelligenz nutzt, um mit Menschen zu kommunizieren. Er wurde von OpenAI entwickelt und im November 2022 als Beta Version veröffentlicht. In der Mitte März 2023 veröffentlichten Versionen GPT-4 können bis zu vier Mal längere Texte verarbeitet werden und auch Bilder oder Audio als Input verwendet werden.
00:00:52
Igor Miladinovic: In unseren Bachelor- und Masterstudiengängen ist das Thema künstliche Intelligenz ein wichtiger Bestandteil des Curriculums. Somit werden die Studierenden mit den Technologien, die ChatGPT ermöglicht haben, vertraut. In dieser Folge diskutieren wir mit Mugdim Bublin unseren Experten für künstliche Intelligenz über die Funktionsweise, Potenziale, Gefahren und die zukünftige Entwicklung von ChatGPT.
00:01:25
Igor Miladinovic: Die Entwicklung der Informatik und digitalen Kommunikation war nie so schnell wie heute.
00:01:31
Sigrid Schefer-Wenzl: Und sie wird nie so langsam sein wie heute.
00:01:36
Igor Miladinovic: In diesen Podcast stellen wir wichtige Themen rund um unsere Informatik Studiengänge der FH Campus Wien vor.
00:01:45
Sigrid Schefer-Wenzl: Die Sie optimal für diese Entwicklung vorbereiten werden.
00:01:50
Igor Miladinovic: Willkommen zu dieser Folge von unserem Podcast 10 nach 10. Mein Name ist Igor Miladinovic, und ich bin der Studiengangsleiter von den Studiengängen Computer Science and Digital Communikations, Software Design and Engineering, und Multilingual Technologies.
00:02:04
Sigrid Schefer-Wenzl: Willkommen auch wieder von meiner Seite. Mein Name ist Sigrid Schefer-Wenzl und ich unterrichte in diesen Studiengängen.
00:02:10
Igor Miladinovic: Heute reden wir über ein aktuelles Thema, das mit der Entwicklung von der künstlichen Intelligenz noch wichtiger geworden ist, das Thema von heutigen Podcast ist: ChatGPT und unser Gast heute ist Mugdim Bublin. Er ist unser Experte für Machine learning, künstliche Intelligenz, und er hat auch Stiftungsprofessur in diesem Bereich. Am Anfang würden wir dich fragen, wie funktioniert überhaupt ChatGPT?
00:02:38
Mugdim Bublin: Also ChatGPT ist, wie alle moderne AI Systeme basiert auf sogenannte Deap Learning neurale Netze, die sind durch unsere Gehirn inspiriert. Im praktisch mathematische Modelle, die aus mehrere hunderte Milliarden von sogenannten künstlichen Neuronen bestehen. Diese Neuronen rechnen einfach eine mathematische Funktion und ihre Inputs aus und geben das Hand andere Neuronen Outputs aus. Die Neuoren sind miteinander über sogenannten Gewichte oder Parameter verbunden, und das ist eigentlich, was gelernt wird. Aufgrund von mehrere Hunderte Millionen von vor allem Textbeispielen aus Internet werden diese Netze trainiert. Das heißt, diese Gewichte werden so angepasst, dass die produzierte Text oder Bilder möglichst optimal, den gewünschten Output entsprechen.
00:03:36
Sigrid Schefer-Wenzl: Dankeschön. Die Entwicklungen in der künstlichen Intelligenz lösen ja diverse Ängste aus. Was kann denn ChatGPT derzeit?
00:03:46
Mugdim Bublin: Also im Grunde, was ChatGPT macht, ist praktisch, aufgrund von den Input Angabe, sogenannte Prompts, das nächste Wort zu generieren und dass dieses nächste Wort generiert wird auch zusammen mit allen vorherigen Inputs berücksichtigt und wieder nächste Wort zu predigten. Das damit lässt sie aber viel erreichen. Zum Beispiel ChatGPT kann auch Fakten liefern, kann Unterstützung bei Problemlösen sein, kann gewisse mathematische Aufgaben oder andere Aufgaben lösen, kann sogar in Dialekten sprechen, verschiedene Sprachen übersetzen, kann sogar bei Programmieren helfen und es wird immer mehr Aufgaben durch ChatGPT gelöst oder bei Lösungen geholfen.
00:04:30
Igor Miladinovic: Dankeschön, und ich habe schon etwas, also über die Ängste gehört oder sie zumindest erwähnt. Aber natürlich bietet so ein Tool auch gewisse Potenziale und Chancen. Wie würdest du so die Stärken und die Schwächen von der aktuellen Version von ChatGPT sehen?
00:04:49
Mugdim Bublin: ChatGPT liefert manchmal, sogar oft ganz gute Antworten, kann diverse Probleme lösen, sogar Aufgaben, Matura, von Matura Aufgaben bis Uniprüfungen oder auch zum Beispiel bei Programmieren helfen, es aber manchmal auch ganz falsche Antworten liefert, die so richtig ausschauen, und das ist gefährlich. Also, manchmal werden ganz sogenannte Hallucinationen generiert, die als echte Problemlösung ausschauen, aber sind im Grunde falsch. Dann auch zum Beispiel diese sogenannte Commonsense, wird nicht immer richtig interpretiert. Wie, was für uns Menschen so reicht ist, ist manchmal für KI schwierig. Dann gibt's auch zum Beispiel Bias bei Trainingsdaten, dass manche Sachen, die ChatGPT die liefert so mit Vorurteilen behaftet sind, und das liegt dann, diese Bias in Daten, mit denen ChatGBT trainiert wurde.
00:05:51
Sigrid Schefer-Wenzl: Woher bezieht ChatGPT sein Wissen?
00:05:55
Mugdim Bublin: Das Wissen von ChatGPT wird praktisch aus vielen Beispielen, vor allem aus Internet, verschiedene Textbeispielen gelernt, und das Wissen ist praktisch in Parameter im Gewichten von diesen Netz gespeichert. Die Idee und diese neurale Netzen ist, dass man aufgrund von den Beispielen von einem Vergleich zwischen den tatsächlichen Output von Netz und richtigen Output, dass diese Gewichte so angepasst werden, dass möglichst gute Vorhersage geliefert wird. Und diese Millionenbeispiele aus Internet, dienen dazu, diese Parameter von Netz so einzustellen, dass Output kommt, und das ganze Wissen wird dann praktisch in diesen Milliarden von Parameter gepreichert.
00:06:41
Igor Miladinovic: Okay, heute, bevor du zu uns gekommen bist, haben wir mit einer Person gesprochen und zufällig auch über das Thema ChatGPT, und sie hat gemeint, eine wichtige Aufgabe von dieser Person ist es, Berichte zu schreiben, und sie hat gemeint, dass sie Angst hat, dass ihr Job verschwinden wird. Deswegen, die nächste Frage: Ist ChatGPT eine Bedrohung? Und wenn ja, für wen und warum?
00:07:08
Mugdim Bublin: Ja, ChatGPT kann auch eine Bedrohung, wenn es falsch benutzt oder eingesetzt wird. Wenn man zum Beispiel ohne weiteres die Antworten von ChatGPT als richtig annimmt und sogar als die Grundlage für wichtige Entscheidungen nimmt, dann kann es natürlich gefährlich sein. Meiner Meinung nach AI kann die Menschen nicht ersetzen, sondern ergänzen. Wenn man versucht, durch ChatGPT die Menschen zu ersetzen, dann kann es vielleicht passieren, dass dadurch Qualität der Dienstleistungen, oder Produkten schlechter wird und in eine Zusammenarbeit Mensch-AI glaube, kann man optimale Ergebnisse erzielen, auch Produktivität erhöhen oder bessere Qualität liefern, aber nur AI besonders wichtige Entscheidungen zu überlassen wäre natürlich gefährlich.
00:07:57
Igor Miladinovic: Das heißt, es wäre auch ein bisschen fahrlässig, nur KI irgendwelche wichtige Managementberichte erstellen zu lassen, ohne sie zu überprüfen.
00:08:06
Mugdim Bublin: Ja, also, man könnte natürlich entsprechende Prompts jetzt diese ChatGPT veranlassen, diese Skizze von Berichten zu schreiben, aber das sollte Mensch jedenfalls gut überpüfen und gegenbenfalls auch anpassen, ändern und so.
00:08:21
Sigrid Schefer-Wenzl: Wenn man sich jetzt von ChatGPT so einen Text generieren lässt, wie ist hier die rechtliche Situation derzeit? Also zum Beispiel, wenn sich Studierende bei uns jetzt Teile von Bachelorarbeiten oder sonstigen Abgaben von ChatGPT erstellen lassen? Wie schaut das urheberrechtlich aus, und ist da mit einem Verbot vielleicht sogar zu rechnen?
00:08:46
Mugdim Bublin: Ja, das ist eben, was gerade jetzt so viel diskutiert wird, sowohl vom Gesetzgeber auf EU-Ebene, auf nationaler Ebene bis auf die Universitäten und Schulen, und das ist noch Grauzone. Es ist noch nicht ganz definiert. Was vielleicht wichtig ist: ChatGPT liefert in Grunde originelle Lösungen, also lernt aus vielen Beispielen, und dann, wenn die Parameter so eingestellt ist, etwas neues im Prinzip generiert werden, genauso wie die Menschen oder auch Künstler aus Vorgängen lernen, aus vielen Bespielen, Kunstwerke, Bilder oder Texte oder auch die Menschen, und dann trotzdem was Originelles in der Lage sind zu produzieren. Also so Urheberrecht ist die Frage, ob jetzt AI ist oder dieses Trainings Algorithmus im Grunde entsteht, was weiß. Nur was wichtig wäre, ist natürlich zu kennzeichnen, zu sagen, okay, dieser Text oder dieses Bild wurde durch AI produziert, damit es zu keiner Verwirrungen oder Fake News kommt. Aber das ist natürlich die Frage, die jetzt viel diskutiert wird. Es ist noch nicht ganz klar, was erlaubt, wenn so oder nicht.
00:10:02
Igor Miladinovic: Gut, am Anfang haben wir gehört, dass hinter ChatGPT eigentlich Mechanismen stehen, die jetzt nicht so typisch für oder unique für ChatGPT sind. Das heißt ChatGPT ist ein Produkt, das diese Mechanismen benutzt. Gibt es weitere Alternativen zu ChatGPT?
00:10:21
Mugdim Bublin: Ja schon, also gibt es zum Beispiel von Google LaMDA, ChatSonic. Dann gibt's Nvidia, Microsoft Produkt, MegaTron, Turin, Natural language Generation und es werden natürlich auch neue Generationen von ChatGPT kommen. Also wie ChatGPT 4.0 da gibt's schon einige Anbieter, besonders diese großen Firmen wie Amazon, Google, Microsoft, OpenAI. Die werden da jede mindestens ein Produkt haben.
00:10:52
Igor Miladinovic: Und was ist typisch für diese neue Version? ChatGPT 4.0?
00:10:57
Mugdim Bublin: Ist noch leistungsfähiger, hat mehr Parameter, kann auch mehr mit diesen grafischen Eingaben umgehen. Ein- und Ausgaben wird wahrscheinlich auch an Internet angeschlossen, also die Idee, dass man das mit Internetsuchmaschine wie zum Beispiel Bing von Microsoft verbindet, damit wird die Informationen aktueller, macht weniger Fehler was ich vorher angesprochen habe, zum Beispiel diese Hallucinationen, falsche Angaben. Genauere Referenzen und so.
00:11:28
Sigrid Schefer-Wenzl: Und wie schätzt du denn die zukünftige Entwicklung von ChatGPT und ähnlichen Systemen ein? Wo geht das hin?
00:11:36
Mugdim Bublin: Ja, also zunächst mal, es wird einfach weiterentwickelt, egal was man sagt. Wenn eine Technologie, was den Menschen bringt, nützlich ist, dann wird auch genutzt und weiterentwickelt, wenn ihn zufällig in einem Land, das verboten wird, wird sie halt in anderen Ländern. Also, an das kommt man nicht vorbei. Was für mich wichtig ist, das ist, glaube ich, immer noch ein Tool. Zwar leistungsfähiges Tool, aber immer noch ein Tool und es liegt noch immer an Menschen, wie wir dieses Tool verwenden oder Zukunftsversionen die vielleicht noch leistungsfähiger, oder auf jeden Fall leistungsfähiger sein werden, und dabei ist es sehr wichtig die Bildung, dass die Menschen lernen, diese Systeme richtig zu verwenden, und dazu braucht man, glaube nicht nur Mathematik oder Informatik, sondern vor allem, glaube humanistische Bildung, humanistische Werte, dass man weiß, was ist jetzt richtiges Anwendungsgebiet von diesen Tools, wie kann man das optimal einsetzen, verwenden und was wichtig ist bei der Bildung? Die Schüler oder Studierende werden nicht weniger lernen müssen, weil es jetzt AI gibt, sondern anders, anders, vielleicht weniger auswendig oder noch weniger auswendig, aber mehr sollen sie verstehen lernen und auch kritisch denken, und ich glaube also, wie jede Technologie AI ist auch kein gut oder schlecht an sich, sondern es kommt immer auf den den Ansatz. Und weil das so leistungsfähig ist wir müssen in der Lage sein, das richtig zu verwenden, das zu verstehen, wie das entwickelt wurde und was ich jetzt richtiger Einsatz dafür auf einer Seite, auf der anderen Seite müssen auch glaube, etwas moralischer werden, das wichtig einzusetzen, also weil umso mehr leistungsfähigere Tools wir haben, desto potenziell größere Gefahr ist, wenn wir das falsch einsetzen. Deswegen diese Missbrauch so mal irgendwie versuchen zu verhindern.
00:13:43
Igor Miladinovic: Okay, vielen dank Mugdim für diese Überlegungen, diese deine Meinung über ChatGPT. So zusammenfassend: es ist eine neue Technologie. Die ist gekommen, und die wird bleiben, wie jede neue Technologie löst sie gemischte Gefühle aus. Das ist auch normal. Das war auch mit mit dem Buchdruck so. Damals hat man auch geglaubt, dass wie alle blind sein werden, wenn wir so viel lesen. Im Endeffekt ist es ein Tool, und ein Tool kann man sinvoll einsetzen. Man kann natürlich ein Tool so einsetzen, dass es natürlich eine Bedrohung wird. Und hoffen wir, dass wir mit dem ChatGPT gut umgehen können und dass vor allen unsere Studierenden, auch im Studium lernen damit sinnvoll umzugehen.
00:14:25
Mugdim Bublin: Ja, das ist auch mein Anliegen, und vielen Dank auch für die Einladung, die Gelegenheit, die bisschen Gedanken über ChatGPT zu sagen.
00:14:33
Igor Miladinovic: Vielen dank für das Zuhören und bis zum nächsten Mal!
00:14:38
Sigrid Schefer-Wenzl: Bis zum nächsten Mal!
