Trojaner im KI-Tool – wann empfiehlt ChatGPT dir Krisenhilfe?

In Folge 16 geht es um Vertrauen: Wann hilft dir ein KI-Tool wirklich, wann kann es zur Falle werden, und wie soll ChatGPT in ernsten Krisensituationen zu echter Hilfe führen? Pia erklärt, warum gefälschte KI-Tools und schädliche Downloads auf Model-Plattformen ein echtes Risiko sind. Danach geht es um OpenAIs Trusted Contact in ChatGPT: ein freiwilliges Feature, das in sehr ernsten Krisensituationen eine vertraute Person einbeziehen kann, aber professionelle Hilfe nicht ersetzt. Im KI-Hack zeigt Kevin, wie du die Perplexity-App auf dem Mac ausprobieren kannst und worauf du bei Zugriffsrechten achten solltest. Wenn du selbst in einer akuten Krise bist oder an Selbstverletzung denkst: Bitte hol dir sofort echte Hilfe. In Deutschland erreichst du die Telefonseelsorge kostenlos unter 0800 111 0 111 oder 0800 111 0 222. Bei akuter Gefahr ruf den Notruf.

Transcript

SPEAKER_01 0:00

Stell dir vor, du lädst ein KI-Tool herunter, weil es praktisch klingt, einen Datenschutzfilter, ein kleiner Helfer. Vielleicht sogar mit einem Namen, der nach einem bekannten Anbieter klingt. Und dann installierst du nicht Hilfe, sondern Schadsoftware. Genau darum geht es heute, wann KI dich unterstützt, wann ein KI-Tool zur Falle wird und warum echte Hilfe manchmal wichtiger ist als jede Antwort aus dem Chat. Hey, willkommen bei KI für Dich. Ich bin Pia. Heute geht es um zwei sehr unterschiedliche KI-Nachrichten, die trotzdem zusammengehören. Die eine zeigt, wie gefährlich falsches Vertrauen sein kann. Die andere zeigt, wie KI in einem ernsten Moment den Weg zu echter menschlicher Hilfe öffnen soll. Starten wir mit der Warnung. Es gibt Plattformen wie Hugging Face. Stell dir das grob wie einen App-Store für KI-Modelle vor. Entwicklerinnen und Entwickler können dort KI-Modelle hochladen. Andere können sie testen, herunterladen oder in eigene Projekte einbauen. Das ist für Forschung und Entwicklung extrem nützlich. Aber genau dort liegt auch ein Risiko. Wenn etwas wie ein hilfreiches KI-Modell aussieht, muss es nicht automatisch harmlos sein. Sicherheitsforscher haben immer wieder schädliche Dateien und Modelle auf solchen Plattformen gefunden. Teilweise tarnen sie sich als nützliche Tools, zum Beispiel als angeblicher Datenschutzfilter oder Hilfsprogramm. Der Name klingt vertrauenswürdig. Die Seite sieht technisch seriös aus und trotzdem kann dahinter Chartcode stecken. Das ist im Kern ein Trojaner, also etwas, das von außen nützlich aussieht, innen aber etwas Gefährliches versteckt. Bei einem KI-Tool kann das bedeuten, es liest Daten aus, startet heimlich Befehle oder versucht Zugangsdaten zu stehlen. Ich habe das einer Bekannten erklärt, die gerne neue KI-Tools ausprobiert. Ihre erste Reaktion war, aber wenn das auf einer richtigen Plattform steht, ist es doch geprüft, oder? Und genau da wird es spannend. Eine bekannte Plattform ist kein Freifahrtschein. Sie kann viel prüfen und löschen, aber sie kann nicht verhindern, dass neue Fakes wieder auftauchen. Was heißt das für dich? Erstens, lade KI-Tools möglichst direkt von der offiziellen Webseite des Herstellers. Wenn ein Tool angeblich von OpenAI, Perplexity oder einem anderen bekannten Anbieter kommt, geh selbst auf die offizielle Seite und suche es dort. Zweitens, sei vorsichtig bei Dateien, die du lokal installierst. Ein Chat im Browser ist etwas anderes als ein Programm, das auf deinem Rechner läuft und Zugriff auf Dateien bekommt. Drittens, gib einer App nur die Rechte, die sie wirklich braucht. Wenn ein kleines Tool plötzlich Zugriff auf deine Dokumente, deinen Browser oder deine Passwörter möchte, sollte bei dir innerlich eine Warnlampe angehen. Und jetzt kommt der zweite Teil. Der klingt erst einmal komplett anders, hat aber mit Vertrauen zu tun. OpenAI hat für ChatGPT eine Funktion namens Trusted Contact vorgestellt. Auf Deutsch könnte man sagen, Vertrauenskontakt. Die Idee ist, eine erwachsene Person kann in ChatGPT freiwillig einen Menschen eintragen, dem sie vertraut. Diese Person muss die Einladung annehmen. Erst dann ist sie wirklich als Vertrauenskontakt hinterlegt. Wichtig, das ist kein Notrufsystem. Und es ersetzt keine Therapie, keine Ärztin, keinen Arzt und keine Krisenhilfe. Aber stell dir folgende Situation vor. Jemand schreibt über längere Zeit mit ChatGPT und äußert dabei sehr ernste Hinweise auf Selbstverletzung oder Suizidgedanken. Dann können automatische Systeme anschlagen. Nach den offiziellen OpenAI-Informationen kann so ein Fall zusätzlich von geschulten Reviewerinnen oder Reviewern geprüft werden. Wenn die Einschätzung lautet, dass eine akute Gefahr bestehen könnte, kann ChatGPT die Person darauf hinweisen, dass der eingetragene Vertrauenskontakt informiert werden könnte. Die betroffene Person soll ermutigt werden, selbst Hilfe zu holen oder den Kontakt selbst anzuschreiben. Und wenn die Situation sehr ernst wirkt, kann dieser Vertrauenskontakt eine kurze Benachrichtigung bekommen. Nicht den ganzen Chat. Keine vollständigen Gesprächsinhalte, sondern einen Hinweis, dass die Person möglicherweise Unterstützung braucht. Ganz konkret könnte das so aussehen. Du schreibst ChatGPT in einer sehr dunklen Situation. ChatGPT antwortet nicht einfach mit einem normalen Ratschlag und macht weiter. Stattdessen kann es sagen, das klingt gerade sehr ernst. Du musst damit nicht allein bleiben. Bitte wende dich jetzt an eine vertraute Person oder professionelle Hilfe. Wenn Trusted Contact eingerichtet ist, kann zusätzlich der Hinweis kommen, dass dein Vertrauenskontakt informiert werden kann. Das ist ein schwieriger Balanceakt. Einerseits kann so einem System helfen, weil manche Menschen in einer Krise eher einer KI schreiben als einem Menschen. Andererseits ist es sensibel, weil niemand möchte, dass eine KI leichtfertig Alarm schlägt. Darum ist die genaue Ausgestaltung so wichtig, freiwillig, transparent, mit menschlicher Prüfung bei ernsten Fällen und ohne Chat-Transkript an den Kontakt. Wenn du selbst gerade in einer Krise bist oder an Selbstverletzung denkst, bitte hol dir sofort echte Hilfe. In Deutschland erreichst du die Telefonseelsorge kostenlos unter 0. 800 111 0111 oder 0800 111 0222 rund um die Uhr. Und wenn akute Gefahr besteht, ruf den Notruf.

SPEAKER_00 6:29

Und hier, unser KI-Hack Perplexity hat seine Mac App für mehr Nutzer verfügbar gemacht. Kurz erklärt, ein Mac ist ein Computer von Apple. Also nicht das iPhone und nicht das iPad, sondern ein Laptop oder Desktop-Rechner mit Apples Betriebssystem. Mac OS. Die Perplexity App ist interessant, weil sie wie ein Rechercheassistent direkt auf deinem Computer sitzt. Du kannst dir Fragen stellen und sie hilft dir beim Suchen, Zusammenfassen und Einordnen. So probierst du es aus. Schritt 1. Geh auf die offizielle Webseite perplexity. App nur dort herunter. Schritt zwei. Stell eine konkrete Aufgabe. Zum Beispiel, fasse mir die wichtigsten KI-Nachrichten der Woche zusammen. Oder welche kostenlosen PDF-Tools für Mac sind seriös. Schritt 3. Schau genau hin, welche Zugriffsrechte die App möchte. Gib der App nur Zugriff auf das, was du wirklich brauchst. Daher, neue KI-Tools können nützlich sein. Aber der sicherste Download ist immer der offizielle Download.

SPEAKER_01 7:38

Genau das ist der Punkt. KI kann dir helfen, aber du solltest nicht jedem Tool blind vertrauen. Meine Frage an dich, hast du schon mal ein KI-Tool gesehen, bei dem du dachtest, das sieht irgendwie komisch aus? Oder würdest du so einen Trusted Contact in ChatGPT einrichten? Schreib uns einfach, wo immer du uns findest. Und wenn dich ein KI-Thema beschäftigt, nimm es gern mit zu uns. Wir nehmen deine Themenwünsche wirklich in die nächsten Folgen auf. Das war es für heute von KI für dich. Bleib neugierig, bleib vorsichtig und mach es gut.