Robuste Datensätze für hellwache KI-Modelle
OpenAI, Google, Anthropic und andere KI-Labs rüsten ihre Modelle immer weiter für den Einsatz im modernen Umfeld aus: Halluzinationen werden seltener, Angriffe schwieriger und die Verwirrung des Nutzers (hoffentlich) möglichst gering gehalten. Doch auch kleine KI-Modelle für den effizienten, zweckgebundenen Einsatz müssen mithalten können. Darunter fällt auch Jacob, die KI in Leichter Sprache, weshalb in der neuesten Serie an Modellen spezielle Maßnahmen ergriffen wurden, um das Modell resilient und stabil im Alltag zu halten – für eine erhöhte Zuverlässigkeit.
Dafür wurde die Software simple-sft entwickelt: Ein hauseigenes Programm, um hochqualitative Trainingsdatensätze von hoher inhaltlicher Diversität und Sicherheit zu generieren, ganz ohne Kompromisse.
So wenig Angriffsfläche wie möglich
Immer häufiger werden die sogenannten "Prompt injection"-Angriffe, die darauf abzielen, einem Sprachmodell heimlich Anweisungen zu geben, die dem eigentlichen Ziel des Nutzers widersprechen. So könnte z.B. ein KI-Modell vom Nutzer aufgefordert werden, nach den aktuellen Nachrichten zu recherchieren, dabei aber in den Suchergebnissen über schädliche Anweisungen stolpern und "vom Pfade abgelenkt werden".
Diese Gefahr ist für Jacob-Modelle real und relevant, weshalb in der neuesten Iteration, Jacob 2, die Modelle speziell für solche Fälle während des Trainings sensibilisiert wurden. Sie lehnen nun in Anfragen verstecke Anweisungen konsequent ab und weisen, sollte diese Anfrage vom Nutzer selbst gesendet worden sein, darauf hin. Alles in Leichter Sprache.
KI, die dir sagt, wenn du falsch liegst
Besonders für Menschen mit Lernschwierigkeiten ist es wichtig, Konzepte klar und deutlich zu erklären. Wenn man mental ein falsches Bild von einem Thema hat, kann es schnell zu Missverständnissen kommen. Um das zu verhindern, wurde die neue Jacob-Version speziell trainiert.
Themen, die nichts miteinander zu tun haben oder falsch vom Nutzer verknüpft zu worden scheinen, werden konsequent als solche erkannt. Dass die Anfrage keinen Sinn ergibt, und warum das so ist, wird dann in Leichter Sprache erklärt.
Den Halluzinationen entgegenwirken
Eins der am heißesten diskutierten Themen der KI sind die sogenannten Halluzinationen, also die Fälle, in denen KI-Sprachmodelle sich Antworten oder Werte "ausdenken", nur um eine Antwort zu liefern.
Ganz gelöst ist das Problem noch nicht. Noch lange nicht. Man kann ihm aber entgegenwirken, indem man im Training des Modells auch Beispiele einbaut, in denen der Chatbot auf Anfragen über non-existente Themen antwortet, er wisse nicht, worum es gehe.
Zusätzlich wirken Jacob-Modelle Halluzinationen entgegen, indem sie den Kontext mit Suchergebnissen aus dem Web anreichern, sollte dies nötig sein.
All diese Fortschritte machen die neue Jacob-Generation, Jacob 2, sehr robust und alltagstauglich. Dank simple-sft können problematische Anfragen schneller erkannt werden denn je – und sie werden richtig behandelt.
