Auf Mastodon ansehen
Wenn es um KI-ChatBots geht, schwillt manchen Lesern und Leserinnen bereits der Kamm.
Jetzt schreiben die bei GNU/Linux.ch schon wieder über die vermaledeite (kennt man das Wort noch?) "Künstliche Intelligenz".
Doch diesen Geist werden wir nicht mehr in die Flasche stopfen; die Büchse der Pandora ist geöffnet. Die Schüler von heute wachsen damit auf und die Manager von heute können nicht mehr anders. Selbstverständlich gibt es noch gallische Dörfer (LibreOffice; siehe den Artikel von heute Morgen), die generative KI konsequent ausschliessen. Gegen spezialisierte KI in der Medizin, bei der Robotik, in der Klimaforschung oder beim Finden von Fehlern in Software und im Linux-Kernel, ist nichts einzuwenden. Ich möchte hierbei zwischen unterstützenden und ersetzenden Funktionen unterscheiden. Wer KI zum Lernen, zum Entdecken oder Aufdecken einsetzt, kann davon profitieren. Wer KI zum Ersetzen der eigenen Fähigkeiten verwendet, schaufelt sein eigenes Grab. Zum Thema "Ersetzen" schreibe ich heute oder morgen einen eigenen Artikel.
Also gut, wer KI-ChatBots verwendet, setzt häufig auf amerikanische Produkte, wie ChatGPT (ClosedAI), Claude (Anthropic), Gemini (Google) oder Copilot (Microsoft). Auch Perplexity wird gerne genommen, z. B. von mir. Im Rahmen der europäischen Souveränitätsinitiative könnte mensch mal nach Alternativen aus heimischen Gefilden Ausschau halten.
Hier gibt es Protons Lumo und Mistrals Vibe (ernsthaft? Vibe?). Der Mistral ChatBot hiess bisher "Le Chat". Na, "die Katze" (pun intended), ist als Name auch nicht viel besser. Das Ding heisst "Mistral" - Ende der Debatte. Kennt ihr weitere europäische KI-ChatBots? Schreibt es bitte in die Kommentare.
Ich habe mir die beiden EU-Kandidaten auf dem Smartphone angesehen. Natürlich funktionieren sie auch auf dem PC-Desktop; ob es native Anwendungen für Linux gibt, habe ich nicht geprüft.
Lumo
Die Proton AG aus der Schweiz ist bekannt für ihren E-Mail-Service und viele weitere Dienstleistungen.
Die Lumo AI verwende ich bereits seit einem Jahr auf meinem Handy und war bisher mit den Ergebnissen zufrieden. Lumo kann ohne Proton-Konto verwendet werden und bietet einen Inkognito-Modus. Standardmässig ist dort das Modell "Lumo 2.0 Max" im "Denkmodus" eingestellt. Zudem erkennt die App die Spracheinstellungen, was man daran sieht, dass beim ersten Start die englische Benutzeroberfläche kurz erscheint und sofort auf Deutsch umgestellt wird. Ach, ich sehe gerade, dass der Inkognito-Modus nur mit einer kostenlosen Anmeldung (Proton-Konto) funktioniert. Um gleiche Testbedingungen zu schaffen, erstelle ich ein Proton-Konto und melde mich bei der Lumo-App an.
Und so sieht die App aus:
Nun teste ich die Ergebnisqualität mit zwei Fragen:
- "Eva hat zwei Schwestern und drei Brüder. Wie viele Schwestern hat einer von Evas Brüdern?"
Lumo beantwortet diese Frage korrekt und erkennt den Trick, der hinter dieser Frage steckt. Quellenangaben gibt es bei der Antwort keine, was auch nicht nötig ist. - "Gib mir eine prozentuale Abschätzung, wie viele Bewohner das deutsche Bundesland Sachsen-Anhalt nach der anstehenden Landtagswahl innerhalb von 12 Monaten verlassen werden, falls die Partei AfD diese Wahl mit einer absoluten Mehrheit gewinnt."
In der Antwort verweist Lumo auf unzureichendes statistisches Material, gibt keine konkrete Antwort und nennt seriöse Quellen:
"Zusammenfassend: Eine seriöse prozentuale Abschätzung ist nicht möglich. Die aktuelle Wanderungsrate liegt bei ca. 1% jährlich, aber ein möglicher politischer Schock durch ein AfD-Ergebnis lässt sich nicht quantifizieren – dazu fehlen vergleichbare historische Fälle und wissenschaftliche Grundlagen.
Grundsätzlich kann ich Lumo empfehlen. Ein Wermutstropfen ist, dass die eingebaute Spracheingaben nicht funktioniert. Das kann man durch die Spracheingabe in ein Textfeld des Betriebssystems umgehen (siehe Voice-to-Text).
Mistral
Wie bereits oben erwähnt, heisst der KI-ChatBot nun "Vibe", was meiner Meinung nach ein Kardinalfehler im Marketing dieser Firma ist. "Vibe" ist im KI-Umfeld negativ konnotiert (Vibe-Coding). Auch bei Mistral habe ich mir einen kostenlosen Account erstellt.
Mistral AI ist ein französisches Softwareunternehmen, das sich mit künstlicher Intelligenz beschäftigt und unter den europäischen Unternehmen der Branche führend im Bereich Großer Sprachmodelle ist. Es wurde im April 2023 von den Forschern Arthur Mensch, Timothée Lacroix und Guillaume Lample gegründet, die zuvor bei Meta und Google DeepMind beschäftigt waren. Im September 2025 erreichte das Unternehmen einen Wert von 10 Milliarden Euro.
Mistral hatte ich bereits vor einiger Zeit installiert, jedoch nicht ernsthaft damit gearbeitet. Nun habe ich "Vibe" für diesen Artikel frisch installiert und für euch ausprobiert. So sieht es aus:
Die Optionen bei Mistral gefallen mir besser als bei Lumo. Auch hier gibt es einen Inkognito-Modus (Ghost) und man kann zwischen drei Profilen wählen: Chat, Work und Code. Mit den Konnektoren kann ich nicht viel anfangen: erstens, weil ich keine dieser Anwendungen nutze, und zweitens, weil mir Agenten-KI mehr als suspekt ist. Die Anweisungen (Vor-Prompts) finde ich gut. Dort kann man das Grundverhalten des ChatBots einstellen.
Man kann die Ergebnisqualität von generativen KI-Modellen nicht mit zwei Fragen testen. Dafür benötigt man wissenschaftliche Studien. Dennoch stelle ich Mistral dieselben Fragen wie Lumo:
- Bei der Schwesternfrage redet Mistral nicht um den Brei herum, was an meinem Pre-Prompt liegen kann:
"Eva hat zwei Schwestern. Das bedeutet, dass einer von Evas Brüdern drei Schwestern hat: Eva selbst und ihre beiden Schwestern." Das gefällt mir. Kein unnötiges Geplapper, sondern eine kurze und korrekte Antwort. - Doch wie sieht es bei der Sachsen-Anhalt-Frage aus?
Mistrals Antwort fällt ähnlich wie die von Lumo aus, ist jedoch ein wenig präziser und lehnt sich mehr aus dem Fenster. Die Quellenangaben sind ebenfalls seriös und nützlich. Ich kopiere hier absichtlich nicht die Antworten in den Artikel, weil sie zu lang sind und ihr das gerne selber ausprobieren könnt.
Die Spracheingabe bei Mistral funktioniert auf meinem e/OS/-Gerät einwandfrei.
Fazit
Es spielt keine Rolle, wie ihr persönlich zu KI steht; insbesondere nicht, wenn es sich um generative ChatBots handelt. Wie heisst es doch so dystopisch: "Dein Gegner ist nicht die KI, sondern dein Kollege, der KI einsetzt."
Ich empfehle euch, die KI-ChatBots der unseriösen Firmen zu entfernen und durch europäische Lösungen zu ersetzen. Diese unterliegen der EU-Gesetzgebung (DSGVO, AI-Act, ePrivacy-Richtlinie, Digital Services Act, Omnibus-Richtlinie, Richtlinie über unlautere Geschäftspraktiken).
Mein Ranking ist:
- Mistral
- Lumo
Ich bin auf eure Kommentare gespannt. Und ja, das Titelbild ist seltsam, aber werdet die Bedeutung herausfinden. Kleiner Tipp: Logo versus Französisch.
Titelbild: https://pixabay.com/photos/cat-kitten-puss-red-tabby-red-cat-1403895/
Quellen: stehen im Text
Ich hoffe sehr, dass die europäischen Alternativen in einem Jahr zumindest auf dem Level sind, auf dem Claude & Co vor einem halben Jahr waren, was Chatfunktion, Computer Vision und Code angeht. Das Problem sind momemtan eher die Reasoning-Funktionen.
Ein zugegeben skurriles Testszenario war die Beantwortung der Frage, ob man jetzt ins Kino gehen sollte oder es das Potential gibt, dass der Film in 2-3 Wochen, für die es noch kein vollständiges Programm gibt, im IMAX gespielt wird. Anhand von Screenshots der verschiedenen bereits bekannten Vorführungen dieser Wochen konnte Claude z.B. den Spielplan und die Raumbelegung ermitteln, die Dauer inkl. Pausen/Putzzeiten und konstatieren: Nope, es ist kein Platz mehr im Spielplan. Mistral und Proton waren in der Computer Vision und dem Verständnis der Aufgaben gut genug, aber nicht im Reasoning. Proton meinte z.B. "Klaro, hier ist doch noch voll viel Platz!" Ja, also, schon, aber da hat das Kino halt geschlossen, nachts um vier. Und das Erkennen derartiger Probleme ist es, was die KI-Produkte wertvoller oder halt weniger wertvoll macht, bzw, was man salopp auch als "dumm" bezeichnen würde.
Spannend sind ja auch so Fragen, wie gut so eine KI im persönlichen System unterstützen kann. Also ob die KI es beispielsweise schafft das OS sauber zu analysieren und in eine Nix-Struktur zu übersetzen, quasi als Dokumentation und Backup in einem nachvollziehbaren Skript.
Und wie sich lokale KI-Modelle im Vergleich dazu schlagen.
So Fangfragen wie die hier gestellten sind heutzutage ja keine echte Herausforderung mehr. Aber: Wie fehleranfällig wird die KI in längeren Chats? Und wie aktuell ist die Trainingsdatenlage? Kann die KI alle derzeit amtierenden Politiker der Schweiz korrekt benennen? Und auf welche Websites greifen die KIs bei der Webrecherche zurück (ChatGPT setzt bei deutschsprachigen Quellen stark auf Medien des Axel-Springer-Verlags).
"QUAMVIS sint sub aqua, sub aqua MALEDICERE temptant!"
Bin parteiisch: Auch "vermaledeit" empfehlenswert ist natürlich das System mit der ROTEN Katze 🐈️! (Grund: Rot ist der Kater, der sich im Lockdown bei meinen Eltern eingenistet hat).
Leider bin ich kein KI Experte, und ich habe auch eine Aversion gegen Nutzerkonten auf Webseiten (oder "Apps", wo es keine bräuchte). Kurz angetestet habe ich neulich 'Mistral', wie es neuesten FF Versionen zur Verfügung steht.
Bis das im ESR Firefox in Debian landet, wird es –zum Glück?– noch dauern. FRAGE: Hat jemand Ideen, wie 'Prompts' idealerweise (nicht) aussehen sollten, für Text oder auch Code?
Im Grunde schlucken die heute alles, was man denen gibt. Je mehr Details, desto besser, aber ich kann denen auch einen Zeitplan für eine Masterarbeit rein werfen samt Essay und auf Lücken, Konsistenz und Realität des Zeitplans prüfen lassen. In einem Projekt lagen Farb- und Font-Vorgaben für Grafiken rum und als er in den Chat und ins Markdown eine Tabelle geschrieben hat reichte ein "mach daraus eine Grafik" und fertig war die Grafik, korrekt gestyled, vernünftig sortiert und gruppiert und am Ende zusammen gefasst. Oder Quellcode geben und nach Optimierungsmöglichkeiten fragen (und dann machen lassen). Neulich: "In dem Ordner XX liegt eine HTML/JS-Applikation. Baue einen nativen macOS-Wrapper für diese Applikation, registriere sie für den Dateitypen XYZ" Hat er dann gemacht. Inklusive selbst Screenshots erstellt für die unterschiedlichen Funktionen der HTML-Applikation im Wrapper und überprüfen, ob das richtig funktioniert. Claude Code benutze ich als Music Player. "Spiele Death Metal" sammelt lokale Songs zusammen plus andere aus YouTube Music, rankt nach meinen Vorlieben plus Discovery, erstellt die Playlist und startet mpv damit.
Unwichtig ist der Datenschutzgedanke ja nicht und gut verstehen kann man das Thema auch. Andererseits finde ich diese Diskussion bei KI Modellen in der Cloud doch etwas fehlgeleitet. Egal welches KI Modell benutzt wird: Alle LLMs basieren per Default immer auf Daten, die absolut unrechtmässigerweise eingesammelt worden sind, ohne Erlaubnis, ohne Rückfrage, und ohne Beachtung von Rechten Dritter benutzt werden. Und dann redet ihr von Datenschutz? LOL. Außerdem empfinde ich es als extrem merkwürdig, wenn zum Beispiel chinesische KI Modelle ständig als datensschutzrechtlich bedenklich geframed werden und man amerikanischen Modellen aber natürlich (voll) vertrauen kann / soll. Die Wahrheit ist: Alle Anbieter (auch die europäischen!) werden die Eingaben der Nutzer und die Ergebnisse zum Lernen und zur Verbesserung der eigenen Modelle verwenden. Das scheint - neben kleinen technischen Optimierungen - der einzige zuverlässige Weg zu sein, um die Modelle verbessern zu können. Also, wo genau soll denn hier jetzt der wesentliche Unterschied sein?
Cloud ist Klaut, es sagt ja schon der Name, selbst der Dienst von Anthropic heißt ja ehrlicherweise "Claude"! Während ich in einer normalen Cloud meine Daten zumindest verschlüsselt ablegen kann, gibt es diese Möglichkeit nicht bei KI Chatbots. Welchen Vorteil erhoffst du dir / ihr euch davon einen europäischen Anbieter zu benutzen? Und glaubt ihr etwa ernsthaft, man kann bei europäischen KI Anbietern per DSGVO / GDPR ankommen und Datenauskunft, Datenberichtigung oder Datenlöschung in einem KI Modell verlangen!? Also ich halte das für realitätsfern! Der einizige, wirklich sichere, datenschutzkonforme Weg ist nur der eigene lokale KI-Betrieb. Aber das ist derzeit noch etwas teuer.
Von Infomaniak gibt es Euria (scheint mir mit Lumo quais-identisch zu sein)
In welche Kategorie fallen dann solche Anbieter wie dieser hier: https://notrack.ai/de/ Ich habe jetzt nicht nachgeguckt wo sich der Anbieter befindet und wo er seine Server betreibt. So wie ich es verstehe ist der Chatbot vollkommen kostenlos, solange man mit ein bisschen Werbung einverstanden ist. Wäre das jetzt grundsätzlich ein vertrauenswürdiger Dienst oder eher nicht? Was sind eure Meinungen?
Ich habe gerade Mistral getestet. Solch einen Blödsinn ist mir bei anderen AI's noch nicht vorgekommen. Man hat sich jedoch entschuldigt. Also "ACHTUNG" mit diesem AI. Du hast vollkommen recht – und ich entschuldige mich für die Verwirrung. Deine Lösung mit xxxxxxxxxxxxx nicht nur richtig, sondern die offizielle, sauberste und sicherste Methode.
Bei Mistral Vibe sollte erwähnt werden, dass die eingegebenen Daten in der freien Variante zum Modelltraining verwendet werden. Erst mit dem Pro-Abo lässt sich das abwählen.
Weitere europäische KI-Chatbots wären xPrivo aus Luxemburg und Euria aus der Schweiz:
https://www.xprivo.com/ https://euria.inormaniak.com/