Es gibt nun auch ein freies Open Source Sprachmodel (Teuken), welches u. a. vom Frauenhofer Institut erstellt wurde. Es spricht 24 europäische Sprachen und soll der Übermacht der kommerziellen Modelle etwas entgegen setzen (mehr Infos auf der offiziellen Seite hier).
Ich habe es getestet, für ein so frisch geschlüpftes Model macht es sich nicht schlecht.
Es steht ja noch ganz am Anfang, dafür kann man mehr als zufrieden sein, insbesondere, da die Entwickler an einigen Stellen Innovationen eingeführt haben, da wäre es schon ein Wunder, wenn es auf Anhieb perfekt laufen würde, war bei anderen Modellen nicht anders.
Da doch verschiedene Leute großes Interesse gezeigt haben, schreibe ich hier mal kurz, wie man es zum Laufen bekommt (Danke an Cristian Adam für die Hinweise!).
Das Original habe ich auf Englisch verfasst, weiter unten findet sich eine Übersetzung des Teuken Models selbst, da hat man gleich mal einen Eindruck davon, wie gut es - für Übersetzungen - funktioniert.
P.S.: Ja, Llamafile gibt es auch schon in neuerem Release, es sollte aber dennoch das hier sein, das neue streikt noch mit Teuken.
Kurztutorial auf Englisch:
- 1. Download the following files:
- 2.Put them somewhere that makes sense for you.
- 3. Rename the "llamafile file" to something that ends in ".exe" (i.e. change the extention to "exe")
- 4. Make a new textfile (right mouse click somewhere in an explorer window). Hint: Put it into a directory not too far away from the downloaded files, will make things much easier!
- 5. Copy the code below into the text file as a starting point and edit the lines that point to your llamafile executable and the model (the %scriptpath% variable will point to the location of your textfile, so you can use relative paths).
- 6. Find the "--host" parameter and change it to your local IP address (enter "ipconfig" without the quotation marks into a commandline window, it will show as IPv4 Address)
- 7. Find the command that starts your favourite browser and edit to your needs. As you can see, I used FF. Do as you please or just remove the lines, you can always start your browser manually.
- 8. Save the text file.
- 9. Double click the text file you just made. Wait a few seconds or open your browser with the address you provided. Chat away and do a good deed in return for this tutorial.
Und hier die Übersetzung von Teuken:
- 1. Laden Sie die folgenden Dateien herunter
- 2. Speichern Sie sie an einem Ort, der für Sie Sinn macht.
- 3. Benennen Sie das "llamafile" -File so um, dass es auf etwas endet, was mit ".exe" (z.B. ändern Sie den Dateinamen in "exe") lautet. [hier habe ich editiert, ex=>exe]
- 4. Erstellen Sie eine neue Textdatei (rechte Maustaste irgendwo im Explorer-Fenster). Tipp: Speichern Sie sie in einem Ordner nicht zu weit entfernt von den heruntergeladenen Dateien; das wird Dinge viel einfacher machen!
- 5. Kopieren und einfügen des folgenden Codes in die Textdatei als Ausgangspunkt, bearbeiten der Zeilen, die auf Ihr llamafile ausführbares Programm verweisen und dem Modell (die Variable %scriptpath% zeigt an, wo sich Ihre Textdatei befindet, so dass Sie relative Pfade verwenden können). 6. Finde den Parameter "--host" und ändere ihn in deine lokale IP-Adresse ein (öffnen Sie die Eingabeaufforderung ohne Anführungszeichen und geben Sie dort ipconfig ein; es wird als IPv4 angezeigt)
- 7. Suche nach dem Befehl, der deinen Lieblingsbrowser startet, und passe sie an. Wie man sehen kann, habe ich FF verwendet. Machen Sie das oder entfernen Sie einfach diese Zeilen, da können Sie immer Ihren Browser manuell starten.
- 8. Speichern des Textfiles mit der Endung "bat" (Achtung, wird von Windows gerne ausgeblendet, ggf unter "Ansicht" einschalten.
- 9. Doppelklicken auf den gerade erstellten Text-Datei. Warte ein paar Sekunden oder öffnen Sie Ihren Lieblingsbrowser mit der von Ihnen angegebenen Adresse.
- Chatten und eine gute Tat für diesen Tutorial tun!
Ich habe es weitestgehend gelassen, wie es ausgespuckt wurde (habe es als Liste formatiert und Zeilenumbrücke spendiert, einzige weitere Änderung ist im Klammern gekennzeichnet).
Man sieht, es ist noch Luft nach oben.
Trotzdem, ein guter Anfang im europäischen Geist der Datenfreiheit!
Viel Spaß, beim Ausprobieren!