Neue freie LLMs und die Möglichkeit eines API-Zugriffs bei genAI4BUW
m Gegensatz zu den bereits bis dato einsetzbaren Modellen handelt sich hierbei nun erstmals um sog. Open-Weight Sprachmodelle auf landeseigener Infrastruktur! Die Modelle werden an den High-Performance-Computing-Zentren (HPC) in Aachen und Köln betrieben, was eine gute Performance erwarten lässt. Konkret verwendbar sind nunmehr im Chat die LLMs Mistral Small 4 119B sowie GPT OSS 120B, technik-affinere Nutzer dürfen sich darüber hinaus über die Möglichkeit eines API-Zugriffs auf Qwen3 Embedding 8B und E5 Mistral 7B Instruct freuen.
Nähere Informationen (auch zum API-Zugriff) bietet die diesbzgl. Nachricht des ZIM.
Falls Sie noch nicht genAI4BUW nutzen: Der Zugang zu genAI4BUW und viele Informationen zur Nutzung des Dienstes finden Sie auf der Webseite von genAI4BUW: https://genai4buw.uni-wuppertal.de/. Falls Sie Unterstützung bei der Nutzung von genAI4BUW benötigen, finden Sie hier die richtigen Ansprechpersonen in einer entsprechenden Übersicht auf genAI4BUW.
