Benchmarking von selbst gehosteten LLMs (clt26)

Benchmarking von selbst gehosteten LLMs (clt26)

Author: CCC media team March 29, 2026 Duration: 54:27
Large Language Models (LLMs) revolutionieren derzeit Arbeitsprozesse in der Dokumentenverarbeitung, der Softwareentwicklung und dem Wissensmanagement. Doch die Bequemlichkeit der Nutzung großer Cloud-Anbieter hat einen hohen Preis: Den Verlust der digitalen Souveränität. Wer weder Datenschutz noch volle Kontrolle über die zugrunde liegenden Prozesse garantieren kann, begibt sich in eine riskante Abhängigkeit. Die Lösung ist der Betrieb eigener Modelle auf kontrollierter Infrastruktur. Da High-End-Enterprise-GPUs (wie die H100) oft das Budget sprengen, haben wir am Rechenzentrum der Universität Leipzig untersucht, wie sich LLMs auf „erschwinglicher“ Hardware im Rechenzentrums-Maßstab realisieren lassen. In diesem Vortrag präsentieren wir die Ergebnisse unserer Benchmarking-Studie im Kontext des Kiara-Clusters. Wir analysieren die Performance aktueller Open-Source-Modelle – verschiedene Varianten von Llama 3, Llama 4 sowie DeepSeek – auf NVIDIA L40s-Karten. Dabei berichten wir von unseren Erfahrungen bei der Einrichtung und den Fallstricken im Betrieb. Licensed to the public under http://creativecommons.org/licenses/by/4.0 about this event: https://chemnitzer.linux-tage.de/2026/de/programm/beitrag/279

Tune into the Chaos Computer Club-recent events feed for a direct line to the forefront of digital culture and critical technology discourse. Curated by the CCC media team, this podcast channels the raw, insightful atmosphere of Europe's most influential hacker association, bringing you recordings from their major gatherings and community events. Each episode is a deep dive into talks and presentations from the last two years, covering topics from cryptography and privacy rights to hardware hacking, societal impacts of surveillance, and open-source philosophy. You'll hear from researchers, activists, and engineers who are actively shaping our digital future, offering perspectives rarely found in mainstream tech conversations. This isn't a produced show with hosts; it's an archival audio stream of genuine conference sessions, complete with audience questions and the spontaneous energy of the live event. For anyone interested in the technical details and ethical debates at the heart of modern technology, this feed serves as an essential, unfiltered resource. Subscribe to this podcast to keep your finger on the pulse of the Chaos Computer Club's ongoing dialogue, where complex ideas are broken down and the tools for a more empowered digital life are openly discussed.
Author: Episodes: 100

Chaos Computer Club - recent events feed
Podcast Episodes
Elektronische Schlüssel Profilfräsen (eh23) [not-audio_url] [/not-audio_url]

Duration: 56:51
Der Schlüsselkopierschutz von Schließanlagen basiert darauf, das man die entsprechenden Schlüsselrohlinge nicht bekommt. Wie fräst man einen passenden Schlüssel aus einem Vollbart Rohling, von dem ersten modifizierten Or…
Gotta Hack 'Em All! Pokémon (eh23) [not-audio_url] [/not-audio_url]

Duration: 30:49
Viele kennen ja einige Hacks oder Glitches in Pokémon Rot und Blau. Wie aber funktionieren diese genau? Was passiert da eigentlich im Code? Was macht das ganze überhaupt möglich? Schauen wir uns das Ganze doch mal genaue…
How NOT to IPv6 (eh23) [not-audio_url] [/not-audio_url]

Duration: 30:01
Ein buntes Potpourri an Worst-Practices wie man die IPv6 Einführung nicht schafft. Die Transition des Internets von IPv4 zu IPv6 dauert jetzt schon weit über 20 Jahre, trotzdem geht sie in einigen Bereichen nur schleppen…
The commit history is a lie (eh23) [not-audio_url] [/not-audio_url]

Duration: 31:42
Bei diesem Talk gebe ich eine Einführung in Conventional Commits und was diese mit Semantic Versioning - also Versionierung im Stil "v1.6.1" - zu tun haben. Damit eure Git Historie nicht lästig, sondern hilfreich ist, un…
No Magic, Just Modbus (eh23) [not-audio_url] [/not-audio_url]

Duration: 27:24
OT (Operational Technology) ist nicht nur IT mit dickeren Kabeln. Dieser Talk führt in das Thema Sicherheit in industriellen Steuerungssystemen ein und zeigt, wie man Angriffe mit Frameworks strukturiert analysieren und…
Public-Public Data-DNA (eh23) [not-audio_url] [/not-audio_url]

Duration: 27:13
_Hier werden **offene Daten aus den Fachverfahren** unserer Verwaltungen mit **unseren öffentlichen Datenquellen** (OSM, WikiData, ..) verzahnt!_ Ähnlich eine DNA die beiden Stränge verbindet, synchronisiert p2d2 offene…
Open Source Lizenzen (eh23) [not-audio_url] [/not-audio_url]

Duration: 48:26
Wir erzählen euch etwas über Open-Source-Lizenzen, ob sie so funktionieren wie gedacht und andere Absurditäten. Alle reden von Open Source. Wir nicht. Wir reden über Open-Source-Lizenzen! GPL haben alle wohl schonmal geh…
Ghost in the stochastic parrot (eh23) [not-audio_url] [/not-audio_url]

Duration: 58:47
Sci-fi started merging with the real world around 2022. That's when I started paying attention. Are LLMs definitely persons? Are they definitely not persons? What can we prove? (What about animals?) Machines indistinguis…