Benchmarking von selbst gehosteten LLMs (clt26)

Benchmarking von selbst gehosteten LLMs (clt26)

Author: CCC media team March 29, 2026 Duration: 54:27
Large Language Models (LLMs) revolutionieren derzeit Arbeitsprozesse in der Dokumentenverarbeitung, der Softwareentwicklung und dem Wissensmanagement. Doch die Bequemlichkeit der Nutzung großer Cloud-Anbieter hat einen hohen Preis: Den Verlust der digitalen Souveränität. Wer weder Datenschutz noch volle Kontrolle über die zugrunde liegenden Prozesse garantieren kann, begibt sich in eine riskante Abhängigkeit. Die Lösung ist der Betrieb eigener Modelle auf kontrollierter Infrastruktur. Da High-End-Enterprise-GPUs (wie die H100) oft das Budget sprengen, haben wir am Rechenzentrum der Universität Leipzig untersucht, wie sich LLMs auf „erschwinglicher“ Hardware im Rechenzentrums-Maßstab realisieren lassen. In diesem Vortrag präsentieren wir die Ergebnisse unserer Benchmarking-Studie im Kontext des Kiara-Clusters. Wir analysieren die Performance aktueller Open-Source-Modelle – verschiedene Varianten von Llama 3, Llama 4 sowie DeepSeek – auf NVIDIA L40s-Karten. Dabei berichten wir von unseren Erfahrungen bei der Einrichtung und den Fallstricken im Betrieb. Licensed to the public under http://creativecommons.org/licenses/by/4.0 about this event: https://chemnitzer.linux-tage.de/2026/de/programm/beitrag/279

Tune into the Chaos Computer Club-recent events feed for a direct line to the forefront of digital culture and critical technology discourse. Curated by the CCC media team, this podcast channels the raw, insightful atmosphere of Europe's most influential hacker association, bringing you recordings from their major gatherings and community events. Each episode is a deep dive into talks and presentations from the last two years, covering topics from cryptography and privacy rights to hardware hacking, societal impacts of surveillance, and open-source philosophy. You'll hear from researchers, activists, and engineers who are actively shaping our digital future, offering perspectives rarely found in mainstream tech conversations. This isn't a produced show with hosts; it's an archival audio stream of genuine conference sessions, complete with audience questions and the spontaneous energy of the live event. For anyone interested in the technical details and ethical debates at the heart of modern technology, this feed serves as an essential, unfiltered resource. Subscribe to this podcast to keep your finger on the pulse of the Chaos Computer Club's ongoing dialogue, where complex ideas are broken down and the tools for a more empowered digital life are openly discussed.
Author: Episodes: 100

Chaos Computer Club - recent events feed
Podcast Episodes
A decade of certificate transparency and what may come next (eh23) [not-audio_url] [/not-audio_url]

Duration: 1:00:45
Certificate Transparency (RFC 6962) is a protocol that aims to provide additional security to the WebPKI ecosystem, which is used as the root of trust in TLS connections of the browsers. The idea is that issued certifica…
Consent Theater & Interface Oper: Dark Patterns im Alltag (eh23) [not-audio_url] [/not-audio_url]

Duration: 30:28
Du willst nur kurz ein Spiel starten, einen Artikel lesen oder „nur schnell“ etwas bestellen – und plötzlich hast du ein Abo, teilst mehr Daten als geplant oder hängst seit 40 Minuten in einem Feed. Das ist kein Zufall:…
Warum sind hier überall Seile? (eh23) [not-audio_url] [/not-audio_url]

Duration: 1:06:34
Die Seilbahn zur Festung Ehrenbreitstein ist aus Koblenz kaum noch wegzudenken. Doch wie ist es dazu gekommen? Woher kommt die Seilbahntechnik, wie funktioniert sie und ist das überhaupt sicher? Was sind Pendel-, Einseil…
Frequenzmessung unhörbarer Signale (eh23) [not-audio_url] [/not-audio_url]

Duration: 1:02:32
Vier Amateurfunk-Kurzwellensignale. Laut Ankündigung müssten sie da sein, aber zu hören ist: Nichts. Nur Rauschen. Trotzdem schaffe ich, von dreien dieser vier Signale die Frequenz auf ein Hz genau zu bestimmen! Ein pers…
Budget beams – Laser experiments in a hacker lab (eh23) [not-audio_url] [/not-audio_url]

Duration: 29:14
Science with lasers usually requires significant money. Instead, we use 3d-printing and the cheapest optics money can buy. We want to do real and useful coherent optics experiments, but without the budget. So we are deve…
Gemeinsame Reise durch deutsche Behördendomains (eh23) [not-audio_url] [/not-audio_url]

Duration: 46:32
In vielen Ländern sind staatliche .gov-Domains längst Standard - etwa gov.uk. In Deutschland dagegen sind gov.de oder bund.de bei staatlichen Stellen deutlich weniger verbreitet, als man erwarten würde. Stattdessen exist…
Handys ohne Big Tech - geht das? (eh23) [not-audio_url] [/not-audio_url]

Duration: 59:35
Viele Menschen versuchen aktuell Ihre digitale Souveränität zu stärken, doch in einem Bereich scheint das schwerer als in vielen anderen: das Handy Betriebssystem. In diesem Talk schauen wir uns die Alternativen zu Andro…