Neuer Ollama Server mit 2× H100 für LLMs & Embeddings

Die KI-Werkstatt bietet ab sofort einen neuen Server mit zwei Nvidia H100-GPUs und Ollama-API für die Nutzung von lokalen LLMs und Embedding-Modellen. Ideal für studentische Projekte ohne externe API-Kosten.

Wir freuen uns, einen neuen leistungsstarken Server in der KI-Werkstatt vorstellen zu können:

Ausgestattet mit zwei Nvidia H100 GPUs und einer Ollama-API, steht dieser nun für alle Mitglieder*innen der HTW zur Verfügung.

Mit dieser Infrastruktur lassen sich verschiedenste aktuelle Large Language Models (z. B. DeepSeek-R1, LLaMA3, Gemma3 etc.) lokal betreiben.

💡 Vorteile

  • Kein API-Schlüssel bei OpenAI oder Antropic nötig
  • Lokale, datenschutzgerechte Nutzung
  • Höchste Rechenleistung durch 2× Nvidia H100

📌 Für wen?

Studierende, die LLMs oder Embedding-Modelle in ihren Projekten, Seminararbeiten oder Forschungsprojekten einsetzen möchten. Verschiedene Modelle können je nach gewünschtem Einsatzgebiet ausgewählt und heruntergeladen werden.

🌐 Mehr Infos zur Nutzung

🚀 Neue Möglichkeiten

  • Chat mit LLM
  • Text-Vervollständigung
  • Funktions-Aufrufe
  • Strukturierte Antwortdaten (json)
  • Multimodal (Bildverarbeitung)
  • Text-Embeddings

Testimonials

Die Zusammenarbeit mit der KI-Werkstatt bereichert meine Lehre und die Projekte meiner Studierenden in besonderem Maße. Insbesondere der Lehrbaustein „Grundlagen der Künstlichen Intelligenz“ vermittelt nicht nur fundiertes Wissen über Funktionsweisen und Herausforderungen von KI, sondern regt auch zur kritischen Reflexion an. Die Infrastruktur der KI-Werkstatt ermöglicht es uns, innovative Projekte effizient umzusetzen – sei es im Rahmen einer Kooperation mit dem Staatlichen Museum Schwerin oder als Aussteller auf der Campus Exhibition des Ars Electronica Festivals, an dem wir als Studiengang seit vier Jahren teilnehmen. Die Unterstützung durch die KI-Werkstatt ist äußerst inspirierend und von großer fachlicher Kompetenz geprägt – ein echter Motor für Lehre und Forschung.

Prof. Andreas Ingerl

Fachbereich 5
Wir hatten eine Blockveranstaltung, in der unsere Studierenden Ideen für den Einsatz von KI in der Immobilienwirtschaft entwickeln sollten. Wir haben Ricardo und Kollegen in die Blockveranstaltung eingeladen und die Mitarbeiter der KI-Werkstatt haben dann gemeinsam mit den Studierenden über die Grundlagen und Funktionsweise von KI gesprochen. Die Ergebnisse waren sehr gut - eine Ursache dafür war sicherlich, dass die Studierenden durch den Input der KI-Werkstatt mehr über die Grenzen von KI erfahren haben und den Einsatz so besser einschätzen konnten. Die Lehrinhalte haben tolle Impulse gegeben, die es auch nicht-technischen Studiengängen erlauben, einen Einblick in die Grundlagen von KI zu erlangen.

Prof. Dr. Florian Koch

Fachbereich 3
In der Hochschullehre stehen Lehrinhalte und Lernformen vor einer Transformation durch Maschinelles Lernen oder Künstliche Intelligenz. Die KI-Werkstatt macht diese komplexen Begriffe erfahrbar und vermittelt die Prinzipien von KI-Modellen auf eine leichte, verständliche und spielerische Weise. In meinem Seminar zum Thema „Bildgenerierende Künstliche Intelligenz” waren die Workshops der KI-Werkstatt zum Projektstart eine besonders wichtige und bereichernde Erfahrung für die Studierenden. Sie halfen dabei, die theoretischen Grundlagen mit praktischen Anwendungen zu verknüpfen und sensibilisierten die Teilnehmenden für die ethischen Fragestellungen, die mit dem Einsatz von KI einhergehen. Insgesamt tragen diese Workshops dazu bei, dass Studierende nicht nur als Nutzer*innen, sondern auch als kritische und reflektierte Gestalter*innen der digitalen Zukunft agieren können.

Prof. Henrik Spohler

Fachbereich 5

Starte dein KI-Projekt mit Uns

Mit der KI-Werkstatt schafft die HTW Berlin einen Ort für das gemeinsame Forschen, Lehren und Anwenden von KI-Technologie auf aktuelle Praxisprobleme. Ziel ist u.a. die Schaffung einer hochschulweiten Infrastruktur, welche die Verwendung und Weiterentwicklung aktueller KI-Algorithmen auf höchstem wissenschaftlichem Niveau ermöglicht, sowie die Entwicklung eines KI-Modulbaukastens um die KI-Lehre interdisziplinär fördern.

Kontaktiere Uns