"Onprem"KI (LLM) im eigenen Unternehmen verwenden - Praxiserfahrungen?

Allgemein Künstliche Intelligenz (KI,AI)

Hallo,

bei uns in der Firma stellen wir den Entwickler-Kollegen mehr und mehr ChatGPT-Lizenzen zu Verfügung.

Hat jemand schon Erfahrungen mit "On-Premise" LLM, das mit firmeninternem Wissensmanagement trainiert wurde?

Auf meine Frage, welche Systeme infrage kommen, hat ChatGPT folgendes geantwortet:

Quelle: ChatGPT KI

LG

I2

Bitte markiere auch die Kommentare, die zur Lösung des Beitrags beigetragen haben

Content-ID: 52728419645

Url: https://administrator.de/contentid/52728419645

Ausgedruckt am: 21.11.2024 um 16:11 Uhr

2 Kommentare

Neuester Kommentar

Hallo,
ich empfehle dir mal https://media.ccc.de/v/clt24-186-wie-funktioniert-chatgpt-gibt-es-das-au ... anzusehen.

Wir haben hier auf dieser Basis (RAG mit YaCi) ein Mistral-Modell am laufen. Ist noch lange nicht das Niveau das wir uns wünschen. Wir hoffen auf das neue Modell von Meta (Llama 3.1) und bessere Hardware, allerdings kein Budget mehr für passende Hardware.

Im Alltag wird dann doch eher auf ChatGPT zugegriffen

Ein eigenes Modell zu trainieren trauen wir uns nicht zu, inbesondere aufgrund der Kosten.

Grüße