private-local.ai vs ChatGPT: ein Vergleich für den Einsatz im Unternehmen
Benjamin Spinola, Gründer
Veröffentlicht Aktualisiert 14 Minuten Lesezeit
Bei private-local.ai vs ChatGPT geht es im Kern um die Frage, wo künstliche Intelligenz (KI) läuft: auf den Servern von OpenAI oder auf einem Rechner, der Ihrem Unternehmen gehört. ChatGPT ist ein fertiges Produkt. Seine aktuellen Modelle sind GPT-6 Astra, veröffentlicht am 3. September 2026, und GPT-5.6 Sol; es arbeitet inzwischen direkt in Microsoft Excel, PowerPoint und Word, und OpenAI verbessert es laufend. Alles, was ein Nutzer eingibt oder hochlädt, wird jedoch von OpenAI verarbeitet, und viele Nutzer und Unternehmer haben ernsthafte Bedenken, ob ihr geistiges Eigentum und ihre Kundeninformationen dort sicher sind.
Der Unterschied liegt nicht in einzelnen Funktionen. ChatGPT ist ein Dienst, den ein Unternehmen nutzt, während ein lokales Setup Infrastruktur ist, die einem Unternehmen gehört: offene Modelle auf einem Rechner, den es gekauft hat, wobei seine Unterlagen im Unternehmen bleiben. Das ist eine größere Entscheidung, und unseren Testlauf gibt es, damit sie auf Grundlage von Belegen getroffen werden kann. Wir betreiben einen NVIDIA DGX Spark mit einem offenen Modell und stellen dafür eine Webadresse und einen Zugangsschlüssel bereit, damit Sie Ihre eigenen Tools anbinden und Ihre eigenen Aufgaben ausführen können, bevor Hardware gekauft wird. Der Testlauf zeigt, ob ein solches eigenes Setup die Ergebnisse liefern würde, die Sie brauchen.
Diese Seite vergleicht sieben Aufgaben, die Unternehmen regelmäßig an KI übergeben, von Excel-Arbeitsmappen bis zur Webrecherche, auf Grundlage aktueller Belege: was ChatGPT heute leistet, wo seine Grenzen liegen und wie offene Modelle abschneiden. Zwei öffentliche Benchmarks bilden den Rahmen des Vergleichs: GDPval-AA, eine unabhängige Wiederholung von OpenAIs eigenem Benchmark für professionelle Arbeit durch Artificial Analysis, und der Artificial Analysis Intelligence Index.
private-local.ai vs ChatGPT: die wichtigsten Unterschiede
| private-local.ai | ChatGPT | |
|---|---|---|
| Wer das System betreibt und wo | Ihr Unternehmen betreibt das System auf einem Rechner, den es kauft und an einem Ort seiner Wahl aufstellt; gewartet wird er von einem Mitarbeiter oder einem Dienstleister. Für den Testlauf betreiben wir den Rechner stundenweise in Ihrem Auftrag, damit Sie die Hardware beurteilen können, bevor Sie etwas kaufen. | OpenAI betreibt das System auf seinen eigenen Servern. Nutzer melden sich an und verwenden es; nichts muss installiert oder gewartet werden, und später muss keine Hardware ersetzt werden. |
| Was mit Ihren Daten geschieht | Auf einem Rechner, der Ihrem Unternehmen gehört, bleiben Prompts, Dateien und Ergebnisse auf diesem Rechner. | Bei den Tarifen für Privatkunden verwendet OpenAI Unterhaltungen für das Training, sofern der Nutzer dem nicht widerspricht; bei Business, Enterprise und der Programmierschnittstelle (API) geschieht das standardmäßig nicht. Eine Verarbeitung innerhalb Europas ist für Enterprise, Edu und die API verfügbar, während bei Business eine Kopie zur Missbrauchsüberwachung in den Vereinigten Staaten verbleibt. Im Urheberrechtsverfahren der New York Times verpflichtete ein Gericht OpenAI im Januar 2026, 20 Millionen anonymisierte Chatprotokolle herauszugeben. |
| Was sich überprüfen und wiederholen lässt | Der genaue Rechner, die Modellversion und die Software, die das Modell bereitstellt, sind dokumentiert, sodass sich ein Ergebnis später auf der Hardware reproduzieren lässt, die Sie kaufen würden. Die gesamte Konfiguration ist einsehbar. | OpenAI benennt und dokumentiert seine Modelle, aber die Hardware und die Software für die Bereitstellung gehören OpenAI und können sich ändern. Nutzer können die Antworten beurteilen, nicht aber die Konfiguration, die sie erzeugt hat. |
| Welche Modelle verfügbar sind | Verfügbar sind offene Modelle, die Sie auswählen und auf eine bestimmte Version festlegen. Wir beginnen mit drei Modellfamilien: Qwen, DeepSeek und GLM. Welche Modelle passen, hängt vom Arbeitsspeicher des Rechners ab, den Sie kaufen, und deshalb verwendet der Testlauf echte Hardware. | Verfügbar sind OpenAIs eigene Modelle GPT-6 Astra, GPT-6 Sol und GPT-5.6 Sol, die auf den Servern von OpenAI bleiben. OpenAI veröffentlicht außerdem zwei offene Modelle, gpt-oss-120b und gpt-oss-20b, die weit unter seinen aktuellen Modellen bewertet werden. |
| Wie sich die Kosten zusammensetzen | Die Hardware wird einmalig gekauft; hinzu kommen die Kosten für ihren Betrieb: Strom, Platz, Updates und Arbeitszeit. Es handelt sich um Investitions- und Betriebskosten, nicht um eine monatliche Gebühr pro Person. Der Testlauf, der diese Entscheidung vorbereitet, wird stundenweise abgerechnet, und der Preis ist auf unserer Preisseite veröffentlicht. | Abgerechnet wird ein Abonnement pro Person und Monat oder nach Volumen über die API. Es gibt keine Hardware zu kaufen oder zu betreiben, und die Kosten steigen mit der Zahl der Nutzer; die aktuellen Preise sind weiter unten aufgeführt. |
| Was für den Einstieg nötig ist | Sie wählen ein Setup aus einer kurzen Liste und erhalten dafür eine Webadresse und einen Zugangsschlüssel. Die Self-Service-Buchung befindet sich in der Entwicklung; bis sie verfügbar ist, werden Setups über ein Formular angefragt. | Ein Nutzer legt ein Konto an und kann sofort beginnen; eine weitere Einrichtung ist nicht erforderlich. |
Was die öffentlichen Benchmarks zeigen
GDPval-AA, veröffentlicht von Artificial Analysis, führt die 220 öffentlichen Aufgaben von OpenAIs Benchmark GDPval in einer einheitlichen, neutralen Umgebung aus. Die Aufgaben sind fertige Arbeitsergebnisse aus 44 Berufen, etwa Arbeitsmappen, Berichte und Präsentationen. Fachleute vergleichen jeweils zwei Ergebnisse, ohne zu wissen, welches Modell welches erzeugt hat, und das Ergebnis wird als Wertung auf der aus dem Schach bekannten Elo-Skala ausgedrückt: Ein Vorsprung von 50 Punkten bedeutet, dass die Bewertenden die Arbeit des führenden Modells in etwa 57 von 100 Vergleichen vorziehen. Der Artificial Analysis Intelligence Index fasst zehn Bewertungen zu logischem Denken, Wissen, Programmierung und beruflichen Aufgaben in einem einzigen Wert zusammen.
| Modell | Entwickler | GDPval-AA-Wertung | Intelligence Index |
|---|---|---|---|
| GLM-5.3 Flash | Z.ai, offene Gewichte | 1641 | 42 |
| Qwen3.8-Flash-Next | Alibaba, offene Gewichte | 1612 | 40 |
| DeepSeek V4.1 Flash | DeepSeek, offene Gewichte | 1600 | 39 |
| GPT-5.6 Sol | OpenAI | 1588 | 47 |
| GPT-6 Astra | OpenAI | 1542 | 53 |
| GPT-6 Sol | OpenAI | 1487 | 48 |
| gpt-oss-120b | OpenAI, offene Gewichte | 596 | 12 |
Bei fertigen Arbeitsergebnissen werden die besten offenen Modelle höher bewertet als die aktuellen Modelle von OpenAI. Im breiteren Index liegt das neueste Modell von OpenAI vorn.
Die Werte wurden am 28. September 2026 bei Artificial Analysis abgelesen, jeweils mit der höchsten Reasoning-Einstellung des Modells und mit dem Modell in voller Größe auf den Servern seines Anbieters. Claude Opus 5.5 von Anthropic führt bei beiden Messgrößen mit Werten von 1846 und 58.
Sieben alltägliche Aufgaben im Vergleich
Für jede Aufgabe beschreibt dieser Abschnitt, was ChatGPT heute leistet und wie gut, und was ein offenes Modell auf einem eigenen Rechner erreicht. Jede Zahl ist in den Quellen am Ende der Seite datiert.
Excel-Arbeitsmappen
Bei anspruchsvoller Tabellenarbeit liegt ChatGPT vorn.
Offene Modelle auf Ihrem eigenen Rechner
Ein offenes Modell mit einem Python-Tool schreibt funktionierende Formeln und native Diagramme, und LibreOffice berechnet sie neu und prüft sie; Pivot-Tabellen werden nicht unterstützt. Bei SpreadsheetBench 2 lösten offene Modelle 7 bis 17 Prozent der Aufgaben, und allein eine geänderte Tool-Konfiguration ließ das Ergebnis eines Modells zwischen 9 und 16 Prozent schwanken, was zeigt, dass die angebundenen Tools ebenso wichtig sind wie das Modell. In unserem eigenen KI-Buchhaltungstest erstellte das offene Modell GLM-5.3 Flash aus 66 Rechnungen eine abgestimmte Arbeitsmappe und erreichte 90 von 95 Punkten, gegenüber 82 und 72 Punkten für GPT-5.6 Sol in zwei Durchläufen.
ChatGPT heute
Seit Mai 2026 arbeitet ChatGPT for Excel in allen Tarifen in einer Seitenleiste innerhalb von Excel und erstellt Arbeitsmappen mit mehreren Tabellenblättern, funktionierenden Formeln und Diagrammen. OpenAI gibt an, dass komplexe Formeln Nacharbeit von Hand erfordern können und dass Makros möglicherweise nicht vollständig unterstützt werden. Bei SpreadsheetBench 2, einem Benchmark mit 321 echten Arbeitsmappen aus Unternehmen, lösten die besten proprietären Modelle 24 bis 35 Prozent der Aufgaben.
PowerPoint-Präsentationen
Die Qualität ist vergleichbar; innerhalb von PowerPoint ist ChatGPT bequemer.
Offene Modelle auf Ihrem eigenen Rechner
Bei AA-Briefcase, das mehrwöchige Projekte mit Tabellen, Präsentationen und Memos bewertet, erreicht Qwen3.8-Flash-Next 1588 und liegt damit knapp vor GPT-6 Astra mit 1569 und über GPT-5.6 Sol mit 1487. Ein offenes Modell füllt die Platzhalter Ihrer eigenen Vorlage und fügt über Python bearbeitbare Diagramme hinzu.
ChatGPT heute
Seit Juli 2026 entwirft und überarbeitet ChatGPT for PowerPoint in allen Tarifen bearbeitbare Präsentationen. Die Hilfeseite von OpenAI gibt an, dass Folien möglicherweise nicht genau einer Vorlage entsprechen und dass Diagramme und Formen eingeschränkt sein können.
Word-Dokumente und Verträge
Die Ergebnisse sind vergleichbar; bei Berichten und Memos werden die besten offenen Modelle höher bewertet.
Offene Modelle auf Ihrem eigenen Rechner
Bei GDPval-AA, das Berichte und Memos umfasst, werden GLM, Qwen und DeepSeek höher bewertet als GPT-5.6 Sol und GPT-6 Astra. Ein Python-Tool schreibt Word-Dateien mit Kommentaren; nachverfolgte Änderungen erfordern zusätzlichen Aufwand.
ChatGPT heute
ChatGPT for Word wurde am 17. September 2026 veröffentlicht. Es entwirft und überarbeitet Texte innerhalb von Word, erstellt Zusammenfassungen und bietet wiederverwendbare Anweisungen für Memos und Vertragsprüfungen. OpenAI gibt an, dass komplexe Formatierungen und Tabellen eine Korrektur von Hand erfordern können, und seine Dokumentation erwähnt die Funktion „Änderungen nachverfolgen“ nicht.
Die Modelle leisten gleich viel; ChatGPT ist bequemer.
Offene Modelle auf Ihrem eigenen Rechner
Das Modell schreibt den Text, und das eigene E-Mail-Programm oder die Automatisierungssoftware des Unternehmens liest und versendet die Nachrichten. Bei AutomationBench-AA, das Geschäftsabläufe über Gmail, Slack und Salesforce hinweg simuliert, erfüllte DeepSeek V4.1 Flash 68,9 Prozent der Ziele und GPT-6 Astra 68,5 Prozent.
ChatGPT heute
Sind Gmail oder Outlook angebunden, entwirft und versendet ChatGPT E-Mails und kann eine Aufgabe starten, wenn eine neue Nachricht eingeht, wobei es bei Bedarf auf eine Freigabe wartet. Aus gemeinsam genutzten Postfächern versendet es nur reinen Text und kann keine Anhänge lesen.
Webrecherche
ChatGPT liegt vorn.
Offene Modelle auf Ihrem eigenen Rechner
Die besten offenen Modelle, die auf einen einzelnen Rechner passen, erreichen bei BrowseComp 64 bis 68 Prozent. Bei beiden Ansätzen gibt jede Websuche die Suchanfrage an eine externe Suchmaschine weiter.
ChatGPT heute
Deep Research plant eine Suche, liest Quellen und angebundene Anwendungen und schreibt einen Bericht mit Quellenangaben. OpenAI nennt für GPT-6 Astra einen Wert von 91,5 Prozent bei BrowseComp, einem Test, der das Auffinden schwer zugänglicher Fakten im Web misst, und gibt an, dass Suchergebnisse und Quellenangaben unvollständig, veraltet oder falsch sein können.
Bilderzeugung
ChatGPT liegt deutlich vorn.
Offene Modelle auf Ihrem eigenen Rechner
In öffentlichen Vergleichen ziehen die Abstimmenden GPT Image 2.5 in etwa drei von vier Fällen dem besten offenen Bildmodell vor. Die meisten leistungsstarken offenen Bildmodelle erfordern für die kommerzielle Nutzung eine kostenpflichtige Lizenz, und auf einem DGX Spark dauert ein hochwertiges Bild Minuten statt Sekunden.
ChatGPT heute
GPT Image 2.5, veröffentlicht am 8. September 2026, steht in beiden öffentlichen Bildranglisten auf Platz eins. Es bearbeitet Teile eines Bildes und kombiniert mehrere Referenzbilder. OpenAIs eigener Leitfaden gibt an, dass seine Bildmodelle bei der präzisen Platzierung von Text und bei einheitlichen Markenelementen weiterhin Schwierigkeiten haben.
Analyse von Datendateien
Bei einfachen Fragen ist die Leistung vergleichbar; bei schwierigen liegt ChatGPT vorn.
Offene Modelle auf Ihrem eigenen Rechner
In derselben Studie beantwortete gpt-oss-120b 71 Prozent der einfachen und 8 Prozent der schwierigen Fragen richtig. Auf einem eigenen Rechner werden Dateien dort analysiert, wo sie gespeichert sind, und nie an einen externen Anbieter gesendet.
ChatGPT heute
ChatGPT analysiert mit Python Dateien in den Formaten Excel, kommagetrennte Werte (CSV), JavaScript Object Notation (JSON), Extensible Markup Language (XML) und Portable Document Format (PDF), bis zu 512 Megabyte pro Datei. In der unabhängigen DSGym-Studie beantwortete GPT-5 75 Prozent der einfachen und 28 Prozent der schwierigen Fragen zur Datenanalyse richtig. Seine Analyseumgebung hat keinen Internetzugang und kann gescannte Tabellen falsch lesen.
Was ChatGPT kostet
ChatGPT wird pro Person und Monat verkauft, und die API, die Unternehmen für ihre eigene Software nutzen, wird nach der Menge des verarbeiteten Textes abgerechnet. Unser Testlauf kostet 10 € pro Stunde, und ein eigener Rechner ist ein einmaliger Kauf zuzüglich der Kosten für seinen Betrieb.
| Tarif | Preis | Modelle |
|---|---|---|
| Free | 0 $ | GPT-5.6 Luna, mit Nutzungsgrenzen |
| Go | 8 $ | GPT-5.6 Luna |
| Plus | 20 $ | GPT-5.6 Sol; GPT-6 Astra nur im Work-Agenten und in Codex, mit Nutzungsgrenzen |
| Pro | 100 $ | GPT-5.6 Sol sowie GPT-6 Pro auf Basis von GPT-6 Astra für bis zu 50 Nachrichten pro Woche |
| Business, Standardlizenz | 25 $20 $ bei jährlicher Abrechnung | GPT-5.6 Sol sowie GPT-6 Pro für bis zu 15 Nachrichten pro Monat |
| Business, Premiumlizenz | 125 $100 $ bei jährlicher Abrechnung | GPT-5.6 Sol sowie GPT-6 Pro für bis zu 50 Nachrichten pro Woche |
| Enterprise | Individueller Preis | GPT-6 Astra, sobald ein Administrator es freischaltet |
| Modell | Eingabe | Ausgabe |
|---|---|---|
| GPT-6 Astra | 10 $ | 50 $ |
| GPT-6 Sol | 2 $ | 10 $ |
| GPT-6 Luna | 0,10 $ | 0,50 $ |
| GPT-5.6 Sol | 4 $ | 20 $ |
Die Angaben sind Listenpreise für die Vereinigten Staaten vor Steuern, abgelesen am 28. September 2026. Pro hatte außerdem eine Stufe zu 200 $, die seit dem 10. September 2026 für neue Abonnenten geschlossen ist, und GPT-5.6 Sol wird mindestens bis zum 21. November 2026 zu einem Aktionspreis über die API angeboten. Ein Token entspricht ungefähr drei Vierteln eines englischen Wortes.
Welche Option zu welchem Unternehmen passt
ChatGPT ist die bessere Wahl, wenn
- Sie die stärkste Bilderzeugung und Webrecherche brauchen und nichts, wofür Sie KI einsetzen, vertraulich ist.
- Niemand in Ihrem Unternehmen einen Rechner warten kann. Ein lokales Setup muss installiert, aktualisiert und gewartet werden.
- Sie KI nur wenig oder gelegentlich nutzen. Ein Abonnement ist schwer zu schlagen, wenn Ihr eigener Rechner den größten Teil des Tages ungenutzt bliebe.
Eigene Hardware ist eine Überlegung wert, wenn
- Sie mit Unterlagen arbeiten, die überhaupt nicht an einen externen Anbieter gehen sollten, etwa Kundenakten, Verträge, Quellcode, Patienten- oder Fallakten oder alles, was einer Vereinbarung darüber unterliegt, wo Daten verarbeitet werden dürfen. Ein eigener Rechner hält diese Unterlagen im Unternehmen, und der Testlauf zeigt, ob ein solcher Rechner die Arbeit erledigen würde.
- Sie dieselbe Art von Aufgabe häufig und in großen Mengen ausführen. Gleichmäßige, wiederkehrende Arbeit ist der Bereich, in dem sich eigene Hardware zu rechnen beginnt.
- Sie genau wissen müssen, was eine Antwort erzeugt hat, und sie später mit demselben Setup wiederholen können müssen.
Quellen und Hinweise
Die Spalte zu ChatGPT beruht auf OpenAIs eigener Dokumentation und seinen Versionshinweisen, gelesen am 28. September 2026. Die Wertungen stammen von Artificial Analysis (GDPval-AA Version 2.1, AA-Briefcase Version 1.1, AutomationBench-AA, Intelligence Index Version 4.3.2 und die Rangliste für die Erzeugung von Bildern aus Text), abgelesen am selben Tag. Die Preise stammen von OpenAIs Preisseiten für ChatGPT und die API, ebenfalls abgelesen am 28. September 2026. Weitere Zahlen stammen aus SpreadsheetBench 2 (29. Juni 2026), der DSGym-Studie (22. Januar 2026) und den BrowseComp-Ergebnissen, die OpenAI und die Steel-Rangliste veröffentlicht haben (4. September 2026).
Unsere eigenen Messungen mit benannten Konfigurationen werden hier ergänzt, jeweils mit Angabe des Rechners, der Modellversion, der Aufgabe und des Datums. Wenn Informationen auf dieser Seite veraltet sind, teilen Sie es uns bitte mit, und wir korrigieren sie.
Noch zu ergänzen
- Datierte Ergebnisse mit Angabe von Rechner, Modell und Bereitstellungskonfiguration, die neben den gelungenen auch die gescheiterten Aufgaben zeigen.
- Eine Wiederholung der sieben Aufgaben auf einem DGX Spark mit den Modellen, die wir anbieten, mit datierten Ergebnissen.
- Ein Hinweis zu dem Rechner, der unsere Zahlen erzeugt hat, damit er sich mit der Hardware vergleichen lässt, die Sie in Betracht ziehen.
Weiterführende Seiten: Die vier weiteren Vergleiche behandeln Palantir, die Open-Source-Engine LocalAI, das auf Schwärzung spezialisierte Unternehmen Private AI und den vor Ort installierten Assistenten Seesa, und der Leitfaden KI lokal ausführen erläutert den technischen Weg.
Fragen zu private-local.ai und ChatGPT
private-local.ai vs ChatGPT: Wofür sollten wir uns entscheiden?
Das hängt von der Arbeit ab. Ein eigenes Setup lohnt sich, wenn dieselbe Art von Aufgabe in großen Mengen wiederkehrt, wenn die Unterlagen sensibel sind oder wenn Sie genau wissen und wiederholen müssen, was ein Ergebnis erzeugt hat, und bei fertigen Arbeitsergebnissen werden die besten offenen Modelle inzwischen höher bewertet als die aktuellen Modelle von OpenAI. Bei Bilderzeugung und Webrecherche liegt ChatGPT weiterhin vorn. Die Entscheidung fällt für jede Aufgabe einzeln und nicht pauschal für das ganze Unternehmen, und der Testlauf ermöglicht es Ihnen, sie mit Ihrer eigenen Arbeitslast zu treffen.
Können wir die Modelle von ChatGPT auf unserer eigenen Hardware betreiben?
Die Modelle, die ChatGPT verwendet, lassen sich nicht selbst betreiben: GPT-6 Astra, GPT-6 Sol und GPT-5.6 Sol bleiben auf den Servern von OpenAI. OpenAI veröffentlicht zwar zwei offene Modelle, und gpt-oss-120b läuft auf einem DGX Spark, doch es wird weit unter den aktuellen Modellen bewertet, mit 596 bei GDPval-AA gegenüber 1542 für GPT-6 Astra. KI auf eigener Hardware zu betreiben, bedeutet daher, offene Modelle wie GLM, Qwen oder DeepSeek zu verwenden, und die entscheidende Frage ist, ob eines davon Ihre konkrete Aufgabe gut genug erledigt. Genau diese Frage beantwortet ein Testlauf.
Was kostet ein Testlauf, und wie buchen wir ihn?
Ein Testlauf kostet 10 € pro Stunde Zugang zum Endpunkt, und die meisten Fragen sind nach ein bis zwei Stunden beantwortet. Die Self-Service-Buchung befindet sich in der Entwicklung; bis sie verfügbar ist, fragen Sie das gewählte Setup über das Kontaktformular an.
Welche ChatGPT-Modelle deckt dieser Vergleich ab?
GPT-6 Astra, veröffentlicht am 3. September 2026, ist das leistungsfähigste Modell von OpenAI; GPT-5.6 Sol ist das Modell, das Plus-Abonnenten in ChatGPT nutzen; und GPT-6 Sol folgte am 22. September 2026 für den Work-Agenten von ChatGPT und für Codex. Jede Wertung auf dieser Seite nennt das Modell, auf das sie sich bezieht.
Finden Sie heraus, welche Option zu Ihrer Arbeit passt
Wählen Sie ein Setup, verbinden Sie das Tool, das Sie bereits nutzen, und führen Sie die Aufgabe aus, auf die es Ihnen ankommt. Innerhalb von ein bis zwei Stunden wissen Sie, ob ein eigener Rechner die Arbeit erledigen kann, bevor Sie einen kaufen.
Endpunkt anfragen