Welche KI passt zu deinem Mac?
Welches lokale LLM auf deinem Mac läuft, wann ein Cloud-Modell besser passt und was es kostet. Mit Quellen und getrennt von Hersteller-Benchmarks.
Befehlsbeispiel · keine aufgezeichnete Messung
~/ai-on-mac ❯ ollama run gemma3:4b --verbose
>>> Erkläre Unified Memory in zwei Sätzen.
Kurz erklärt (Redaktion):
CPU und GPU nutzen denselben Speicher. Modelle, KV-Cache und macOS teilen sich den RAM.
~/ai-on-mac ❯
Wie viel RAM braucht lokale KI?
16 GB für den Einstieg, 32 GB für ernsthafte Arbeit, 64 GB und mehr für 70B-Modelle.
- 16 GB bis 12B Gemma 4 12B
- 32 GB bis 32B Qwen 3.8 27B
- 64 GB 70B Llama 3.1 70B
- 128 GB 120B gpt-oss 120B
Eigene MLX-Benchmarks
Welches lokale Modell ist wirklich gut?
38 MLX-Modelle, 16 Benchmarks, lokal gemessen auf einem Mac mini M4 mit 32 GB. Top 5 nach Durchschnittswert.
Wischen für alle Kategorien →
| Modell | Avg | Wissen | Reasoning | Mathe | Coding | Sicherheit |
|---|---|---|---|---|---|---|
| gpt-oss-safeguard 20BMXFP4 | 73,6 | 68,9 | 69,0 | 90,0 | 68,9 | 85,0 |
| Qwen3.5 9B4-bit | 71,7 | 67,0 | 79,7 | 80,0 | 49,6 | 92,0 |
| Gemma 4 12B Coder8-bit · Community-Fine-Tune | 71,5 | 65,9 | 84,0 | 55,7 | 62,9 | 88,9 |
| Gemma 4 12B it4-bit | 66,9 | 61,6 | 79,0 | 54,0 | 55,6 | 85,5 |
| Gemma 4 12B Coder4-bit · Community-Fine-Tune | 66,6 | 60,5 | 80,4 | 52,2 | 56,6 | 84,0 |
Wofür nutzt du KI?
Lokal, Cloud oder beides
01 Private Notizen und PDFs Lokales 7B–13B-Modell zuerst testen Lokal
Auf 8 GB eher 7B–9B, ab 16 GB wird 13B realistischer. Wichtig sind Kontextlänge und Halluzinationsrate.
Lokale Modelle öffnen → 02 Lange Dokumente und Recherche Starkes Cloud-Modell mit Quellenkontrolle CloudClaude, Gemini oder ChatGPT lohnen sich, wenn 100K+ Kontext, Quellenprüfung und Export wichtiger sind als Offline-Betrieb.
Cloud-KI vergleichen → 03 Coding, Agenten, Multimodal Hybrid: Cloud-Agent, lokale Checks HybridCloud-Agenten sind stärker bei großen Refactors und Vision-Aufgaben. Lokale Checks bleiben für Diffs, Tests und vertrauliche Repos sinnvoll.
Coding-Artikel lesen →Redaktion
Neueste Artikel
Neue Modelle und bewährte Anleitungen
- Gemini Omni 1.2 Flash: 15-Sekunden-Videos, API-Preise und EU-Grenzen Googles neues Videomodell generiert bis zu 15 Sekunden. Verifizierte Preise für 360p bis 4K, Bearbeitung, …
- GPT Image 2.6: Sunburst vs. Flare – API-Preise, Tempo und neue Funktionen GPT Image 2.6 im Vergleich: Sunburst oder Flare? Offizielle API-Tokenpreise, externe Latenzmessungen, SVG, GIF …
- GLM-5.3-FlashX-Legal: Preis, Benchmarks, Datenschutz und Mac GLM-5.3-FlashX-Legal geprüft: API-Preise, externe Legal-Benchmarks, OpenRouter, DSGVO und die Grenzen lokaler …
- Gemini Omni 1.2 Flash: Video Costs, 15-Second Clips and API Limits Gemini Omni 1.2 Flash makes up to 15-second clips. Calculate 360p-to-4K video output costs and compare editing, …
- GPT Image 2.6 Sunburst vs Flare: API Pricing, Speed and Features Compare GPT Image 2.6 Sunburst and Flare: official token rates, independent latency measurements, GIF and SVG …
- GLM 5.3 FlashX Legal: API Price, Benchmarks, Privacy and Mac GLM 5.3 FlashX Legal assessed: official API rates, independent legal benchmarks, OpenRouter, privacy and local …
Gerade überarbeitet
So arbeiten wir
Gemessen, belegt, getrennt
KI-unterstützte Recherche, redaktionelle Prüfung und Verantwortung: Julian Dominic Altmann.
Arbeitsweise →Eigene Messungen
Chip, RAM, macOS, Runtime, Quantisierung und Prompt werden pro Test dokumentiert.
Primärquellen
Modellkarten, Doku und Paper zuerst; Herstellerangaben werden gekennzeichnet.
Klare Kennzeichnung
Affiliate-Links und Werbung sind markiert und ändern keine Empfehlung.