So installieren und führen Sie LLM lokal auf einem Android-Telefon aus

Durch die lokale Ausführung großer Sprachmodelle (LLMs) auf Ihrem Android-Smartphone können Sie auf KI-Modelle zugreifen, ohne auf Cloud-Server oder eine Internetverbindung angewiesen zu sein . Diese lokale Konfiguration gewährleistet Datenschutz, da Ihre Daten sicher und auf dem Gerät gespeichert bleiben. Dank der Fortschritte bei mobiler Hardware ist die lokale Ausführung von KI-Modellen Realität geworden. Mit der MLC Chat App können Sie diese leistungsstarke Technologie direkt auf Ihrem Smartphone erleben.

In diesem Artikel wird erläutert, wie wichtig es ist, LLM lokal auf Android-Telefonen auszuführen, und es werden schrittweise Anweisungen zur Installation und Ausführung mithilfe der MLC-Chat-App bereitgestellt.

Warum LLM auf einem Android-Telefon ausführen?

LLMs werden typischerweise auf Cloud-Servern ausgeführt, da sie erhebliche Rechenleistung erfordern. Android-Smartphones unterliegen zwar einigen Einschränkungen bei der Ausführung von LLMs, eröffnen aber auch interessante Möglichkeiten.

  • Verbesserter Datenschutz : Da alle Berechnungen auf dem Telefon stattfinden, bleiben Ihre Daten lokal, was für alle vertraulichen Informationen, die Sie weitergeben, wichtig ist.
  • Offline-Zugriff : Für den Zugriff auf diese Modelle und die Interaktion mit ihnen ist keine ständige Internetverbindung erforderlich. Dies ist besonders nützlich für Benutzer in abgelegenen Gebieten oder mit eingeschränkter Internetverbindung.
  • Kostengünstig : Der Betrieb von LLM auf Cloud-Servern verursacht Betriebskosten wie Cloud-Rechenleistung und Speicherplatz. Dieser Ansatz bietet eine kostengünstige Lösung für Benutzer.

Schritt-für-Schritt-Anleitung zum Installieren und Ausführen von MLC Chat auf Android

Die MLC-Chat-Anwendung ermöglicht Benutzern die lokale Ausführung und Interaktion mit großen Sprachmodellen (LLMs) auf verschiedenen Geräten, einschließlich Mobiltelefonen, ohne auf Cloud-basierte Dienste angewiesen zu sein. Befolgen Sie die folgenden Schritte, um LLMs lokal auf einem Android-Gerät auszuführen.

Schritt 1: Installieren Sie die MLC Chat-Anwendung

Zuerst müssen Sie die APK für die MLC Chat-App (112 MB) über den unten stehenden Link herunterladen.

MLC Chat-Anwendung APK-Datei

So installieren und führen Sie LLM lokal auf einem Android-Telefon aus
Installieren Sie die MLC Chat-App

Sobald die APK heruntergeladen ist, tippen Sie auf die Datei, um die Installation zu starten.

Schritt 2: LLM herunterladen

Öffnen Sie die App nach erfolgreicher Installation. Sie sehen dann eine Liste der zum Download verfügbaren LLMs. Es stehen Modelle unterschiedlicher Größe und Kapazität zur Verfügung, wie zum Beispiel LLama-3.2, Phi-3.5 und Mistral. Wählen Sie das passende Modell aus und tippen Sie auf das Download-Symbol daneben, um den Download zu starten. Wenn Sie beispielsweise ein Mittelklasse-Smartphone wie das Redmi Note 10 verwenden, wählen Sie für eine reibungslosere Leistung ein leichtes Modell wie Qwen-2.5.

So installieren und führen Sie LLM lokal auf einem Android-Telefon aus
LLM herunterladen

Schritt 3: Führen Sie das installierte LLM aus

Sobald das Modell heruntergeladen ist, wird daneben ein Chat-Symbol angezeigt. Tippen Sie auf das Symbol, um mit der Modellierung zu beginnen.

So installieren und führen Sie LLM lokal auf einem Android-Telefon aus
Führen Sie das installierte LLM aus

Sobald das Modell fertig ist, können Sie mit der Eingabe von Eingabeaufforderungen und der Interaktion mit dem lokalen LLM beginnen.

So installieren und führen Sie LLM lokal auf einem Android-Telefon aus

Auf einem Gerät wie dem Redmi Note 10 beispielsweise bietet die Ausführung eines kleineren Modells wie Qwen2.5 ein relativ reibungsloses Erlebnis und generiert etwa 1,4 Token pro Sekunde. Diese Leistung ist zwar langsamer als bei High-End-Geräten wie dem Galaxy S23 Ultra , funktioniert aber für grundlegende Aufgaben wie kurze Chats und die Erstellung einfacher Inhalte immer noch gut.

Die lokale Ausführung von LLM auf Android-Geräten über die MLC Chat-App bietet eine zugängliche und datenschutzfreundliche Möglichkeit zur Interaktion mit KI-Modellen. Die Leistung hängt stark von der Hardware des Telefons ab. Diese Lösung ist ideal für Nutzer, die Offline-Zugriff auf KI-Modelle benötigen, in Echtzeit mit LLM experimentieren oder sich um den Datenschutz sorgen. Mit der kontinuierlichen Verbesserung mobiler Hardware werden die Möglichkeiten des lokalen LLM stetig erweitert, was dies zu einem spannenden Bereich für die KI-Technologie macht.

Sign up and earn $1000 a day ⋙

Leave a Comment

Die 4 besten Android Cleaner Apps

Die 4 besten Android Cleaner Apps

Quantrimang hat eine Liste der besten Junk-Cleaning-Apps für Android zusammengestellt. Weitere Informationen finden Sie weiter unten.

Top Android-Apps, die kostenlos und rabattiert sind 25.04.2025

Top Android-Apps, die kostenlos und rabattiert sind 25.04.2025

Wie finden Sie heute, am 25. April 2025, günstige und kostenlose Android-Apps? Quantrimang.com fasst die beliebtesten kostenlosen und günstigen Android-Apps zusammen, damit Sie in Zeiten steigender Preise und gelegentlicher leichter Benzinpreiserhöhungen etwas Geld sparen können.

So beheben Sie verschwommene Fotos auf Android

So beheben Sie verschwommene Fotos auf Android

Erfahren Sie, wie Sie verschwommene Fotos auf Android-Telefonen (teilweise) korrigieren können.

Die 6 besten Dateimanager für Android TV

Die 6 besten Dateimanager für Android TV

Jeder Android TV-Benutzer muss aus verschiedenen Gründen einen Dateimanager installieren.

So überprüfen Sie, welche Apps auf Android den meisten RAM verwenden

So überprüfen Sie, welche Apps auf Android den meisten RAM verwenden

Wenn eine Anwendung zu viel RAM des Geräts „verbraucht“, wird die Multitasking-Fähigkeit des Systems erheblich eingeschränkt und es kommt zu Verzögerungen, die das Erlebnis ernsthaft beeinträchtigen.

So erstellen Sie Ihr eigenes benutzerdefiniertes Android-Maskottchen

So erstellen Sie Ihr eigenes benutzerdefiniertes Android-Maskottchen

Jetzt können Sie Ihre eigene Version eines Android-Maskottchens namens „The Bot“ erstellen. Durch die Auswahl von Materialien, Kleidung, Accessoires und Requisiten können Sie „The Bot“ nach Ihren Wünschen anpassen.

Wie verwende ich FaceTime auf Android?

Wie verwende ich FaceTime auf Android?

Endlich ermöglicht Apple Benutzern von Android-Geräten die Verwendung von FaceTime.

Viel Spaß mit diesen 6 Apps zur Stimmveränderung auf Android

Viel Spaß mit diesen 6 Apps zur Stimmveränderung auf Android

Wollten Sie Ihren Freunden schon immer mal mit einer albernen Stimme einen Streich spielen? Dank einiger Smartphone-Apps brauchen Sie dafür keine umständliche Computersoftware mehr.

So schützen Sie sich vor SpyLoan-Android-Apps, die Ihre Daten zur Erpressung verwenden

So schützen Sie sich vor SpyLoan-Android-Apps, die Ihre Daten zur Erpressung verwenden

Ein typischer Fall ist die App SpyLoan, die Benutzer mit dem Versprechen zinsgünstiger Kredite täuscht, stattdessen jedoch persönliche Daten sammelt und die Opfer mit diesen Daten erpresst.

So beheben Sie, dass Android Auto nicht funktioniert

So beheben Sie, dass Android Auto nicht funktioniert

Im folgenden Artikel gibt Ihnen Quantrimang einige Tipps zur Behebung von Problemen mit Android Auto, sei es auf dem Telefon oder dem Autobildschirm.

Anleitung zum Erstellen eines Scroll-Screenshots eines Android-Geräts, um die gesamte Webseite zu erfassen

Anleitung zum Erstellen eines Scroll-Screenshots eines Android-Geräts, um die gesamte Webseite zu erfassen

Anstatt die Nachrichten Ihrer Freunde mit Dutzenden von Screenshots zu „bombardieren“, können Sie einen Scroll-Screenshot erstellen und senden.

So beheben Sie aktuelle App-Absturzfehler auf Android

So beheben Sie aktuelle App-Absturzfehler auf Android

Bei Android-Smartphones scheint ein lästiger Fehler aufzutreten, der dazu führt, dass Anwendungen auf dem Gerät häufig abstürzen.

4 Anzeichen dafür, dass Android-Apps Sie verfolgen

4 Anzeichen dafür, dass Android-Apps Sie verfolgen

Eine ungewöhnliche Entladung des Akkus oder Datenspitzen müssen nicht unbedingt ein Fehler sein. Es könnte sich um eine bösartige App handeln, die heimlich Ihren Standort, Ihre Gewohnheiten usw. verfolgt.

6 Möglichkeiten zum Ausblenden und Einschränken von Apps auf Android

6 Möglichkeiten zum Ausblenden und Einschränken von Apps auf Android

Die vielen Apps auf dem Handy lassen einen leicht ablenken. Um die Bildschirmzeit zu reduzieren, sollte man die Apps außer Sichtweite schieben.

So zahlen Sie nie für Spiele und Apps auf Android

So zahlen Sie nie für Spiele und Apps auf Android

Dank Google Opinion Rewards haben viele Menschen beim Einkaufen im Play Store seit Jahren kein echtes Geld mehr ausgegeben.

7 iPhone-Kameraeinstellungen zum Anpassen für bessere Videos

7 iPhone-Kameraeinstellungen zum Anpassen für bessere Videos

Obwohl Ihr iPhone sofort nach dem Auspacken großartige Videos aufnehmen kann, können Sie durch die Anpassung einiger Kameraeinstellungen bessere Ergebnisse erzielen.

Die 4 besten Android Cleaner Apps

Die 4 besten Android Cleaner Apps

Quantrimang hat eine Liste der besten Junk-Cleaning-Apps für Android zusammengestellt. Weitere Informationen finden Sie weiter unten.

Top Android-Apps, die kostenlos und rabattiert sind 25.04.2025

Top Android-Apps, die kostenlos und rabattiert sind 25.04.2025

Wie finden Sie heute, am 25. April 2025, günstige und kostenlose Android-Apps? Quantrimang.com fasst die beliebtesten kostenlosen und günstigen Android-Apps zusammen, damit Sie in Zeiten steigender Preise und gelegentlicher leichter Benzinpreiserhöhungen etwas Geld sparen können.

So bereinigen Sie den iPhone-Datenmüll und löschen Junk-Dateien, um Speicherplatz freizugeben

So bereinigen Sie den iPhone-Datenmüll und löschen Junk-Dateien, um Speicherplatz freizugeben

Nach einer gewissen Nutzungsdauer werden Sie feststellen, dass Ihr iPhone oder iPad immer langsamer wird und der verbleibende freie Speicherplatz zu gering ist. Es ist Zeit, Ihr iPhone oder iPad aufzuräumen, indem Sie unnötige Junk-Dateien löschen, um den belegten Speicherplatz freizugeben.

IPhone-Sicherheitstipps, die Sie verpasst haben

IPhone-Sicherheitstipps, die Sie verpasst haben

Es gibt viele iPhone-Sicherheitsfunktionen, die wir nicht beachten und übersehen haben. Nachfolgend finden Sie eine Zusammenfassung der besten iPhone-Sicherheitsmethoden, die Sie überprüfen und implementieren können.

So beheben Sie, dass iPhone-E-Mails nicht aktualisiert werden

So beheben Sie, dass iPhone-E-Mails nicht aktualisiert werden

Wenn Ihre iPhone-E-Mails nicht aktualisiert werden, kann dies verschiedene Ursachen haben. Dazu gehören inkompatible Systemeinstellungen, Softwareprobleme, Unterschiede in den E-Mail-Protokollen usw.

So fügen Sie Emojis ganz einfach in Fotos auf dem iPhone ein

So fügen Sie Emojis ganz einfach in Fotos auf dem iPhone ein

Um Emojis in Fotos auf dem iPhone einfügen zu können, benötigen wir gemäß der folgenden Anleitung ein paar kleine Tricks.

10 überraschende Möglichkeiten, Ihr Android-Telefon zu nutzen

10 überraschende Möglichkeiten, Ihr Android-Telefon zu nutzen

Von der Funktion als kabelloses Ladegerät und Fitness-Tracker bis hin zum Maßband verfügt Ihr Android-Telefon über eine überraschende Anzahl versteckter Funktionen.

So deaktivieren Sie AirDrop auf iPhone/iPad und Mac

So deaktivieren Sie AirDrop auf iPhone/iPad und Mac

Sie können AirDrop auf dem iPhone oder iPad im Kontrollzentrum oder in den Einstellungen deaktivieren. Auf einem Mac können Sie AirDrop im Kontrollzentrum, in den Systemeinstellungen oder im Finder deaktivieren.

Bild in Bild auf dem iPhone: So aktivieren und verwenden Sie Bild in Bild (PIP)

Bild in Bild auf dem iPhone: So aktivieren und verwenden Sie Bild in Bild (PIP)

Sie können Picture in Picture (PiP) verwenden, um YouTube-Videos außerhalb des Bildschirms unter iOS 14 anzusehen, aber YouTube hat diese Funktion in der App gesperrt, sodass Sie PiP nicht direkt verwenden können. Sie müssen noch ein paar kleine Schritte hinzufügen, die wir im Folgenden ausführlich erläutern.

So beheben Sie verschwommene Fotos auf Android

So beheben Sie verschwommene Fotos auf Android

Erfahren Sie, wie Sie verschwommene Fotos auf Android-Telefonen (teilweise) korrigieren können.

Chrome ist der Grund, warum Ihr iPhone-Akku so schnell leer wird

Chrome ist der Grund, warum Ihr iPhone-Akku so schnell leer wird

Einige Nutzer haben Tipps zur Verbesserung der Akkulaufzeit durch die Deinstallation einer einzigen App gegeben: Chrome. Ihre Akkulaufzeit wird danach besser!

Die 6 besten Dateimanager für Android TV

Die 6 besten Dateimanager für Android TV

Jeder Android TV-Benutzer muss aus verschiedenen Gründen einen Dateimanager installieren.

Praktische Galaxy-Funktionen, die sich iPhone-Benutzer wünschen würden

Praktische Galaxy-Funktionen, die sich iPhone-Benutzer wünschen würden

Screenshots eignen sich hervorragend zum Speichern von Informationen, lassen aber oft Rätsel auf, wo man sie gefunden hat. Samsung Galaxy-Geräte lösen dieses Problem mit einer tollen Funktion: Screenshots verlinken zurück zur ursprünglichen Webseite.

So überprüfen Sie, welche Apps auf Android den meisten RAM verwenden

So überprüfen Sie, welche Apps auf Android den meisten RAM verwenden

Wenn eine Anwendung zu viel RAM des Geräts „verbraucht“, wird die Multitasking-Fähigkeit des Systems erheblich eingeschränkt und es kommt zu Verzögerungen, die das Erlebnis ernsthaft beeinträchtigen.