Durch die lokale Ausführung großer Sprachmodelle (LLMs) auf Ihrem Android-Smartphone können Sie auf KI-Modelle zugreifen, ohne auf Cloud-Server oder eine Internetverbindung angewiesen zu sein . Diese lokale Konfiguration gewährleistet Datenschutz, da Ihre Daten sicher und auf dem Gerät gespeichert bleiben. Dank der Fortschritte bei mobiler Hardware ist die lokale Ausführung von KI-Modellen Realität geworden. Mit der MLC Chat App können Sie diese leistungsstarke Technologie direkt auf Ihrem Smartphone erleben.
In diesem Artikel wird erläutert, wie wichtig es ist, LLM lokal auf Android-Telefonen auszuführen, und es werden schrittweise Anweisungen zur Installation und Ausführung mithilfe der MLC-Chat-App bereitgestellt.
Warum LLM auf einem Android-Telefon ausführen?
LLMs werden typischerweise auf Cloud-Servern ausgeführt, da sie erhebliche Rechenleistung erfordern. Android-Smartphones unterliegen zwar einigen Einschränkungen bei der Ausführung von LLMs, eröffnen aber auch interessante Möglichkeiten.
Schritt-für-Schritt-Anleitung zum Installieren und Ausführen von MLC Chat auf Android
Die MLC-Chat-Anwendung ermöglicht Benutzern die lokale Ausführung und Interaktion mit großen Sprachmodellen (LLMs) auf verschiedenen Geräten, einschließlich Mobiltelefonen, ohne auf Cloud-basierte Dienste angewiesen zu sein. Befolgen Sie die folgenden Schritte, um LLMs lokal auf einem Android-Gerät auszuführen.
Schritt 1: Installieren Sie die MLC Chat-Anwendung
Zuerst müssen Sie die APK für die MLC Chat-App (112 MB) über den unten stehenden Link herunterladen.
Sobald die APK heruntergeladen ist, tippen Sie auf die Datei, um die Installation zu starten.
Schritt 2: LLM herunterladen
Öffnen Sie die App nach erfolgreicher Installation. Sie sehen dann eine Liste der zum Download verfügbaren LLMs. Es stehen Modelle unterschiedlicher Größe und Kapazität zur Verfügung, wie zum Beispiel LLama-3.2, Phi-3.5 und Mistral. Wählen Sie das passende Modell aus und tippen Sie auf das Download-Symbol daneben, um den Download zu starten. Wenn Sie beispielsweise ein Mittelklasse-Smartphone wie das Redmi Note 10 verwenden, wählen Sie für eine reibungslosere Leistung ein leichtes Modell wie Qwen-2.5.
Schritt 3: Führen Sie das installierte LLM aus
Sobald das Modell heruntergeladen ist, wird daneben ein Chat-Symbol angezeigt. Tippen Sie auf das Symbol, um mit der Modellierung zu beginnen.
Sobald das Modell fertig ist, können Sie mit der Eingabe von Eingabeaufforderungen und der Interaktion mit dem lokalen LLM beginnen.
Auf einem Gerät wie dem Redmi Note 10 beispielsweise bietet die Ausführung eines kleineren Modells wie Qwen2.5 ein relativ reibungsloses Erlebnis und generiert etwa 1,4 Token pro Sekunde. Diese Leistung ist zwar langsamer als bei High-End-Geräten wie dem Galaxy S23 Ultra , funktioniert aber für grundlegende Aufgaben wie kurze Chats und die Erstellung einfacher Inhalte immer noch gut.
Die lokale Ausführung von LLM auf Android-Geräten über die MLC Chat-App bietet eine zugängliche und datenschutzfreundliche Möglichkeit zur Interaktion mit KI-Modellen. Die Leistung hängt stark von der Hardware des Telefons ab. Diese Lösung ist ideal für Nutzer, die Offline-Zugriff auf KI-Modelle benötigen, in Echtzeit mit LLM experimentieren oder sich um den Datenschutz sorgen. Mit der kontinuierlichen Verbesserung mobiler Hardware werden die Möglichkeiten des lokalen LLM stetig erweitert, was dies zu einem spannenden Bereich für die KI-Technologie macht.
Um die Navigation auf Ihrem Mobilgerät zu vereinfachen, können Sie die Schriftgröße unter Android ändern. Wenn Text, Schriftarten und Symbole besser zu erkennen sind, können Sie auch Ihre Android-Tastatur vergrößern.
Wer sich nicht mit Technik auskennt, kann leicht durch die verschiedenen Betriebssysteme, Hersteller, Gerätemodelle und Spezifikationen verwirrt werden. Ein Beispiel dafür ist die Annahme, Samsung und Android seien synonym, was nicht ganz richtig ist.
Wenn Sie bereits seit einigen Jahren ein Samsung-Telefon verwenden, werden Sie feststellen, dass die großartigen Funktionen der Galaxy-Reihe kaum zu übertreffen sind.
Auch das Erstellen von Screenshots ist auf Samsung Galaxy-Telefonen äußerst einfach.
In manchen Fällen ist es sinnvoll, für jede Anwendung eine Standardlautstärke festzulegen, beispielsweise wenn Sie mit der YouTube-Anwendung ein Video ansehen und die Lautstärke des Klingeltons und des Nachrichtentons verringern möchten, um nicht gestört zu werden.
Das vollständige Löschen und Deinstallieren einer App unter Android ist nicht immer so einfach wie das Tippen auf „Deinstallieren“. Stattdessen bleiben Dateien zurück und verstopfen Ihr System. Es gibt jedoch Möglichkeiten, diese loszuwerden.
Die Standard-Kamera-Apps auf Ihrem Handy bieten zwar viel, verfügen aber noch immer nicht über die nötigen erweiterten Tools für kreative Fotografie. Hier sind die besten Handy-Kamera-Apps.
Im folgenden Artikel erklärt Quantrimang, wie Shelter funktioniert und wie man dieses Tool verwendet.
Obwohl die Android-Bedienungshilfen für bestimmte Bedürfnisse entwickelt wurden, können einige davon für jeden von Nutzen sein.
Das Jonglieren mit mehreren Apps auf dem Smartphone kann manchmal überwältigend sein. Glücklicherweise bietet Android zahlreiche Funktionen, die Multitasking zum Kinderspiel machen.
Die meisten virtuellen Tastatur-Apps verfügen über eine Vibrations-Feedback-Funktion – auch als „haptisches Feedback“ bekannt –, um das Tippen auf einem Touchscreen realistischer zu gestalten.
Die Kombination aus iPhone und Android-Telefon bietet Vorteile, die es lohnenswert machen, beide mit sich zu führen.
Quantrimang zeigt Ihnen, wie Sie Cookies auf Android-Telefonen sowohl in Google Chrome als auch in Mozilla Firefox aktivieren.
Fotografie ist eine großartige Möglichkeit, unvergessliche Momente in unserem Leben festzuhalten.
Obwohl Probleme mit dem Mikrofon bei Android-Geräten recht häufig sind, können Sie sie mit den folgenden Schritten zur Fehlerbehebung beheben.
Android-Benutzer können Microsoft Copilot als virtuellen Assistenten auf ihrem Telefon installieren, ähnlich wie sie Gemini als virtuellen Assistenten auf Android verwenden.
Um die Navigation auf Ihrem Mobilgerät zu vereinfachen, können Sie die Schriftgröße unter Android ändern. Wenn Text, Schriftarten und Symbole besser zu erkennen sind, können Sie auch Ihre Android-Tastatur vergrößern.
Wer sich nicht mit Technik auskennt, kann leicht durch die verschiedenen Betriebssysteme, Hersteller, Gerätemodelle und Spezifikationen verwirrt werden. Ein Beispiel dafür ist die Annahme, Samsung und Android seien synonym, was nicht ganz richtig ist.
Wenn Sie in Chrome einen Link aus einer Android-App öffnen, verschwindet die App. So minimieren Sie einen aus einer Android-App geöffneten Chrome-Link.
Egal, ob Sie nach dem Neusten und Besten suchen oder eine preisgünstige Option wünschen, die dennoch ein gutes Smartphone-Erlebnis bietet, dies sind die besten derzeit erhältlichen Android-Telefone.
Diese Sammlung von Pillen-Hintergrundbildern für das iPhone 14 Pro und Pro Max umfasst eine breite Palette von Hintergrundbildkategorien. Von berühmten Zeichentrickfiguren über mehrfarbige und monochrome Hintergrundbilder bis hin zu Natur-Hintergrundbildern ...
Mit Gmail auf dem iPhone können Benutzer E-Mail-Benachrichtigungen entsprechend den individuellen Anforderungen erhalten, nur wichtige E-Mail-Benachrichtigungen erhalten, vorrangige E-Mail-Benachrichtigungen erhalten oder alle Arten von E-Mails über Gmail auf dem iPhone empfangen.
Können Sie sich noch erinnern, wie oft Sie eine App installiert, bei der Aufforderung zum Zugriff auf Fotos schnell auf „Zulassen“ getippt und dann ohne einen zweiten Gedanken weitergemacht haben?
iPhone-Nachrichten bietet die Möglichkeit, geteilte Inhalte anzuheften, sodass jeder sie sofort sehen kann. So fixieren Sie geteilte Inhalte in iPhone-Nachrichten.
Wenn Sie Ihr iPhone neu starten müssen, drücken Sie einfach die Verknüpfung „iPhone neu starten“ im Kontrollzentrum. Falls die Seitentaste defekt ist, können wir diese Methode verwenden.
Viele Nutzer mögen die Musikvorschläge auf dem iPhone-Sperrbildschirm nicht, weil sie störend oder unnötig sind. In diesem Fall können Sie die Musikvorschläge auf dem iPhone-Sperrbildschirm gemäß den folgenden Anweisungen deaktivieren.
Mit dem neuen iOS 17-Update hat Apple dem iPhone eine Medikamentenerinnerungsfunktion hinzugefügt, mit der Sie Ihren Medikamentenplan ganz einfach im Auge behalten können.
Sechs verschiedene Beleuchtungsstile sind im Porträtmodus des iPhone integriert. Aber sie sind nicht nur für Selfies gedacht.
Wenn Sie bereits seit einigen Jahren ein Samsung-Telefon verwenden, werden Sie feststellen, dass die großartigen Funktionen der Galaxy-Reihe kaum zu übertreffen sind.
Mit der neuesten Version der Google Play-Dienste stellen Sie sicher, dass Ihre Apps einwandfrei funktionieren. So aktualisieren Sie die Google Play-Dienste auf Android.
