Durch die lokale Ausführung großer Sprachmodelle (LLMs) auf Ihrem Android-Smartphone können Sie auf KI-Modelle zugreifen, ohne auf Cloud-Server oder eine Internetverbindung angewiesen zu sein . Diese lokale Konfiguration gewährleistet Datenschutz, da Ihre Daten sicher und auf dem Gerät gespeichert bleiben. Dank der Fortschritte bei mobiler Hardware ist die lokale Ausführung von KI-Modellen Realität geworden. Mit der MLC Chat App können Sie diese leistungsstarke Technologie direkt auf Ihrem Smartphone erleben.
In diesem Artikel wird erläutert, wie wichtig es ist, LLM lokal auf Android-Telefonen auszuführen, und es werden schrittweise Anweisungen zur Installation und Ausführung mithilfe der MLC-Chat-App bereitgestellt.
Warum LLM auf einem Android-Telefon ausführen?
LLMs werden typischerweise auf Cloud-Servern ausgeführt, da sie erhebliche Rechenleistung erfordern. Android-Smartphones unterliegen zwar einigen Einschränkungen bei der Ausführung von LLMs, eröffnen aber auch interessante Möglichkeiten.
Schritt-für-Schritt-Anleitung zum Installieren und Ausführen von MLC Chat auf Android
Die MLC-Chat-Anwendung ermöglicht Benutzern die lokale Ausführung und Interaktion mit großen Sprachmodellen (LLMs) auf verschiedenen Geräten, einschließlich Mobiltelefonen, ohne auf Cloud-basierte Dienste angewiesen zu sein. Befolgen Sie die folgenden Schritte, um LLMs lokal auf einem Android-Gerät auszuführen.
Schritt 1: Installieren Sie die MLC Chat-Anwendung
Zuerst müssen Sie die APK für die MLC Chat-App (112 MB) über den unten stehenden Link herunterladen.
Sobald die APK heruntergeladen ist, tippen Sie auf die Datei, um die Installation zu starten.
Schritt 2: LLM herunterladen
Öffnen Sie die App nach erfolgreicher Installation. Sie sehen dann eine Liste der zum Download verfügbaren LLMs. Es stehen Modelle unterschiedlicher Größe und Kapazität zur Verfügung, wie zum Beispiel LLama-3.2, Phi-3.5 und Mistral. Wählen Sie das passende Modell aus und tippen Sie auf das Download-Symbol daneben, um den Download zu starten. Wenn Sie beispielsweise ein Mittelklasse-Smartphone wie das Redmi Note 10 verwenden, wählen Sie für eine reibungslosere Leistung ein leichtes Modell wie Qwen-2.5.
Schritt 3: Führen Sie das installierte LLM aus
Sobald das Modell heruntergeladen ist, wird daneben ein Chat-Symbol angezeigt. Tippen Sie auf das Symbol, um mit der Modellierung zu beginnen.
Sobald das Modell fertig ist, können Sie mit der Eingabe von Eingabeaufforderungen und der Interaktion mit dem lokalen LLM beginnen.
Auf einem Gerät wie dem Redmi Note 10 beispielsweise bietet die Ausführung eines kleineren Modells wie Qwen2.5 ein relativ reibungsloses Erlebnis und generiert etwa 1,4 Token pro Sekunde. Diese Leistung ist zwar langsamer als bei High-End-Geräten wie dem Galaxy S23 Ultra , funktioniert aber für grundlegende Aufgaben wie kurze Chats und die Erstellung einfacher Inhalte immer noch gut.
Die lokale Ausführung von LLM auf Android-Geräten über die MLC Chat-App bietet eine zugängliche und datenschutzfreundliche Möglichkeit zur Interaktion mit KI-Modellen. Die Leistung hängt stark von der Hardware des Telefons ab. Diese Lösung ist ideal für Nutzer, die Offline-Zugriff auf KI-Modelle benötigen, in Echtzeit mit LLM experimentieren oder sich um den Datenschutz sorgen. Mit der kontinuierlichen Verbesserung mobiler Hardware werden die Möglichkeiten des lokalen LLM stetig erweitert, was dies zu einem spannenden Bereich für die KI-Technologie macht.
Einige Nutzer sind kürzlich nach Jahren der iPad-Nutzung auf das Xiaomi Pad 7 umgestiegen. Obwohl das iPad als großartiges Tablet gilt, bieten Android-Tablets deutlich mehr als das iPad.
Ihre Lieblings-Apps sammeln nicht nur Informationen für den Eigengebrauch, sie geben diese auch an Dritte weiter – und das alles aus Profitgründen.
Das Teilen-Menü von Android erleichtert das Senden von Webseiten, Videos, Bildern und mehr mit jeder kompatiblen App auf Ihrem Telefon. Die Navigation im Menü kann jedoch schwierig sein.
Android und iOS haben sich im Laufe der Jahre hinsichtlich der Anpassungsmöglichkeiten immer mehr angenähert. Wenn Sie jedoch von einem Android-Gerät auf ein iPhone umsteigen, werden Sie feststellen, dass einige Funktionen fehlen.
Wenn Sie die Leselistenfunktion von Chrome auf Ihrem Android-Gerät ausprobieren möchten, befolgen Sie einfach diese einfachen Schritte.
Während Google Gemini auf den meisten Android-Geräten der standardmäßige digitale Assistent ist, kann er durch Alternativen wie ChatGPT oder Perplexity ersetzt werden.
Browser auf Smartphones im Allgemeinen und auf Android im Besonderen sind oft recht einfach und verfügen nicht über viele nützliche Funktionen wie Google Chrome, Firefox oder Dolphin. Anstatt die Standardbrowser auf Ihrem Gerät verwenden zu müssen, können Sie sie ganz nach Ihren Wünschen ändern, um Ihr Nutzungserlebnis zu verbessern.
Apple hat AirTag für die Verwendung mit iPhones entwickelt und kann daher nicht mit Android-Geräten verwendet werden. Es unterstützt jedoch grundlegendes Tracking auf Android-Geräten, um unbefugtes Tracking zu verhindern.
Android-Geräte bieten zahlreiche Funktionen, mit denen Sie Ihre Produktivität maximieren können. Egal, ob Sie berufstätig oder studieren, diese produktivitätsorientierten Funktionen helfen Ihnen.
Nachdem sie so viele Launcher ausprobiert haben, entscheiden sich viele Leute, zum Standard-Launcher ihres Telefons zurückzukehren.
Google hat es jetzt einfacher gemacht, die Option zur Standortfreigabe zu finden und zu deaktivieren, indem den grundlegenden Android-Einstellungen ein Schalter hinzugefügt wurde.
Im folgenden Artikel erklärt Ihnen Quantrimang, wie Sie unter Android mehrere Personen gleichzeitig anrufen, Personen zum Anruf hinzufügen und an einem Mehrwegeanruf teilnehmen.
Viele Menschen sind eingefleischte Android-Fans und schätzen die Plattform. Dennoch gibt es immer noch einige nervige Aspekte von Android, die Nutzer kopfschüttelnd zurücklassen.
Mit dieser Funktion weiß jeder, der die Telefon-App des Unternehmens verwendet, wer anruft, indem die Anrufer-ID angesagt wird, sodass Sie nicht manuell nachsehen müssen.
Im hektischen Alltag vergisst man oft Dinge. Doch jetzt ist das kein Problem mehr. Probieren Sie jetzt eines dieser 5 nützlichen Erinnerungs-Widgets für Android aus!
Mit der Mail-App auf dem iPhone können Sie E-Mail-Konten zur App hinzufügen und einrichten, sodass Sie E-Mails direkt in der iPhone-Mail-App verwalten können.
Auf dem iPhone/iPad gibt es eine Datei-App zur Verwaltung aller Dateien auf dem Gerät, einschließlich der heruntergeladenen Dateien. Der folgende Artikel erklärt, wie Sie heruntergeladene Dateien auf dem iPhone/iPad finden.
Ihr iPhone ist vollgepackt mit leistungsstarken Tools, die Ihnen den Alltag erleichtern. Einige sind so nützlich, dass Sie sich fragen werden, warum Sie so lange gebraucht haben, um sie zu nutzen.
Das neue iOS 18 führt die Musik-Touch-Funktion für die Apple Music-App ein, um Touch zu unterstützen. Die Touch-Bedienung wird mit dem unterstützten Song-Audio synchronisiert.
Entwickleroptionen auf Android-Geräten sind standardmäßig ausgeblendet, um systemrelevante Änderungen zu vermeiden. Der folgende Artikel erklärt, wie man den Entwicklermodus auf Android aktiviert (siehe Beispiel des Samsung Galaxy S9) und wie man ihn deaktiviert, wenn man ihn nicht mehr benötigt.
Einige Nutzer sind kürzlich nach Jahren der iPad-Nutzung auf das Xiaomi Pad 7 umgestiegen. Obwohl das iPad als großartiges Tablet gilt, bieten Android-Tablets deutlich mehr als das iPad.
Ihre Lieblings-Apps sammeln nicht nur Informationen für den Eigengebrauch, sie geben diese auch an Dritte weiter – und das alles aus Profitgründen.
Das Teilen-Menü von Android erleichtert das Senden von Webseiten, Videos, Bildern und mehr mit jeder kompatiblen App auf Ihrem Telefon. Die Navigation im Menü kann jedoch schwierig sein.
Android und iOS haben sich im Laufe der Jahre hinsichtlich der Anpassungsmöglichkeiten immer mehr angenähert. Wenn Sie jedoch von einem Android-Gerät auf ein iPhone umsteigen, werden Sie feststellen, dass einige Funktionen fehlen.
Wenn bei der automatischen Installation einiger Anwendungen oder Spiele auf Ihrem iPhone Fehler auftreten, befolgen Sie diesen Artikel, um die zufällige Installation von Anwendungen auf Ihrem iPhone zu blockieren.
Es sieht nach einem soliden Upgrade aus, aber es gibt eine wichtige Änderung, die viele Leute zögern lässt, vorzubestellen.
Das manuelle Löschen von Hunderten von Screenshots kann mühsam sein. Deshalb kann es äußerst nützlich sein, eine iPhone-Verknüpfung zu erstellen, mit der Sie die Screenshots in Sekundenschnelle löschen können.
Wenn Sie sich durch iPhone-Benachrichtigungen auf Ihrem Mac über die iPhone-Spiegelungsfunktion gestört fühlen, können Sie die iPhone-Benachrichtigungen auf Ihrem Mac vollständig deaktivieren, indem Sie den folgenden Anweisungen folgen.
Einige Mondkalenderanwendungen unterstützen die Installation von Widgets, um den Mondkalender schnell auf dem iPhone-Sperrbildschirm anzuzeigen, ohne wie gewohnt auf die Anwendung zugreifen zu müssen.
Wenn Sie die Leselistenfunktion von Chrome auf Ihrem Android-Gerät ausprobieren möchten, befolgen Sie einfach diese einfachen Schritte.
