Als u grote taalmodellen (LLM's) lokaal op uw Android-telefoon uitvoert , hebt u toegang tot deze AI-modellen zonder dat u afhankelijk bent van cloudservers of een internetverbinding . Deze lokale configuratie waarborgt uw privacy doordat uw gegevens veilig op het apparaat blijven. Dankzij de vooruitgang in mobiele hardware is het mogelijk geworden om AI-modellen lokaal uit te voeren. Met de MLC Chat-app kunt u deze krachtige technologie eenvoudig op uw telefoon ervaren.
In dit artikel wordt uitgelegd waarom het belangrijk is om LLM lokaal uit te voeren op Android-telefoons. Ook vindt u stapsgewijze instructies voor het installeren en uitvoeren ervan via de MLC Chat-app.
Waarom LLM op een Android-telefoon volgen?
LLM's worden doorgaans op cloudservers uitgevoerd, omdat hiervoor veel computerkracht nodig is. Hoewel Android-telefoons bepaalde beperkingen hebben bij het uitvoeren van LLM, bieden ze ook een aantal interessante mogelijkheden.
Stapsgewijze handleiding voor het installeren en uitvoeren van MLC Chat op Android
Met de MLC Chat-applicatie kunnen gebruikers grote taalmodellen (LLM's) lokaal op verschillende apparaten, waaronder mobiele telefoons, uitvoeren en ermee communiceren zonder afhankelijk te zijn van cloudgebaseerde services. Volg de onderstaande stappen om LLM lokaal op uw Android-apparaat uit te voeren.
Stap 1: MLC Chat-applicatie installeren
Download eerst de APK voor de MLC Chat-app (112 MB) via onderstaande link.
APK-bestand van de MLC Chat-applicatie
Zodra de APK is gedownload, tikt u op het bestand om de installatie te starten.
Stap 2: Download LLM
Nadat u de app succesvol hebt geïnstalleerd, opent u de app. U ziet dan een lijst met LLM's die u kunt downloaden. Er zijn modellen van verschillende afmetingen en mogelijkheden beschikbaar, zoals de LLama-3.2, Phi-3.5 en Mistral. Selecteer het model dat u nodig hebt en klik op het downloadpictogram ernaast om het downloaden te starten. Als u bijvoorbeeld een telefoon uit het middensegment gebruikt, zoals de Redmi Note 10, kies dan voor een lichtgewicht model, zoals de Qwen-2.5, voor soepelere prestaties.
Stap 3: Voer de geïnstalleerde LLM uit
Zodra het model is gedownload, verschijnt er een chatpictogram naast. Klik op het pictogram om te beginnen met modelleren.
Zodra het model klaar is, kunt u beginnen met het typen van opdrachten en communiceren met de lokale LLM.
Op een apparaat als de Redmi Note 10 levert een kleiner model als Qwen2.5 bijvoorbeeld een behoorlijk vloeiende ervaring op, met een snelheid van ongeveer 1,4 tokens per seconde. Hoewel de prestaties trager zijn dan bij geavanceerde apparaten zoals de Galaxy S23 Ultra , werken deze nog steeds prima voor basistaken zoals korte chats en het maken van simpele content.
Door LLM lokaal op Android-apparaten uit te voeren via de MLC Chat-app, kunt u op een toegankelijke en privacybeschermende manier met AI-modellen communiceren. De prestaties zijn sterk afhankelijk van de hardware van de telefoon. Deze oplossing is ideaal voor gebruikers die offline toegang nodig hebben tot AI-modellen, LLM's in realtime willen testen of zich zorgen maken over hun privacy. Naarmate mobiele hardware blijft verbeteren, zullen de mogelijkheden van lokale LLM alleen maar toenemen. Dit is een spannend gebied voor AI-technologie.
Hoewel de toegankelijkheidsfuncties van Android zijn ontworpen met specifieke behoeften in gedachten, zijn sommige ervan voor iedereen nuttig.
Soms kan het overweldigend zijn om meerdere apps op je telefoon te moeten gebruiken om dingen gedaan te krijgen. Gelukkig biedt Android een verscheidenheid aan functies die multitasking eenvoudig maken.
De meeste apps met een virtueel toetsenbord beschikken over een vibratiefeedbackfunctie (ook wel 'haptische feedback' genoemd) om typen op een touchscreen realistischer te maken.
Een iPhone en een Android-telefoon bieden samen zoveel voordelen dat het de moeite waard is om ze allebei mee te nemen.
Quantrimang legt uit hoe u cookies kunt inschakelen op Android-telefoons in zowel Google Chrome als Mozilla Firefox.
Fotografie is een geweldige manier om gedenkwaardige momenten in ons leven vast te leggen.
Hoewel problemen met de microfoon veel voorkomen op Android-apparaten, kunt u de volgende stappen voor probleemoplossing volgen om ze op te lossen.
Zelfs na tien jaar Android te hebben gebruikt, zijn er nog steeds verborgen functies die je doen afvragen: waarom wist ik hier niet eerder van? .
Quantrimang heeft een lijst samengesteld met de beste apps voor het opruimen van ongewenste bestanden op Android. Bekijk deze hieronder.
Laten we leren hoe je onscherpe foto's op Android-telefoons (deels) kunt corrigeren.
Elke Android TV-gebruiker moet om verschillende redenen een bestandsbeheerder installeren.
Als een applicatie te veel van het RAM-geheugen van het apparaat 'verbruikt', zal dit de multitasking-capaciteiten van het systeem ernstig beperken en bovendien vertraging veroorzaken, wat de ervaring ernstig beïnvloedt.
Nu kunt u uw eigen versie van een Android-mascotte maken, genaamd The Bot. Door materialen, kleding, accessoires en rekwisieten te kiezen, kunt u The Bot naar eigen wens aanpassen.
Eindelijk staat Apple gebruikers van Android-apparaten toe FaceTime te gebruiken.
Heb je ooit je vrienden willen voor de gek houden met een gek stemmetje? Dankzij sommige smartphone-apps heb je daarvoor geen omvangrijke computersoftware meer nodig.
Apple stopt met de productie van de iPhone 15 Pro en Pro Max, samen met de iPhone 13, omdat de iPhone 16-serie zojuist is gelanceerd
Hoewel de toegankelijkheidsfuncties van Android zijn ontworpen met specifieke behoeften in gedachten, zijn sommige ervan voor iedereen nuttig.
Hoe maak je een screenshot op de iPhone op alle versies van iPhone 5, 5s, 6, 6s, 7, 7 Plus, 8/8 Plus tot iPhone X, Xr, Xs, iPhone 11, iPhone 12.
Google Gemini is officieel beschikbaar op iPhone-gebruikers, die het kunnen downloaden en uitproberen. De interface en functies van Gemini op de iPhone zijn vergelijkbaar met de Gemini-versie op Android.
Soms kan het overweldigend zijn om meerdere apps op je telefoon te moeten gebruiken om dingen gedaan te krijgen. Gelukkig biedt Android een verscheidenheid aan functies die multitasking eenvoudig maken.
Door Android bij te werken naar de nieuwste versie kunt u op uw telefoon gebruikmaken van de nieuwe functies van het besturingssysteem, met name upgrades voor de beveiliging van het systeem.
Om uw persoonlijke gegevens en privacy te beschermen, kunt u uw contacten op de iPhone verbergen wanneer u dat wilt.
Na verloop van tijd wordt iMessage de app die het grootste deel van uw opslagruimte in beslag neemt.
Als u terug wilt naar de tijd waarin de iPod de muziekindustrie veroverde, kunt u uw iPhone omtoveren tot een klassieke iPod met de achtergrondset uit het onderstaande artikel.
U kunt meer bestanden toevoegen die u direct vanaf het startscherm van uw iPhone wilt openen. U kunt bijvoorbeeld recente bestanden openen vanaf het startscherm van uw iPhone.
Google Drive is een prima keuze voor iedereen die op zoek is naar een uiterst betrouwbare oplossing voor cloudopslag, vooral voor Android-gebruikers.
De gele batterijkleur op het iPhone-scherm wordt eigenlijk veroorzaakt door een nieuwe functie die Apple de energiebesparingsmodus noemt. Deze functie wordt niet automatisch geactiveerd zonder toestemming van de gebruiker. Als u per ongeluk de modus hebt geactiveerd terwijl u het apparaat gebruikte en nu niet weet hoe u het gele batterijpictogram van uw iPhone kunt uitschakelen, raadpleeg dan de volgende instructies.
Het vergrendelscherm op uw Android-apparaat heeft niet alleen een esthetische functie. Het is ook een belangrijk navigatiescherm waarmee u direct toegang krijgt tot de functies die u het meest gebruikt. Bekijk hieronder de lijst met apps en widgets voor het Android-vergrendelscherm als u het ontgrendelen van uw telefoon leuker en efficiënter wilt maken.
De meeste apps met een virtueel toetsenbord beschikken over een vibratiefeedbackfunctie (ook wel 'haptische feedback' genoemd) om typen op een touchscreen realistischer te maken.
Als u een iPhone 6, iPhone 6 Plus of een ouder iPhone-model gebruikt, kunt u de nieuwe versie van Opera niet op uw apparaat downloaden.
