Foxconn kondigt verfijnd Large Language Model (LLM) aan, gebaseerd op Metas Llama 3.1

Foxconn, het bedrijf dat vooral bekend is vanwege de productie van iPhones en andere hardwareproducten van Apple, heeft zojuist iedereen verrast met de aankondiging van zijn eerste grote taalmodel (LLM), genaamd FoxBrain. Dit model is bedoeld om de productie en het beheer van de toeleveringsketen te verbeteren.

Volgens de Taiwanese fabrikant is FoxBrain getraind met slechts 120 H100 GPU's van Nvidia. Deze LLM is in de basis ontwikkeld op basis van Meta's Llama 3.1-architectuur, met 70 miljard parameters via distillatie. Het concept van LLM-verfijning omvat het gebruik van een 'oudermodel' en het trainen van een 'kindmodel' op basis van de reacties daarvan. Foxconn gaf ook toe dat hun LLM niet zo goed is als het verfijnde model van DeepSeek (China), maar de algehele prestaties liggen wel heel dicht bij de wereldnormen.

Dr. Yung-Hui Li, directeur van het Artificial Intelligence Research Center van het Hon Hai Research Institute (Foxconn), zei het volgende over deze prestatie:

De afgelopen maanden zijn de verbetering van redeneervermogen en het efficiënte gebruik van GPU's geleidelijk een belangrijke trend geworden op het gebied van AI. Ons FoxBrain-model hanteert een zeer efficiënte trainingsstrategie, waarbij de nadruk ligt op het optimaliseren van het trainingsproces in plaats van het blindelings verzamelen van computerkracht.

Dankzij zorgvuldig ontworpen trainingsmethoden en optimalisatie van middelen zijn we erin geslaagd een lokaal AI-model te bouwen met sterke redeneercapaciteiten."

Foxconn kondigt verfijnd Large Language Model (LLM) aan, gebaseerd op Meta's Llama 3.1

Foxconn assembleert niet alleen Apple-producten, maar produceert ook de AI-servers van Nvidia. FoxBrain wordt, samen met 120 H100 GPU's, opgeschaald met behulp van Nvidia's Quantum-2 InfiniBand-netwerk en de training duurt slechts ongeveer 4 weken (voor een totale rekenkracht van 2.688 GPU-dagen). Foxconn genereerde 98 miljard hoogwaardige pre-training datatokens in Traditioneel Chinees met een contextvensterlengte van maximaal 128.000 tokens.

De samenwerking tussen Foxconn en Nvidia is niet nieuw. De twee bedrijven werken ook aan andere projecten, waaronder de bouw van 's werelds grootste Blackwell GPU-productiefaciliteit.

Nvidia leverde ook de Taipei-1 supercomputer aan Foxconn om het pre-trainingsproces van het model te voltooien. Foxconn zei dat FoxBrain een "belangrijke motor" zal worden voor de upgrade van de drie belangrijkste platforms van het bedrijf: slimme productie, slimme elektrische voertuigen en slimme steden.

Sign up and earn $1000 a day ⋙

Leave a Comment

Verschil tussen gewone tv en smart-tv

Verschil tussen gewone tv en smart-tv

Smart-tv's hebben de wereld veroverd. Dankzij zoveel geweldige functies en internetverbinding heeft technologie de manier waarop we televisiekijken veranderd.

Waarom heeft de vriezer geen lampje, maar de koelkast wel?

Waarom heeft de vriezer geen lampje, maar de koelkast wel?

Koelkasten zijn vertrouwde apparaten in huishoudens. Koelkasten hebben meestal twee compartimenten. Het koelvak is ruim en heeft verlichting die automatisch aangaat wanneer de gebruiker het vak opent. Het vriesvak is smal en heeft geen verlichting.

2 manieren om netwerkcongestie te verhelpen die wifi vertraagt

2 manieren om netwerkcongestie te verhelpen die wifi vertraagt

Wi-Fi-netwerken worden niet alleen beïnvloed door routers, bandbreedte en interferentie, maar er zijn een aantal slimme manieren om uw netwerk te versterken.

Hoe u kunt downgraden van iOS 17 naar iOS 16 zonder gegevensverlies met Tenorshare Reiboot

Hoe u kunt downgraden van iOS 17 naar iOS 16 zonder gegevensverlies met Tenorshare Reiboot

Als u terug wilt naar de stabiele iOS 16 op uw telefoon, vindt u hier de basisgids voor het verwijderen van iOS 17 en downgraden van iOS 17 naar 16.

Wat gebeurt er met je lichaam als je elke dag yoghurt eet?

Wat gebeurt er met je lichaam als je elke dag yoghurt eet?

Yoghurt is een heerlijk voedingsmiddel. Is het goed om elke dag yoghurt te eten? Hoe verandert je lichaam als je elke dag yoghurt eet? Laten we het samen ontdekken!

Welk type rijst is het beste voor de gezondheid?

Welk type rijst is het beste voor de gezondheid?

In dit artikel worden de meest voedzame rijstsoorten besproken en hoe u de gezondheidsvoordelen van de rijst die u kiest, optimaal kunt benutten.

Hoe word je s ochtends op tijd wakker?

Hoe word je s ochtends op tijd wakker?

Een slaapschema en bedtijdroutine opstellen, uw wekker verzetten en uw dieet aanpassen zijn enkele maatregelen die u kunnen helpen om beter te slapen en 's ochtends op tijd wakker te worden.

Tips voor het spelen van Rent Please! Verhuurder Sim voor beginners

Tips voor het spelen van Rent Please! Verhuurder Sim voor beginners

Huren alstublieft! Landlord Sim is een simulatiespel voor mobiel op iOS en Android. Je speelt als verhuurder van een appartementencomplex en begint met het verhuren van een appartement. Je doel is om het interieur van je appartement te verbeteren en het gereed te maken voor huurders.

De nieuwste badkamertorenverdedigingscodes en hoe u deze invoert

De nieuwste badkamertorenverdedigingscodes en hoe u deze invoert

Ontvang de Roblox-gamecode voor Bathroom Tower Defense en wissel deze in voor geweldige beloningen. Ze helpen je bij het upgraden of ontgrendelen van torens met hogere schade.

Structuur, symbolen en werkingsprincipes van transformatoren

Structuur, symbolen en werkingsprincipes van transformatoren

Laten we op de meest nauwkeurige manier de structuur, symbolen en werkingsprincipes van transformatoren leren kennen.

4 manieren waarop AI smart-tvs beter maakt

4 manieren waarop AI smart-tvs beter maakt

Van betere beeld- en geluidskwaliteit tot spraakbesturing en meer: ​​deze AI-functies maken smart-tv's zoveel beter!

Waarom ChatGPT beter is dan DeepSeek

Waarom ChatGPT beter is dan DeepSeek

Aanvankelijk hadden mensen hoge verwachtingen van DeepSeek. Deze AI-chatbot wordt op de markt gebracht als sterke concurrent van ChatGPT en belooft intelligente chatmogelijkheden en -ervaringen.

Maak kennis met Fireflies.ai: de gratis AI-secretaris die u uren werk bespaart

Maak kennis met Fireflies.ai: de gratis AI-secretaris die u uren werk bespaart

Het is gemakkelijk om belangrijke details te missen wanneer u andere belangrijke zaken opschrijft. Bovendien kan het maken van aantekeningen tijdens een gesprek afleidend werken. Fireflies.ai is de oplossing.

Hoe je een Axolotl in Minecraft grootbrengt en een Minecraft Salamander temt

Hoe je een Axolotl in Minecraft grootbrengt en een Minecraft Salamander temt

Axolot Minecraft is een geweldige assistent voor spelers die onderwater opereren, als ze maar weten hoe ze deze moeten gebruiken.

A Quiet Place: The Road Ahead PC-gameconfiguratie

A Quiet Place: The Road Ahead PC-gameconfiguratie

De configuratie van A Quiet Place: The Road Ahead wordt als zeer positief beoordeeld. Houd hier dus rekening mee voordat u besluit om te downloaden.