Onderzoekers van Apple hebben een methode ontwikkeld waarmee apparaten van het bedrijf, zoals de iPhones, hun eigen large language models lokaal kunnen draaien, zonder dat dat de beschikbare geheugen van deze apparaten overschrijdt. In een onderzoekspaper schrijft het team dat ze hiervoor een nieuwe techniek hebben ontwikkeld, waarmee de data van het AI-model tijdelijk in het flashgeheugen van het apparaat opgeslagen kan worden, zodat de dram-capaciteit niet wordt ontstijgt (PDF).
Hiervoor wo…
06-15293210