Apple-onderzoekers beschrijven Minions als een systeem dat AI-inferentietaken verdeelt over inactieve Macs met Apple Silicon. Het coördinatiemechanisme moet voorkomen dat twee Macs dezelfde subtaak oppakken en kan onafgemaakt werk opnieuw vrijgeven. In hun paper leggen de onderzoekers uit hoe dat werkt.
Minions is relevant omdat teams zo beschikbare rekenkracht kunnen inzetten voor inferentie: het uitvoeren van een al getraind model. De beschreven taken zijn embeddings genereren met ondersteunde Hugging Face-transformermodellen en antwoorden laten maken door een groot taalmodel via Ollama.
Hoe Minions subtaken verdeelt
De Minion Server controleert een ingediende taak en splitst die op in kleinere subtaken. Macs met Minion Executor halen geschikt werk zelf op via een REST API. Ze verwerken de invoer lokaal op de Apple Silicon-GPU en sturen de resultaten naar configureerbare objectopslag; AWS S3 is het voorbeeld dat de onderzoekers noemen. Als een model nodig is, kan de executor het lokaal ophalen en opslaan.
De uitvoerders halen werk op uit een gedeelde wachtrij; een centrale scheduler wijst de subtaken dus niet stuk voor stuk toe. Standaard komen taken in volgorde van binnenkomst aan bod. Een eigenaar van executors kan voorkeuren instellen voor een team, project of specifieke taak. Is er geen passend werk, dan kan de executor terugvallen op de gedeelde wachtrij.
Hoe PostgreSQL dubbele claims voorkomt
PostgreSQL registreert welke executor een subtaak uitvoert. Een unieke databasebeperking op team, project, taaknaam en subtaak-ID zorgt ervoor dat maar één executor de subtaak kan claimen. Dat is de kern van de coördinatie: meerdere Macs kunnen tegelijk werken, maar krijgen niet dezelfde subtaak toegewezen.
Hoe Minions onafgemaakt werk hervat
Executors sturen elke vijf minuten een heartbeat: een signaal dat laat zien dat ze nog actief zijn. De Minion Watchdog bewaakt uitvoerders die werk hebben opgepakt. Reageert zo’n executor niet meer, bijvoorbeeld na netwerkverlies, slaapstand, uitschakeling of beëindiging, dan geeft de watchdog de onafgemaakte subtaak vrij zodat een andere executor die kan oppakken.
Welke informatie teams kunnen volgen
Grafana-dashboards tonen gegevens die uit PostgreSQL komen. Teams kunnen er aantallen executors zien met de status geregistreerd, online, bezig of inactief. Voor taken zijn de statussen actief, voltooid en mislukt zichtbaar, naast het type inferentie. Zo is niet alleen te volgen hoeveel uitvoerders beschikbaar zijn, maar ook wat er met het werk gebeurt.
Voor deployments op team- of organisatieniveau beschrijven de onderzoekers aparte PostgreSQL-databases en gescheiden executorpools als een manier om zorgen over vertrouwelijkheid aan te pakken.
Wat de wachttijd van uren naar minuten betekent
Apple-onderzoekers melden dat sommige inferentietaken eerder meer dan tien uur op toegang tot GPU-capaciteit wachtten en met Minions vaak binnen enkele minuten konden beginnen. Dat gaat om de wachttijd vóór de uitvoering start. Het zegt niet hoe snel een model daarna rekent of wanneer een taak klaar is.
De onderzoekers presenteren dit als een operationele waarneming uit hun inzet bij meerdere teams, niet als een gecontroleerde prestatiebenchmark. Het paper geeft geen gestandaardiseerde meting van doorvoer of totale voltooiingstijd.
Inferentie nu, training als toekomstig werk
Minions verdeelt inferentietaken in subtaken; de beschreven aanpak splitst niet de gewichten of lagen van één model over meerdere Macs. Gedistribueerde modeltraining noemen de onderzoekers toekomstig werk. Ook een gedeelde pool over meerdere organisaties of de bredere gemeenschap beschrijven ze als een voorwaardelijke mogelijkheid, afhankelijk van veilige federatie.
