Onconventionele AI heeft een experimenteel beeldgeneratiemodel onthuld dat conventioneel rekenwerk vervangt door een gesimuleerd netwerk van fysieke oscillatoren. De startup zegt dat de onderliggende aanpak uiteindelijk tot duizend keer minder energie zou kunnen verbruiken dan de huidige AI-systemen.
Het model, genaamd Un-0, is het eerste proof of concept van het bedrijf. Onconventionele AI is opgericht door onderzoekers, waaronder MIT universitair hoofddocent Michael Carbin, Stanford assistent-professor Sara Achour, voormalig Google-ingenieur MeeLan Lee en voormalig Databricks AI-chef Naveen Rao. Het team publiceerde op 25 juni technische details en bracht het model uit via GitHub.
De meeste computers voeren berekeningen uit door miljarden transistors snel tussen aan en uit te schakelen. Beeldgeneratoren op basis van diffusiemodellen beginnen met visuele ruis en berekenen herhaaldelijk wat moet worden verwijderd om het gevraagde beeld te produceren, waarbij doorgaans tussen de 20 en 50 verfijningsstappen worden uitgevoerd.
Un-0 vertegenwoordigt in plaats daarvan informatie via oscillatoren, fysieke systemen die zich herhalende golven produceren. Verbonden oscillatoren beïnvloeden elkaar op natuurlijke wijze totdat hun ritmes op één lijn beginnen te komen, een proces dat wordt beschreven door het Kuramoto-model.
Om een beeld te genereren wijst het systeem verschillende oscillatorfasepatronen toe aan categorieën zoals schoenen of treinen. Een kleinere groep geconfigureerd met het gewenste patroon fungeert als prompt en trekt geleidelijk het bredere netwerk van willekeurig gepositioneerde oscillatoren naar dezelfde opstelling.
Het systeem registreert vervolgens de laatste fasen van de oscillatoren als een numeriek raster. Een aparte decoder zet dat raster om in pixelwaarden om het beeld te produceren.
Onconventionele AI stelt dat fysieke oscillatorhardware veel minder elektriciteit zou kunnen verbruiken omdat de stroom continu door gesloten lussen zou stromen in plaats van door biljoenen transistorschakeloperaties te worden gedwongen. Het bestaande Un-0-model levert die besparingen nog niet op, omdat het de oscillatoren op conventionele hardware simuleert. Het bedrijf is uiteindelijk van plan speciale, op oscillatoren gebaseerde chips te ontwikkelen.
De onderzoekers testten Un-0 met behulp van de CIFAR-10 en ImageNet 64×64 beelddatasets. Op CIFAR-10 verbeterde de Fréchet-beginafstandsscore van 11,01 met 1.024 oscillatoren naar 8,76 met 4.096 oscillatoren. Lagere scores geven aan dat de gegenereerde afbeeldingen meer lijken op de referentiegegevens.
Op ImageNet 64×64 verbeterde de score van 8,41 met 6.656 oscillatoren naar 6,74 met 16.384 oscillatoren. De onderzoekers zeiden dat de resultaten vergelijkbaar waren met vroege beeldgeneratoren zoals Google’s BigGAN en OpenAI’s iDDPM, hoewel ze waarschuwden dat de cijfers als referentiepunten moesten worden behandeld in plaats van als direct gelijkwaardige metingen.
Het team erkende dat de huidige beeldgeneratoren nog steeds een betere algehele kwaliteit produceren terwijl ze hun parameters efficiënter gebruiken. Onconventionele AI heeft de modelgewichten, trainingscode en ablatiescripts vrijgegeven, zodat andere onderzoekers de aanpak kunnen testen en hun eigen simulaties kunnen uitvoeren.
