Veel van de opwinding rond AI is overgegaan op chatbots, maar het genereren van afbeeldingen met tools zoals Stable Diffusion blijft populair. Er is nu aangetoond dat Stable Diffusion op een Android-telefoon werkt, zonder dat er externe servers nodig zijn.
Qualcomm heeft een paar afbeeldingen laten zien die lokaal door Stable Diffusion op een Android-telefoon zijn gegenereerd. Hoewel je een tool voor het genereren van afbeeldingen kon opzoeken, een prompt kon plaatsen en deze in de cloud kon laten genereren, worden deze volledig lokaal gegenereerd met behulp van Qualcomm’s AI Stack en natuurlijk de hardware in je smartphone.
Het kan gemakkelijk worden vergeten omdat we het gebruik ervan niet echt opmerken, maar veel smartphones worden tegenwoordig geleverd met speciale AI-versnellingshardware. Qualcomm zegt dat het de AI Engine gebruikt die bij de Snapdragon 8 Gen 2 SoC wordt geleverd om deze resultaten te bereiken. Typ gewoon een prompt en Stable Diffusion genereert een afbeelding voor u die probeert die prompt nauwkeurig te benaderen.
Qualcomm zei in een blogpost: “we hebben het Qualcomm AI Engine direct-framework gebruikt om het neurale netwerk in kaart te brengen in een programma dat efficiënt draait op onze doelhardware. […] Het resultaat van deze full-stack-optimalisatie is het uitvoeren van Stable Diffusion op een smartphone in minder dan 15 seconden gedurende 20 inferentiestappen om een beeld van 512×512 pixels te genereren. Dit is de snelste inferentie op een smartphone en vergelijkbaar met cloudlatentie.”
U kunt Stable Diffusion nog niet lokaal op uw Android-telefoon gebruiken – dit is slechts een technische demonstratie. Het zou uiteindelijk een openbaar beschikbare app kunnen worden, maar Qualcomm belooft nog niets.
Bron: Qualcomm