Hvordan får vi til KI på kanten?

For ingeniører som utvikler systemene har moderne maskinlæringsmodeller og KI-drevne utviklingsarbeidsflyter blitt kraftige allierte, som bidrar til å forenkle komplekse design og akselerere produktutvikling. Tilgjengeligheten av generalistmodeller har økt bevisstheten rundt hva som er mulig å få til med maskinlæring og nevrale nettverk, noe som utvider vår kollektive fantasi for hva slike systemer kan oppnå.

Vellykket utrulling av denne intelligensen på fysiske enheter og dingser er fortsatt en betydelig teknisk utfordring. Når vi ser mot neste generasjon av innvevde systemer, står vi overfor en velkjent begrensning: mens modellpotensialet skyter i været, er de harde realitetene knyttet til størrelse, vekt, strømforbruk og kostnad (SWaP-C) for trådløse enheter uendret. Å overføre dette potensialet til en batteridrevet sensor eller en langtrekkende trådløs node er et grunnleggende problem for innvevde systemer.

Hva er Kant-KI?

Kant-KI (Edge AI) fokuserer på å rulle ut små, spesialiserte nevrale nettverk på sanntids, SWaP-C-begrensede systemer, i stedet for å forsøke å kjøre generelle modeller som ChatGPT på mikrokontrollere. Denne teknologien bringer maskinlæring inn i innvevde systemer for å løse fokuserte problemer, som er helt forskjellig fra generell intelligens som de større modellene i skyen prøver å få til. Praktiske eksempler i dagliglivet inkluderer nøkkelordgjenkjenning i mobiltelefoner og ørepropper, som muliggjør stemmeaktivert kontroll uten konstant skyforbindelse, eller kjøretøy som forbedrer sikkerheten ved automatisk å oppdage og tilpasse seg endrede fartsgrenser. Potensialet for disse applikasjonene er enormt og spenner over satellittbildeanalyse, akvakultur, stemmegrensesnitt og prediktivt vedlikehold. Dessuten vil Kant-KI drive det som mange industriledere, inkludert NVIDIAs Jensen Huang, beskriver som den neste store bølgen: fysisk KI (physical AI). Dette skiftet beveger seg utover digital intelligens til systemer som oppfatter, resonnerer og samhandler med den fysiske verden i sanntid, og omfatter robotikk som industrielle kollaborative roboter (cobots), logistikkdroner og spesialiserte landbruksmaskiner.

Mens ferdigtrente modeller og leverandørdemonstrasjoner er nyttige utgangspunkt, avhenger vellykket utrulling av Kant-KI av tre kritiske pilarer: prioritering av oppgavespesifikk spesialisering med høykvalitetsdata, grundig håndtering av SWaP-C-begrensninger gjennom modelloptimaliseringsteknikker som kvantisering, og samskaping (co-design), der det nevrale nettverket utvikles i tett samspill med maskinvarens evner gjennom en iterativ prosess. Denne integrerte tilnærmingen sikrer at nevrale arkitekturer defineres av både data med høy nøyaktighet og underliggende maskinvarebegrensninger fra starten av, slik at modeller kan operere effektivt innenfor de strenge energi- og beregningsbudsjettene til innvevde systemer.

Kant-KI i Norge

Mens det bredere industrielle Kant-KI-økosystemet i Norge fortsatt er i sine tidlige stadier, har flere banebrytende selskaper med hell rullet ut løsninger i årevis.

Cisco Norge bruker synsprosessering på enheten slik at kameraet automatisk zoomer inn på den som snakker i møterommet. Acon Digital utfører sanntids lydseparasjon, der sammensatt lyd deles opp i enkeltkilder (for eksempel tale blandet med bilstøy) slik at lydnivået til hver kilde kan kontrolleres separat. Kongsberg sin droneradar muliggjør droneoppdagelse og sporing med lav forsinkelse. Soundsensing akustisk tilstandsovervåking for prediktivt vedlikehold av maskiner og infrastruktur, mens Elliptic Labs bruker ultrasoniske virtuelle sensorer for bevegelses- og nærhetsdeteksjon. Det nylig lanserte SFI NICE (Norwegian Center for Intelligent Computers and Electronics), ledet av NTNU, støtter også Kant-KI-kompetanse ved å fremme samarbeid mellom industri og akademia. SFI NICE-konsortiet inkluderer store industriaktører som Nordic Semiconductor, Texas Instruments og Silicon Labs, som alle investerer tungt i sine egne Kant-KI-teknologiporteføljer.

EmLogic er også aktivt med på å fremme det norske Kant-KI-miljøet ved å organisere meetup-arrangementer. Etter å ha avholdt tre vellykkede arrangementer i Asker og Trondheim i 2026 med over 70 deltakere fra mer enn 20 selskaper, er neste meetup planlagt til begynnelsen av september, og ARM i Trondheim blir vertskap. Leserne inviteres til å besøke https://www.meetup.com/edge-ai-norway for å lære mer om Kant-KI og bygge nye samarbeid gjennom Kant-KI meetups.

EmLogics tilnærming til Kant-KI

EmLogic har etablert Kant-KI som et dedikert kompetanseområde som bygger på vårt fundament innen innvevde systemer og programmerbar logikkdesign. Vårt Kant-KI-team er unikt posisjonert til å hjelpe virksomheter og fagmiljøer i gang med robuste Kant-KI-løsninger på FPGAer, mikrokontrollere og NPUer, ledet av Yaman Umuroglu, grunnleggeren og tidligere sjefarkitekten bak FINN-rammeverket fra AMD/Xilinx, som kompilerer nevrale nettverk til effektive FPGA-akseleratorer. Teamet bygger på over ti års praktisk erfaring med å utvikle, optimalisere og rulle ut Kant-KI-systemer i ressursbegrensede miljøer, fra tidlige arkitekturvalg og modelltilpasning til produksjonsklar utrulling. FINN brukes bredt i industri og forskning, og driver applikasjoner som spenner fra industrielt maskinsyn i sanntid og RF-behandling til satellittbildegjenkjenning. EmLogic har ogsåmarbeid med VAKE og S&T Norway for å akselerere KI-basert skipsdeteksjon med satellittbehandling om bord.

Vår ende-til-ende-metodikk for utvikling av Kant-KI-systemer er vist i flytdiagrammet. Prosessen starter med å definere maskinvarebegrensninger, med sterkt fokus på maskinvarebevisst kartlegging og ressursbegrensede miljøer. Derfra går arbeidsflyten videre gjennom datainnsamling, DSP og funksjonsutvikling, samt modellutvikling. Dette kan innebære trening fra bunnen av, men ofte også bruk, tilpasning og finjustering av ferdigtrente modeller for den aktuelle anvendelsen og maskinvareplattformen. Prosessen inkluderer en kritisk tilbakemeldingssløyfe der datagrunnlag, funksjonsuttrekk og modellvalg justeres dersom modellen ikke når de ønskede nøyaktighetsmålene. Når ønsket nøyaktighet er oppnådd, gjennomgår Kant-KI-modellen optimalisering og kompilering; hvis den resulterende modellen overskrider det tildelte maskinvarebudsjettet, undersøker vi om det er mulig å komprimere modellen ytterligere eller lempe på begrensningene. Vellykket optimalisering fører til målrettet utrulling, integrasjon og feltvalidering, der en endelig tilbakemeldingsmekanisme fanger opp grensetilfeller og datadrift for å forbedre datasettet hvis ytelsen i den virkelige verden ikke holder mål. Til syvende og sist kan systemer som består validering i praksis, gå videre til full utrulling og livssyklusstyring, noe som sikrer langsiktig strategisk kontinuitet og robust drift i felten.

Denne fleksible, maskinvarebevisste tilnærmingen lar oss bygge bro over gapet mellom skyavhengige arkitekturer og effektiv behandling på enheten, noe som sikrer åpenhet, robusthet og ytelse. Vi skreddersyr våre løsninger for å møte de unike, skiftende behovene til hver kunde, ved å utnytte åpent kildekodeverktøy når det er mulig for å tilby tilpasningsdyktige, sanntids, produksjonsklare systemer på tvers av bransjer som spenner fra industriell automasjon til forsvar.

Veien videre

Når Kant-KI, fysisk KI og robotikk smelter sammen, kan autonome og interaktive systemer få helt nye muligheter. Ved å bygge inn intelligens direkte i maskinvaren, gjør vi det mulig for maskiner å oppfatte, resonnere og handle i den fysiske verden med den lave forsinkelsen og høye påliteligheten som industrielle applikasjoner krever. EmLogic ser frem til utvidelsen av Kant-KI-interessen i Norge og å bidra til å hente mer KI-verdi i den fysiske verden til våre partnere og kunder.

Om forfatteren: Yaman Umuroglu er Prinsipal Kant-KI Designer i EmLogic.