Etter hvert som «sky» har blitt et mer dagligdags og mindre ullent begrep tar stadig flere steget fra selvdrevet infrastruktur til pay-per-use i skyen.

Skyteknologi er også en utløsende årsak til fremskritt innen kunstig intelligens (KI). Skyens (nesten) ubegrensede regnekraft og umiddelbare tilgjengelighet er avgjørende for å raskt kunne eksperimentere med ulike former for KI.

Skyen tilbyr et hav av tjenester innen kunstig intelligens med ulike nivåer av abstraksjon. Kort oppsummert finnes følgende nivåer:

  • Ferdige KI-løsninger som chatbot-systemer og generiske bildegjenkjenningsalgoritmer
  • Halvferdige byggesett for egne maskinlæringsmodeller
  • Strakstilgang til nødvendig (og svært kostbar) maskinvare

Når man skal velge abstraksjonsnivå er det noen momenter det er greit å ta i betraktning for å lykkes med KI i skyen! Disse momentene kan oppsummeres med følgende spørsmål.

  • Finnes det ferdige løsninger spisset til min utfordring?
  • Hvor stor fleksibilitet/kontroll over ML-modellen trenger jeg?

Raske prototyper med intelligente tjenester

Det finnes et hav av generiske KI-løsninger i skyen som det er superenkelt å komme i gang med. Som utvikler forholder man seg i praksis kun til et API-endepunkt. Bildegjenkjenning, NLP-tjenester og andre klassifikasjoner kan gjøres uten å røre maskinlæring i det heletatt. Ofte kan tjenesten tas i bruk uten noe eller veldig lite data egne data.

Dessverre blir slike tjenester ofte for generiske og for lite tilpasset egne data/usecaser.  Kombinert med lav grad av kontroll er det derfor en betydelig risiko for at en KI-implementasjon basert på intelligente tjenester blir en prototype i en svart boks som oppnår resultater gode nok for en spenstig demo.

En oppside er at det den siste tiden har kommet intelligente tjenester som er skreddersydd for helt bestemte usecaser. Et godt eksempel er Lucidtech sin motor for å lese dokumenter som DNB benytter til å scanne fakturaer.

Full kontroll og alt ansvar

Det finnes usecaser der man ønsker «full kontroll» over et ML-system som kan kjøres uavhengig av skyleverandør. En løsning kan være å bygge KI-løsninger drevet av biblioteker som Kubeflow og Tensorflow Extended på toppen av et Kubernetes-cluster. Da er det ganske rett frem å flytte løsningen til/fra sky og mellom ulike skyleverandører.

Bakdelen her er et komplisert oppsett, ansvaret for vedlikehold, sikkerhet, tilgangsstyringer og andre detaljer som tar fokuset bort fra det som er «gøy»; å løse utfordringer ved bruk av kunstig intelligens!

ML-plattformer i skyen; en gylden middelvei.

Skyen tilbyr også en middelvei mellom fleksibilitet og kompleksitet.  På ML-plattformer som AWS Sagemaker, Google AI Platform  eller Azure Machine Learning konsentrerer man seg om å trene ml-modeller tilpasset egne data og use caser. Det er i praksis små eller ingen tilpasninger av kode som må gjøres for å kunne trene en maskinlæringsmodell på en utvikler-pc eller et sky-cluster med ubegrenset regnekraft.

En klar fordel med ML-plattformer er at de hjelper til å «åpne» den svarte ML-boksen. Siden modeller trenes fra bunn av, har man full kontroll over algoritmene og data. I tillegg kommer plattformene med verktøy for å bedre innsikt i hvordan modell og data påvirker beslutninger modellen tar. På den måten er det lettere å vurdere om ML-modeller er rettferdige.

Fra mitt perspektiv er det mange fordeler og er ingen «klare» ulemper med ML-plattformer. På tross av at man ikke har full kontroll over infrastruktur er plattformene blitt fleksible nok til å understøtte de fleste usecaser. Skal man drive med maskinlæring i skyen bør ML-plattformer vurderes seriøst.

Martin Gran

Application Development Specialist

Subscription Center
Abonner på Accenture Innsikt Blog Abonner på Accenture Innsikt Blog