Virginia Dignum till höger i samtal med Linus Stark från Uminova Innovation i samband med Teknikfrukost den 22 oktober.

Vill se säker AI – nytt startupbolag i Umeå

Under höstens första Teknikfrukost medverkade professor Virginia Dignum, en av världens främsta experter inom AI, verksam vid Umeå universitet. Hon talade om vikten av att utveckla AI på ett ansvarsfullt sätt. Tillsammans med andra internationellt baserade AI-forskare bildar hon nu ett startupbolag i Umeå som får affärsstöd av Uminova Innovation.

AI, Artificiell intelligens finns runt omkring oss och ändrar sättet vi arbetar på, hur vi lever våra liv och löser alldagliga problem. Men det finns en oro. Hur säkrar vi att systemen är pålitliga, säkra och inte kränker mänskliga rättigheter?

Virginia Dignum är professor i artificiell intelligens med inriktning mot social och etisk AI vid Umeå universitet. Vi höstens första Teknikfrukost var hon gäst och hon menar att AI ger stora möjligheter men också risker och att vi behöver ha instrument för att balansera detta.

– När vi t ex använder ansiktsavkänning, hur väl stämmer detta överens med integriteten? Och när vi surfar, hur ska människor förstå att den de skriver med i chatten inte är en människa utan en robot? säger Virginia Dignum under Teknikfrukosten.

Se hela sändningen med Virginia via Teknikfrukost-plattformen

Du behöver vara inloggad eller registrerad för att se sändningen

Ansvarsfull utveckling

Det här är problemställningar som leder tillbaka till hennes forskning kring ansvarsfull AI och behovet av att diskutera vad AI egentligen ska användas till och vem som ska bestämma det. Vidare, vilka värderingar tekniken ska bygga på.

– Det kommer att bli allt viktigare att säkerställa att AI-tekniken och systemen går i linje med lag och etik. Det måste också bygga på en robust teknik som går att lita på och som gör det tekniken är avsedd att göra – gagna oss människor. Etiska och sociala frågeställningar bör integrera detta resonemang i de autonoma systemens beteende, säger Virginia Dignum.

Nytt företag

Detta arbete måste genomföras på flera nivåer och tillsammans med forskare, utvecklare, kunder och användare i hela samhället. Tillsammans med Andreas Theodorou, forskare vid institutionen för datavetenskap i Umeå, och andra internationella AI-experter bildar nu Virginia Dignum VeRAI, ett startupbolag i syfte att erbjuda utbildning och stöd till AI-intresserade företag och organisationer.

– Vi har kunskap och erfarenhet av hur man tar fram tekniken och kan vara med såväl i utvecklingsfasen som i själva genomförandet. Vi kan också säkerställa att systemen kan kontrolleras så de agerar på ett ansvarsfullt sätt, uppdateras och verifieras.

VeRAI får idag affärsstöd av både Uminova Innovation och Innovationskontoret vid Umeå universitet.

Om Teknikfrukost

Sedan lite mer än två år tillbaka arrangerar Umeå kommun Näringsliv, Uminova Innovation och Process IT Innovations mötesplatsen Teknikfrukost för alla som vill bygga en ännu smartare industri- och teknikbransch i Umeåregionen.

Läs mer

Som de flesta mötesplatser av denna sort har COVID-19 pandemin inneburit ett avbrott. När man nu har återstartat Teknikfrukost är det en helt och hållet virtuell mötesplats.

Stäng