Vill se säker AI – nytt startupbolag i Umeå
AI, Artificiell intelligens finns runt omkring oss och ändrar sättet vi arbetar på, hur vi lever våra liv och löser alldagliga problem. Men det finns en oro. Hur säkrar vi att systemen är pålitliga, säkra och inte kränker mänskliga rättigheter?
Virginia Dignum är professor i artificiell intelligens med inriktning mot social och etisk AI vid Umeå universitet. Vi höstens första Teknikfrukost var hon gäst och hon menar att AI ger stora möjligheter men också risker och att vi behöver ha instrument för att balansera detta.
– När vi t ex använder ansiktsavkänning, hur väl stämmer detta överens med integriteten? Och när vi surfar, hur ska människor förstå att den de skriver med i chatten inte är en människa utan en robot? säger Virginia Dignum under Teknikfrukosten.
[plugbit title=”Se hela sändningen med Virginia via Teknikfrukost-plattformen” link=”https://teknikfrukost.coeo.events/” button=”Plattformen återfinns här”]Du behöver vara inloggad eller registrerad för att se sändningen[/plugbit]
Ansvarsfull utveckling
Det här är problemställningar som leder tillbaka till hennes forskning kring ansvarsfull AI och behovet av att diskutera vad AI egentligen ska användas till och vem som ska bestämma det. Vidare, vilka värderingar tekniken ska bygga på.
– Det kommer att bli allt viktigare att säkerställa att AI-tekniken och systemen går i linje med lag och etik. Det måste också bygga på en robust teknik som går att lita på och som gör det tekniken är avsedd att göra – gagna oss människor. Etiska och sociala frågeställningar bör integrera detta resonemang i de autonoma systemens beteende, säger Virginia Dignum.
Nytt företag
Detta arbete måste genomföras på flera nivåer och tillsammans med forskare, utvecklare, kunder och användare i hela samhället. Tillsammans med Andreas Theodorou, forskare vid institutionen för datavetenskap i Umeå, och andra internationella AI-experter bildar nu Virginia Dignum VeRAI, ett startupbolag i syfte att erbjuda utbildning och stöd till AI-intresserade företag och organisationer.
– Vi har kunskap och erfarenhet av hur man tar fram tekniken och kan vara med såväl i utvecklingsfasen som i själva genomförandet. Vi kan också säkerställa att systemen kan kontrolleras så de agerar på ett ansvarsfullt sätt, uppdateras och verifieras.
VeRAI får idag affärsstöd av både Uminova Innovation och Innovationskontoret vid Umeå universitet.
[factbox title=”Om Teknikfrukost” excerpt=”Sedan lite mer än två år tillbaka arrangerar Umeå kommun Näringsliv, Uminova Innovation och Process IT Innovations mötesplatsen Teknikfrukost för alla som vill bygga en ännu smartare industri- och teknikbransch i Umeåregionen.”]Som de flesta mötesplatser av denna sort har COVID-19 pandemin inneburit ett avbrott. När man nu har återstartat Teknikfrukost är det en helt och hållet virtuell mötesplats.
[/factbox]