Stöd till forskning om hur AI påverkar människor och samhälle

I ett stort nationellt 10-årigt forskningsprogram satsar två Wallenbergstiftelser på forskning om hur det pågående teknikskiftet med digitalisering och artificiell intelligens påverkar vårt samhälle och våra beteenden. Två av bidragen i årets anslagsomgång går till forskning vid Uppsala universitet för forskning inom AI och kulturarvssamlingar samt inom AI och finansiella marknader.

Det pågående teknikskiftet med digitalisering, automation och artificiell intelligens kommer att innebära stora möjligheter och medföra förändringar både för samhället i stort och för enskilda individer. Mot denna bakgrund initierade Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond förra året det nationella forskningsprogrammet WASP-HS (The Wallenberg AI, Autonomous Systems and Software Program – Humanities and Society). Syftet är öka kunskapen om möjligheterna och utmaningarna med artificiell intelligens och autonoma system inom humaniora och samhällsvetenskap. Stiftelserna satsar totalt 660 miljoner kronor under tio år på WASP-HS. Fokus ligger framför allt på att analysera hur etiska, ekonomiska, arbetsmarknadsmässiga, sociala och juridiska förhållanden påverkas av det pågående teknikskiftet i samhället.

– Det pågående teknikskiftet handlar inte bara om teknologi, algoritmer och datakraft utan det kommer att påverka oss alla och hela samhället. Det är därför viktigt att även de humanistiska och samhällsvetenskapliga aspekterna utforskas, säger Peter Wallenberg Jr, ordförande för Marianne och Marcus Wallenbergs Stiftelse.

I årets anslagsomgång har tio projekt inom samhällsvetenskap beviljats anslag av Marianne och Marcus Wallenbergs Stiftelse och två projekt inom humaniora av Stiftelsen Marcus och Amalia Wallenbergs Minnesfond om sammanlagt nära 70 miljoner kronor. Tillsammans med förra årets 16 projekt omfattar WASP-HS programmet nu 28 forskningsprojekt.

Två bidrag till Uppsala universitet

Två av årets tolv bidrag inom WASP-HS går till forskare vid Uppsala universitet – ett inom humaniora för forskning inom AI och kulturarvssamlingar och ett inom samhällsvetenskap för forskning inom AI och finansiella marknader .

Anna Foka, institutionen för ABM (arkiv, bibliotek och museer) har beviljats 4,9 miljoner kronor av Stiftelsen Marcus och Amalia Wallenbergs Minnesfond för det fyraåriga projektet “Att kvantifiera kultur: En studie av AI och kulturarvssamlingar”.

Om projektet:
Att göra kulturarv mer tillgängliga och mer lättolkade även för framtidens forskare och besökare är en utmaning. I det här projektet vill man få fram en digitaliserad modell, där man med artificiell intelligens, AI, och maskininlärning, ML, kan skanna av föremål och automatiskt tolka och klassificera dem. Forskningen sker i samarbete med Riksantikvarieämbetet, Världskulturmuseerna, Riksarkivet och Museum Gustavianum.

Projektgruppen kommer att undersöka både hur man idag arbetar med AI och hur man skulle kunna göra framöver när det gäller digitala kulturarvssamlingar. I projektet vill man visa på hur kritiska perspektiv kan användas för svenska kulturarvssamlingar i ett sammanhang där AI används för att märka upp arkivmaterial. Tekniken påminner om den som används för till exempel ansiktsigenkänning, eller för automatiserade översättningar på nätet.

Forskargruppen vill bygga upp matematiska modeller och algoritmer som gör maskinerna mer avancerade så att de kan plocka ut signifikant och mer relevant information. Målet är att få fram en maskin som man kan lära att identifiera personer och kulturella sammanhang utifrån olika kulturella samhällen, olika delar av världen med olika förväntningar och förhållningssätt.

Genom innovativa metodologier sammanförs humaniora, samhällsvetenskap och AI-forskning för att undersöka hur AI hanterar kvalitativa aspekter, där kritiska och etiska teorier möter algoritmer och matematik.

Magnus Strand, företagsekonomiska institutionen, har beviljats 6 miljoner kronor av Marianne och Marcus Wallenbergs Stiftelse för det treåriga projektet “AI och finansmarknaderna: Ansvar och juridisk riskhantering”.

Om projektet:
Inom finansmarknaderna används avancerad artificiell intelligens (AI) till exempel i algoritmisk handel med finansiella instrument och i kreditprövning för att se om någon ska få ta ett lån. Det finns många fördelar med AI, som högre effektivitet och lägre kostnader, men det är också förknippat med risker att låta avancerade algoritmer hantera finansiella beslut.

Det råder idag mycket stor osäkerhet kring vem som har det rättsliga ansvaret för de beslut som fattas av en AI och för de konsekvenser som besluten får för människor och företag. De regler som finns är av väldigt olika slag och har skiftande syften. Dessutom är det i princip omöjligt att ha en lagstiftning som håller jämn takt med den tekniska utvecklingen. De inblandade aktörerna på finansmarknaderna behöver därför agera på egen hand för att proaktivt hantera sitt ansvar och de risker som förknippas med AI.

I projektet kommer forskarna framför allt studera hur man försöker fördela risker och ansvar med hjälp av sina olika avtal: Avtal med dem som programmerar artificiella intelligenser, avtal med kunder, avtal med försäkringsbolag, och så vidare. Dessutom kommer de studera det allmänna ”ansvarets infrastruktur” som finns i lagstiftningen, bland annat för att se vilka luckor som är mest angelägna att täppa till.

Anna Malmberg