”Robusthet och transparens är nästa steg inom AI”

Årets sista avsnitt av AI-podden gästas av Pin-Yu Chen, chief scientist på IBM Watson Research. 

Pin-Yu Chen berättar om hur AI har utvecklats och hur fokus har skiftat från att göra noggranna produktioner till att rekommendera och även ta beslut som är av stor vikt eller spelar avgörande roll i en process. Exempel på sådana beslut är att döma i juridiska processer, att ta beslut i vilka man anställer eller gör sig av med, eller att använda sig av AI för att rätta antagningsprov på universitet. 

Därför är det viktigt att bygga AI-system med andra mål än noggrannhet – som rättvisa, jämställdhet, jämlikhet, och så vidare. Pin-Yu Chen understryker också vikten av att kunna förklara besluten som tas eller rekommenderas av AI-system. En annan aspekt är robusthet mot extern påverkan, där en liten ändring i det datat man matar in inte ska leda till förödande beslut.

I avsnittet diskuteras även hur IBM har transformerats på senare år inom AI-forskningen, där man nu är mycket mer öppen med forskningsresultaten i form av publikationer och open source metodik. Pin-Yu Chen förklarar att konkurrensen är så hård att även jättar som IBM måste öppna upp så att man lockar till sig de bästa talangerna.

Podden hittar du även här:

Spotify: AI-podden
Itunes: AI-podden
Soundcloud: AI-podden 

AI-podden görs i samarbete med Rise och Bitynamics.