Microsofts vd föreslår AI-lagar

Både Google och Microsoft lyfter fram problem som måste lösas för att framtidens intelligenta maskiner inte ska skada människor.

Inom science fiction-litteraturen är författaren Isaac Asimovs tre robotlagar väl kända. Det rör sig i korthet om regler inbyggda i artificiella intelligenser som hindrar dem från att skada människor.

Med den utveckling som sker inom AI och maskininlärning just nu lyfts farhågor för hur verklighetens maskiner kan komma att behandla människor. Både från Google och Microsoft har det nyligen kommit diskussionsunderlag för framtidens robotar och artificiella intelligenser.

Google har publicerat en forskningsrapport där de identifierar fem kritiska problem som måste lösas för att garantera säkra robotar. Det handlar inte om en rädsla för att maskinerna ska ta över världen, utan snarare att en hushållsrobot av misstag ska skada sin ägare med en kniv eller liknande scenarior. De problem som formuleras är alltså områden som en robotkonstruktör bör ta i betraktande.

Bland annat lyfter rapporten fram hur negativa effekter ska kunna undvikas, som att en städrobot av misstag råkar välta en bokhylla. Ett annat problem är att en robot som programmerats för att tycka om att städa kanske stökar till med flit, bara för att få utföra sin favoritsyssla igen.

Andra problem som lyfts fram är hur en robot ska lära sig att agera inom ett begränsat område och veta vad den måste be om lov för att göra och inte – en städrobot agerar förmodligen annorlunda i husets badrum än i vardagsrummet. Att utforska närområdet säkert är också en faktor, så att en städande robot inte börjar svabba eluttag av misstag, vilket kan orsaka olyckor.

AI-lagar ska skydda mänskligheten

Även Microsofts vd Satya Nadella har funderat på hur framtidens artificella intelligenser ska uppfostras. I en artikel på webbsajten Slate formulerar han sex principer som han vill ska vägleda forskning kring AI. Till skillnad från Googles rapport handlar dessa principer framförallt som sociala spelregler som robotar bör lära sig i samröret med människor:

  1. AI ska designas för att assistera mänskligheten

  2. AI ska designas med "transparens" så att människor lätt får en förståelse för hur tekniken fungerar och analyserar världen.

  3. AI ska utvecklas av en mångfald av människor, så att dess värden och dygder inte dikteras enbart av teknikindustrin.

  4. AI ska designas med integritet i åtanke

  5. AI ska utformas så att människor kan avbryta en oplanerad handling som orsakar skada.

  6. AI ska designas att inte vara diskriminerande

Men Nadella skriver också att även människor måste kultivera värden och prinicper för att kunna hantera framtidens intelligenta maskiner. Bland annat efterfrågar Nadella ökat fokus på utbildning, men också på empati, kreativitet och ansvarskänsla.

Isaac Asimovs 3 robotlagar

  1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.

  2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.

  3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

Det finns också en hemlig lag, den så kallade "nollte lagen". Den arbetades fram av Asimov i romanen Den okända lagen (1985). Artificiell Intelligens diskuteras också i det andra avsnittet av podden Fulkultur från Geeks.

Skriven av Jakob Nilsson
Kommentarer
9 svar

Apple och Paypal är bara några exempel på företag som efter händelserna i Charlottesville i USA tar krafttag mot hatsajter.

Den irländska regeringen kommer att följa EU-domen och kräva tillbaka 13 miljarder euro i restskatt från Apple, men vidhåller att de inte gjort något olagligt.

Efter ett gäng billigare telefoner är det nu dags för HMD att släppa sitt första flaggskepp som bär namnet Nokia 8.

Så här samma år som Iphone fyller tio år känns det helt rätt att testa era kunskaper om gamla klassiska mobiltelefoner. Hur många rätt får du?

Enligt nya rapporter kommer Apple att spendera omkring åtta miljarder kronor på eget videomaterial till Apple Music. Upp till tio nya serier ska släppas till tjänsten det kommande året.

Instagram rullar ut en ny – fast gammal och välbeprövad – funktion, nämligen trådade kommentarer.