Microsofts vd föreslår AI-lagar

Både Google och Microsoft lyfter fram problem som måste lösas för att framtidens intelligenta maskiner inte ska skada människor.

Inom science fiction-litteraturen är författaren Isaac Asimovs tre robotlagar väl kända. Det rör sig i korthet om regler inbyggda i artificiella intelligenser som hindrar dem från att skada människor.

Med den utveckling som sker inom AI och maskininlärning just nu lyfts farhågor för hur verklighetens maskiner kan komma att behandla människor. Både från Google och Microsoft har det nyligen kommit diskussionsunderlag för framtidens robotar och artificiella intelligenser.

Google har publicerat en forskningsrapport där de identifierar fem kritiska problem som måste lösas för att garantera säkra robotar. Det handlar inte om en rädsla för att maskinerna ska ta över världen, utan snarare att en hushållsrobot av misstag ska skada sin ägare med en kniv eller liknande scenarior. De problem som formuleras är alltså områden som en robotkonstruktör bör ta i betraktande.

Bland annat lyfter rapporten fram hur negativa effekter ska kunna undvikas, som att en städrobot av misstag råkar välta en bokhylla. Ett annat problem är att en robot som programmerats för att tycka om att städa kanske stökar till med flit, bara för att få utföra sin favoritsyssla igen.

Andra problem som lyfts fram är hur en robot ska lära sig att agera inom ett begränsat område och veta vad den måste be om lov för att göra och inte – en städrobot agerar förmodligen annorlunda i husets badrum än i vardagsrummet. Att utforska närområdet säkert är också en faktor, så att en städande robot inte börjar svabba eluttag av misstag, vilket kan orsaka olyckor.

AI-lagar ska skydda mänskligheten

Även Microsofts vd Satya Nadella har funderat på hur framtidens artificella intelligenser ska uppfostras. I en artikel på webbsajten Slate formulerar han sex principer som han vill ska vägleda forskning kring AI. Till skillnad från Googles rapport handlar dessa principer framförallt som sociala spelregler som robotar bör lära sig i samröret med människor:

  1. AI ska designas för att assistera mänskligheten

  2. AI ska designas med "transparens" så att människor lätt får en förståelse för hur tekniken fungerar och analyserar världen.

  3. AI ska utvecklas av en mångfald av människor, så att dess värden och dygder inte dikteras enbart av teknikindustrin.

  4. AI ska designas med integritet i åtanke

  5. AI ska utformas så att människor kan avbryta en oplanerad handling som orsakar skada.

  6. AI ska designas att inte vara diskriminerande

Men Nadella skriver också att även människor måste kultivera värden och prinicper för att kunna hantera framtidens intelligenta maskiner. Bland annat efterfrågar Nadella ökat fokus på utbildning, men också på empati, kreativitet och ansvarskänsla.

Isaac Asimovs 3 robotlagar

  1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.

  2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.

  3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

Det finns också en hemlig lag, den så kallade "nollte lagen". Den arbetades fram av Asimov i romanen Den okända lagen (1985). Artificiell Intelligens diskuteras också i det andra avsnittet av podden Fulkultur från Geeks.

Skriven av Jakob Nilsson
Kommentarer
9 svar

Den här veckan hos 99mac: Samsung Galaxy S8, Spotifys nya hårdvara och Office-assistenten.

1984 var det inte alla som var med på tekniktåget, till exempel inte programledaren för TV-programmet Dokument Utifrån.

Ett tidigare avsomnat Apple-projekt om Swish-liknande överföringar från konsument till konsument kan ha väckts till liv igen.

Under ett event i New York har Acer presenterat nya bärbara datorer och en hälsofokuserad smart klocka.

Det råder sannerligen ingen brist på läckra koncept för hur Apples produkter skulle kunna se ut, och det senaste konceptet gäller Macbook Pro.

Prestandasiffror från vad som påstås vara resultat för Apples kommande systemkrets A11 krossar allt motstånd i mätverktyget Geekbench.