Microsofts vd föreslår AI-lagar

Både Google och Microsoft lyfter fram problem som måste lösas för att framtidens intelligenta maskiner inte ska skada människor.

Inom science fiction-litteraturen är författaren Isaac Asimovs tre robotlagar väl kända. Det rör sig i korthet om regler inbyggda i artificiella intelligenser som hindrar dem från att skada människor.

Med den utveckling som sker inom AI och maskininlärning just nu lyfts farhågor för hur verklighetens maskiner kan komma att behandla människor. Både från Google och Microsoft har det nyligen kommit diskussionsunderlag för framtidens robotar och artificiella intelligenser.

Google har publicerat en forskningsrapport där de identifierar fem kritiska problem som måste lösas för att garantera säkra robotar. Det handlar inte om en rädsla för att maskinerna ska ta över världen, utan snarare att en hushållsrobot av misstag ska skada sin ägare med en kniv eller liknande scenarior. De problem som formuleras är alltså områden som en robotkonstruktör bör ta i betraktande.

Bland annat lyfter rapporten fram hur negativa effekter ska kunna undvikas, som att en städrobot av misstag råkar välta en bokhylla. Ett annat problem är att en robot som programmerats för att tycka om att städa kanske stökar till med flit, bara för att få utföra sin favoritsyssla igen.

Andra problem som lyfts fram är hur en robot ska lära sig att agera inom ett begränsat område och veta vad den måste be om lov för att göra och inte – en städrobot agerar förmodligen annorlunda i husets badrum än i vardagsrummet. Att utforska närområdet säkert är också en faktor, så att en städande robot inte börjar svabba eluttag av misstag, vilket kan orsaka olyckor.

AI-lagar ska skydda mänskligheten

Även Microsofts vd Satya Nadella har funderat på hur framtidens artificella intelligenser ska uppfostras. I en artikel på webbsajten Slate formulerar han sex principer som han vill ska vägleda forskning kring AI. Till skillnad från Googles rapport handlar dessa principer framförallt som sociala spelregler som robotar bör lära sig i samröret med människor:

  1. AI ska designas för att assistera mänskligheten

  2. AI ska designas med "transparens" så att människor lätt får en förståelse för hur tekniken fungerar och analyserar världen.

  3. AI ska utvecklas av en mångfald av människor, så att dess värden och dygder inte dikteras enbart av teknikindustrin.

  4. AI ska designas med integritet i åtanke

  5. AI ska utformas så att människor kan avbryta en oplanerad handling som orsakar skada.

  6. AI ska designas att inte vara diskriminerande

Men Nadella skriver också att även människor måste kultivera värden och prinicper för att kunna hantera framtidens intelligenta maskiner. Bland annat efterfrågar Nadella ökat fokus på utbildning, men också på empati, kreativitet och ansvarskänsla.

Isaac Asimovs 3 robotlagar

  1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.

  2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.

  3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

Det finns också en hemlig lag, den så kallade "nollte lagen". Den arbetades fram av Asimov i romanen Den okända lagen (1985). Artificiell Intelligens diskuteras också i det andra avsnittet av podden Fulkultur från Geeks.

Skriven av Jakob Nilsson
Kommentarer
9 svar

Det är dags för den tionde luckan i Geeks Julkalender, och här erbjuder Inet ett förmånligt pris på en rymlig SSD.

Nintendo, simdollar, Google och solenergi är några av ämnena som avhandlas i veckans poddavsnitt.

Datorspelen Portal och Portal 2 har blivit kända bland annat för sina stämingsfulla avslutningslåtar, och här kommer ännu mer musik inspirerad av Portal.

Med den modulära datorn Kano kan vem som helst lära sig att skruva ihop sin egen hårdvara för ett flertal olika användningsområden. Med Kano Code går det också att lära sig grundläggande programmering. 99mac har pratat med Tommy Säl, som arbetar på Kickstarter-succén.

Super Mario Run släpps nästa vecka, och väntas bli ohyggligt populärt. Nu avslöjas dock att spelet kräver uppkoppling mot internet för att fungera.

Läs för dina barn eller själv en ordentlig julsaga i interaktiv form på Ipad, Iphone eller Android när Snobbens ägare Charlie Brown letar julens mening.