Denna delen av 99 uppdateras inte längre utan har arkiverats inför framtiden som ett museum.
Här kan du läsa mer om varför.
Mac-nyheter hittar du på Macradion.com och forumet hittar du via Applebubblan.

Microsofts vd föreslår AI-lagar

Både Google och Microsoft lyfter fram problem som måste lösas för att framtidens intelligenta maskiner inte ska skada människor.

Inom science fiction-litteraturen är författaren Isaac Asimovs tre robotlagar väl kända. Det rör sig i korthet om regler inbyggda i artificiella intelligenser som hindrar dem från att skada människor.

Med den utveckling som sker inom AI och maskininlärning just nu lyfts farhågor för hur verklighetens maskiner kan komma att behandla människor. Både från Google och Microsoft har det nyligen kommit diskussionsunderlag för framtidens robotar och artificiella intelligenser.

Google har publicerat en forskningsrapport där de identifierar fem kritiska problem som måste lösas för att garantera säkra robotar. Det handlar inte om en rädsla för att maskinerna ska ta över världen, utan snarare att en hushållsrobot av misstag ska skada sin ägare med en kniv eller liknande scenarior. De problem som formuleras är alltså områden som en robotkonstruktör bör ta i betraktande.

Bland annat lyfter rapporten fram hur negativa effekter ska kunna undvikas, som att en städrobot av misstag råkar välta en bokhylla. Ett annat problem är att en robot som programmerats för att tycka om att städa kanske stökar till med flit, bara för att få utföra sin favoritsyssla igen.

Andra problem som lyfts fram är hur en robot ska lära sig att agera inom ett begränsat område och veta vad den måste be om lov för att göra och inte – en städrobot agerar förmodligen annorlunda i husets badrum än i vardagsrummet. Att utforska närområdet säkert är också en faktor, så att en städande robot inte börjar svabba eluttag av misstag, vilket kan orsaka olyckor.

AI-lagar ska skydda mänskligheten

Även Microsofts vd Satya Nadella har funderat på hur framtidens artificella intelligenser ska uppfostras. I en artikel på webbsajten Slate formulerar han sex principer som han vill ska vägleda forskning kring AI. Till skillnad från Googles rapport handlar dessa principer framförallt som sociala spelregler som robotar bör lära sig i samröret med människor:

  1. AI ska designas för att assistera mänskligheten

  2. AI ska designas med "transparens" så att människor lätt får en förståelse för hur tekniken fungerar och analyserar världen.

  3. AI ska utvecklas av en mångfald av människor, så att dess värden och dygder inte dikteras enbart av teknikindustrin.

  4. AI ska designas med integritet i åtanke

  5. AI ska utformas så att människor kan avbryta en oplanerad handling som orsakar skada.

  6. AI ska designas att inte vara diskriminerande

Men Nadella skriver också att även människor måste kultivera värden och prinicper för att kunna hantera framtidens intelligenta maskiner. Bland annat efterfrågar Nadella ökat fokus på utbildning, men också på empati, kreativitet och ansvarskänsla.

Isaac Asimovs 3 robotlagar

  1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.

  2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.

  3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

Det finns också en hemlig lag, den så kallade "nollte lagen". Den arbetades fram av Asimov i romanen Den okända lagen (1985). Artificiell Intelligens diskuteras också i det andra avsnittet av podden Fulkultur från Geeks.

Skriven av Jakob Nilsson
Kommentarer
9 svar

Inget är som väntans tider, särskilt om du går och väntar på en iMac med Apples egna processor.

Inom kort kommer 99mac bli Macradion och då blir det en ny plattform med ett betydligt modernare forum.

Då var Apple Watch Series 7 här och ryktena stämde inte i år utan det blev samma design som vi sedan tidigare är vana vid.

Varje resa har ett slut och varje slut har en ny början och nu är det dags för oss att gå över till en modern plattform.

Apples event är över och i detta extra långa avsnitt får vi följa Marcus, Marcus, Dennis och Thor när de följer eventet live tillsammans med efterföljande diskussion om intrycken det gav.

Är du en av de som inte gillade det nya utseendet på Safari i macOS Monterey? Nu kan du lugna dig, Apple har backat på designen.