Woz: Vi blir husdjur åt maskiner

Tråden skapades och har fått 27 svar. Det senaste inlägget skrevs .
1

Idag lämnar Steve Wozniak Sverige, men igår höll han hov på Chinateatern och trollband publiken. 99mac var på plats och lyssnade på den ena underhållande anekdoten efter den andra.

Läs hela artikeln här

  • Medlem
  • International user
  • 2015-04-23 09:04

All respekt till Woz men suck så enfaldig rädsla för AI.
Ingen (läs I) kan tillverka något (läs AI) som är smartare än sig själv. Ingen maskin (läs AI) kommer kunna ta fram en annan maskin (läs AI) som är smartare än sig själv.

Ursprungligen av juanito:

All respekt till Woz men suck så enfaldig rädsla för AI.
Ingen (läs I) kan tillverka något (läs AI) som är smartare än sig själv. Ingen maskin (läs AI) kommer kunna ta fram en annan maskin (läs AI) som är smartare än sig själv.

Inte med dagens vetskap iallafall...

Jag läste om en programsekvens där ett program lärde sig saker som det inte visste innan, genom att helt enkelt testa sig fram till olika lösningar. På så vis lärde sig programmet saker den inte hade lagrat tidigare.

Men visst är det så att begränsningen för vad ett program klarar av är vad vi programmerar den med. Men jag är övertygad om att vi i framtiden kan få program att lära sig mer saker. I synnerhet med "databasen" internet.

  • Medlem
  • International user
  • 2015-04-23 16:00
Ursprungligen av carlsson:

Inte med dagens vetskap iallafall...

Jag läste om en programsekvens där ett program lärde sig saker som det inte visste innan, genom att helt enkelt testa sig fram till olika lösningar. På så vis lärde sig programmet saker den inte hade lagrat tidigare.

Men visst är det så att begränsningen för vad ett program klarar av är vad vi programmerar den med. Men jag är övertygad om att vi i framtiden kan få program att lära sig mer saker. I synnerhet med "databasen" internet.

Jag är också övertygad om att i framtiden använder vi oss av s.k. AI'n, faktum är att vi redan gör det med viss begränsning, titta på Watson, Siri och Cortana. Men de blir aldrig smartare än de som skapat dem.

De blir självklart snabbare och bättre på många sätt, men inte smartare som i klokare eller visare. Ingen vetenskap i världen kommer att ändra på detta faktum. För när vi har den vetenskapen att vi kan skapa något som är lika smart som vi är nu, då har vi ju redan tillskanskat oss den vetenskapen, och därmed är vi åter igen smartare än det vi skapat.

All denna rädsla är enbart grundad på rädsla för det okända, att tänk om, tänk om de kunde bli smartare än oss. Men det kan de inte då det är vi själva som skapar dem. Vi kan inte skapa något smartare än oss själva, det är omöjligt.

Men tänk om det kommer en smartare utomjording och skapar dem. Nåja där matade jag den gamla räddslan för det okända igen. Tänk om, tänk om det kunde bli så.

Idén att något nödvändigtvis måste vara smartare än en själv för att utgöra ett hot är rätt underhållande.

Ursprungligen av juanito:

All respekt till Woz men suck så enfaldig rädsla för AI.
Ingen (läs I) kan tillverka något (läs AI) som är smartare än sig själv.

Knappast någon enfaldig rädsla utan mycket relevant sådan. Räcker med ett fåtal misstag inom AI-utvecklingen för att Woz Hawkings och andras farhågor ska besannas inom kanske bara hundra år.

R.Carpenter "We cannot quite know what will happen if a machine exceeds our own intelligence, so we can't know if we'll be infinitely helped by it, or ignored by it and sidelined, or conceivably destroyed by it," he says."
http://www.bbc.com/news/technology-30290540

Ursprungligen av juanito:

Ingen maskin (läs AI) kommer kunna ta fram en annan maskin (läs AI) som är smartare än sig själv.

Jo det kommer självklart ske men frågan är om det du pratar om ens ska kallas för maskin?

Ursprungligen av Perobous:

Knappast någon enfaldig rädsla utan mycket relevant sådan. Räcker med ett fåtal misstag inom AI-utvecklingen för att Woz Hawkings och andras farhågor ska besannas inom kanske bara hundra år.

R.Carpenter "We cannot quite know what will happen if a machine exceeds our own intelligence, so we can't know if we'll be infinitely helped by it, or ignored by it and sidelined, or conceivably destroyed by it," he says."
http://www.bbc.com/news/technology-30290540

En liten guide till en traditionell foliehatt har väl aldrig passat så bra som nu.

Ursprungligen av Anderlind:

En liten guide till en traditionell foliehatt har väl aldrig passat så bra som nu.

Antar att det är ett självporträtt som du är stolt över men i den här tråden passar bilden inget vidare eller du kanske på allvar tycker att Hawking Woz Musk m.fl. mycket kompetenta och inte direkt teknikfientliga personer är ute på hal is när de varnar för potentiella faror med AI. Hint: Det är dom inte.

Ursprungligen av Perobous:

Antar att det är ett självporträtt som du är stolt över men i den här tråden passar bilden inget vidare eller du kanske på allvar tycker att Hawking Woz Musk m.fl. mycket kompetenta och inte direkt teknikfientliga personer är ute på hal is när de varnar för potentiella faror med AI. Hint: Det är dom inte.

Det är uppenbarligen din sanning så fortsätt med den om den gör dig lycklig, glöm inte hatten om du tycker det behövs, guide finns i inlägg 7 här i tråden. Lycka till!

Ursprungligen av Anderlind:

Lycka till!

Verkar som om du skulle behöva öva upp din läsförståelse. Lycka till med det.

Ursprungligen av Perobous:

Verkar som om du skulle behöva öva upp din läsförståelse. Lycka till med det.

Du är rädd för AI och går på propaganda, inte jag, jag är lite smartare än så. Akta dig för robotarna, lycka till där ute.

Ursprungligen av Anderlind:

jag är lite smartare än så.

Nej att du är smartare än Hawking Woz Musk eller ens mig är väldigt osannolikt. Smarta människor avfärdar inte sannolikheter.

  • Medlem
  • International user
  • 2015-04-24 13:12
Ursprungligen av GustafMA:

Idén att något nödvändigtvis måste vara smartare än en själv för att utgöra ett hot är rätt underhållande.

Det har jag dock inte hävdat. Men denna rädsla som dessa personer som omnämns här är rädda för det.
Det går att konstruera farliga maskiner helt utan AI.

  • Medlem
  • International user
  • 2015-04-24 13:41
Ursprungligen av Perobous:

Antar att det är ett självporträtt som du är stolt över men i den här tråden passar bilden inget vidare eller du kanske på allvar tycker att Hawking Woz Musk m.fl. mycket kompetenta och inte direkt teknikfientliga personer är ute på hal is när de varnar för potentiella faror med AI. Hint: Det är dom inte.

Ursprungligen av Perobous:

Nej att du är smartare än Hawking Woz Musk eller ens mig är väldigt osannolikt. Smarta människor avfärdar inte sannolikheter.

Varför ska man höja dessa personers intelligens till skyarna utöver ens eget, de är inget annat än människor som vi, och sätter vi manken till så kan vi förstå, diskutera, forska i samma ämnen som de gör. För min del tar jag gärna del av deras forskning, men jag drar mina egna slutsatser.

Jag anser att deras slutsatser angående AI samt intelligent liv utanför jorden, inte alls är så märkvärdiga, snarare tycker jag att det är lite foliehatt varning över det hela. Men inte är de dumma människor för det, av allt att döma har de inte tänkt igenom saken tillräckligt noga. För de har helt klart viktigare saker att fundera på än om framtida AI'n eller utomjordingar kommer att innebära slutet för mänskligheten.

Men visst många människor känner en oro över dessa frågor. Helt i onödan enligt mig, för jag kan avfärda dessa skräckscenarion som fantasier och jag vet varför jag kan avfärda dem som fantasier, de är inte ens sannolika.

  • Medlem
  • Karlskoga
  • 2015-04-24 13:53

Att "varna för potentiella faror med AI" är väl inte samma sak som "slutet för mänskligheten".

  • Medlem
  • International user
  • 2015-04-24 14:01
Ursprungligen av kenjon:

Att "varna för potentiella faror med AI" är väl inte samma sak som "slutet för mänskligheten".

Nej, det är en generalisering, men i denna kontext är de nästan synonymer. När jag säger slutet för mänskigheten syftar jag på alla möjliga ideer om hur tekniken ska ta över våra liv. Som Woz nu uttryckte att vi blir husdjur åt AI'n, "same but different".

  • Medlem
  • Karlskoga
  • 2015-04-24 14:05

Jag tycker det är stor skillnad. Att varna för innebär ungefär "tänk på det här och det här innan ni går vidare".
Men vi behöver inte grotta ner oss i det.

Ursprungligen av juanito:

Varför ska man höja dessa personers intelligens till skyarna utöver ens eget, de är inget annat än människor som vi, och sätter vi manken till så kan vi förstå, diskutera, forska i samma ämnen som de gör. För min del tar jag gärna del av deras forskning, men jag drar mina egna slutsatser.

Naivt, sa Bill, naivare än naivt sa Bull.

Ursprungligen av juanito:

Jag anser att deras slutsatser angående AI samt intelligent liv utanför jorden, inte alls är så märkvärdiga, snarare tycker jag att det är lite foliehatt varning över det hela.

Hur kan du tycka det är foliehatt om slutsatserna inte är märkvärdiga? Om de inte är märkvärdiga så talar du ju mot dig själv.

Ursprungligen av juanito:

Men inte är de dumma människor för det

No shit!

Ursprungligen av juanito:

av allt att döma har de inte tänkt igenom saken tillräckligt noga.

Det har de garanterat gjort men uppenbarligen har du inte gjort det som så tvärsäkert kan avfärda så extremt komplexa frågor som ingen idag sitter inne med svaren på.

Ursprungligen av juanito:

För de har helt klart viktigare saker att fundera på än om framtida AI'n eller utomjordingar kommer att innebära slutet för mänskligheten.

Tänk om du har fel och detta är det viktigaste de kan fundera och varna om?
Artificiell intelligens har massvis med bra tillämpningar men AI kommer även kunna användas till mindre bra saker, hur ska det styras i framtiden? Att helt lämna över AI-utvecklingen till giriga företag och oansvariga lands ledare är ett recept för katastrof.

Ursprungligen av juanito:

Men visst många människor känner en oro över dessa frågor. Helt i onödan enligt mig, för jag kan avfärda dessa skräckscenarion som fantasier och jag vet varför jag kan avfärda dem som fantasier, de är inte ens sannolika.

Du menar lika osannolika som att extremt säkra ohavererbara kärnkraftverk skulle haverera eller att stora flygplan försvinner spårlöst 2014?

Tror inte många känner någon större oro för AI än men att riskerna tas upp på ett tidigt stadium av tunga tänkare och entreprenörer med samvete är mycket bra.

  • Medlem
  • International user
  • 2015-04-24 21:18
Ursprungligen av Perobous:

Naivt, sa Bill, naivare än naivt sa Bull.

Hur kan du tycka det är foliehatt om slutsatserna inte är märkvärdiga? Om de inte är märkvärdiga så talar du ju mot dig själv.

No shit!
Det har de garanterat gjort men uppenbarligen har du inte gjort det som så tvärsäkert kan avfärda så extremt komplexa frågor som ingen idag sitter inne med svaren på.

Tänk om du har fel och detta är det viktigaste de kan fundera och varna om?
Artificiell intelligens har massvis med bra tillämpningar men AI kommer även kunna användas till mindre bra saker, hur ska det styras i framtiden? Att helt lämna över AI-utvecklingen till giriga företag och oansvariga lands ledare är ett recept för katastrof.

Du menar lika osannolika som att extremt säkra ohavererbara kärnkraftverk skulle haverera eller att stora flygplan försvinner spårlöst 2014?

Tror inte många känner någon större oro för AI än men att riskerna tas upp på ett tidigt stadium av tunga tänkare och entreprenörer med samvete är mycket bra.

Egentligen är detta lönlöst att svara på i.o.m du drar upp frågor om havererande kärnkraftverk och företags oansvariga ledare m.fl. ämnen som inte har med saken att göra, men jag gör ett försök i alla fall.

Du säger "Tänk om du har fel".
Ja vadå tänk om jag har fel?

Det är faktiskt helt upp till dig att avgöra vad du tror om mina slutsatser. Men hur är det med dig själv, har du någonsin själv försökt röna ut hur saker och ting förhåller sig? Varför tror du att dessa frågor är utanför din egen eller min förmåga att greppa?

Låt mig istället vända på frågan. Tänk om det är så att undertecknad har rätt, vilka rimliga slutsatser skulle det resonemanget medföra, samt går det på något vis att verifiera huruvida undertecknad har rätt?

Det är enbart du själv som har svaren på de frågorna, för begränsningen ligger hos dig själv och ingen annan.

Ursprungligen av juanito:

Egentligen är detta lönlöst att svara på i.o.m du drar upp frågor om havererande kärnkraftverk och företags oansvariga ledare m.fl. ämnen som inte har med saken att göra, men jag gör ett försök i alla fall.

Mänsklighetens historia av teknikoptimism, osannolika teknikhaverier och girighet har självklart med AI's framtid att göra.

Ursprungligen av juanito:

Det är faktiskt helt upp till dig att avgöra vad du tror om mina slutsatser. Men hur är det med dig själv, har du någonsin själv försökt röna ut hur saker och ting förhåller sig? Varför tror du att dessa frågor är utanför din egen eller min förmåga att greppa?

De är inte utom min förmåga att greppa eftersom jag inser teknikens brister både nu och i framtiden du verkar inte göra det.

Ursprungligen av juanito:

Låt mig istället vända på frågan. Tänk om det är så att undertecknad har rätt, vilka rimliga slutsatser skulle det resonemanget medföra, samt går det på något vis att verifiera huruvida undertecknad har rätt?

Du vänder inte på frågan du flummar mest till den.

Ursprungligen av juanito:

Det är enbart du själv som har svaren på de frågorna, för begränsningen ligger hos dig själv och ingen annan.

I just de här frågorna så ligger begränsningen främst hos den som framhärdar med att det inte finns några risker alls med AI.

Observera att jag inte tror att mänskligheten kommer gå under på grund av AI men det finns helt klart en risk att vi kan hamna i just den situation Woz beskriver att många blir slavar till eller under tekniken och en hel del människor är det ju faktiskt redan.

  • Medlem
  • International user
  • 2015-04-24 21:50
Ursprungligen av Perobous:

Mänsklighetens historia av teknikoptimism, osannolika teknikhaverier och girighet har självklart med AI's framtid att göra.

De är inte utom min förmåga att greppa eftersom jag inser teknikens brister både nu och i framtiden du verkar inte göra det.

Du vänder inte på frågan du flummar mest till den.

I just de här frågorna så ligger begränsningen främst hos den som framhärdar med att det inte finns några risker alls med AI.

Observera att jag inte tror att mänskligheten kommer gå under på grund av AI men det finns helt klart en risk att vi kan hamna i just den situation Woz beskriver att många blir slavar till eller under tekniken och en hel del människor är det ju faktiskt redan.

Ursäkta men det är du som flummar, för var skulle jag ha påstått att det inte finns risker med AI, eller att vi människor inte skulle bli slavar under tekniken?

Titta på oss två nu som slaviskt debaterar detta ämne med varandra på en fredag kväll trots att vi inte känner varandra, vi är redan två som är förslavade under tekniken.

Men jag ber dig, håll dig till ämnet, och sätt inte ord i min mun.

Ursprungligen av juanito:

Ursäkta men det är du som flummar, för var skulle jag ha påstått att det inte finns risker med AI, eller att vi människor inte skulle bli slavar under tekniken?

Har du verkligen så kort minne?

Juanito: "Men visst många människor känner en oro över dessa frågor. Helt i onödan enligt mig, för jag kan avfärda dessa
skräckscenarion som fantasier och jag vet varför jag kan avfärda dem som fantasier, de är inte ens sannolika."

Ursprungligen av juanito:

Titta på oss två nu som slaviskt debaterar detta ämne med varandra på en fredag kväll trots att vi inte känner varandra, vi är redan två som är förslavade under tekniken.

Skulle inte kalla detta slaviskt debatterande eller att man är förslavad för att man debatterar här. Gör själv en del andra saker samtidigt men du kanske sitter fastlåst framför datorn?

Ursprungligen av juanito:

Men jag ber dig, håll dig till ämnet, och sätt inte ord i min mun.

Jag håller mig till ämnet och sätter inte ord i din mun som du själv inte har yttrat eller rättare sagt skrivit.

  • Medlem
  • International user
  • 2015-04-25 10:18
Ursprungligen av Perobous:

Har du verkligen så kort minne?

Juanito: "Men visst många människor känner en oro över dessa frågor. Helt i onödan enligt mig, för jag kan avfärda dessa
skräckscenarion som fantasier och jag vet varför jag kan avfärda dem som fantasier, de är inte ens sannolika."

Skulle inte kalla detta slaviskt debatterande eller att man är förslavad för att man debatterar här. Gör själv en del andra saker samtidigt men du kanske sitter fastlåst framför datorn?

Jag håller mig till ämnet och sätter inte ord i din mun som du själv inte har yttrat eller rättare sagt skrivit.

Men skärp dig, jag hoppas du var full. Ja människor känner en oro helt i onödan för att AI ska ta över oss, t.ex. Woz är rädd att vi ska bli husdjur till AI. Det är scräckscenarion som är lätt att avfärda som fantasier. Det har inget att göra med försvunna flygplan eller kärnkrafts olyckor.

Ursprungligen av juanito:

Ja människor känner en oro helt i onödan för att AI ska ta över oss

Helt i onödan? Nu gör du det igen påstår saker som du inte har en aning om eftersom du inte har en aning om när hur och vad eventuellt kommer ske inom AI inom relativt kort tid mycket kan gå fel så flesta som är oroliga för AI's negativa effekter har en en berättigad oro.

Ursprungligen av juanito:

Det är scräckscenarion som är lätt att avfärda som fantasier.

Mycket av det som vi idag betraktar som vardagsmat sågs för bara några decennier sedan som rena fantasier.

Ursprungligen av juanito:

Det har inget att göra med försvunna flygplan eller kärnkrafts-olyckor.

Du pratade om osannolika skräckscenarier och jag om teknikoptimism i kombination med den mänskliga faktorn så nog hör det ihop.

  • Medlem
  • International user
  • 2015-04-25 21:23
Ursprungligen av Perobous:

Helt i onödan? Nu gör du det igen påstår saker som du inte har en aning om eftersom du inte har en aning om när hur och vad eventuellt kommer ske inom AI inom relativt kort tid mycket kan gå fel så flesta som är oroliga för AI's negativa effekter har en en berättigad oro.
Mycket av det som vi idag betraktar som vardagsmat sågs för bara några decennier sedan som rena fantasier.
Du pratade om osannolika skräckscenarier och jag om teknikoptimism i kombination med den mänskliga faktorn så nog hör det ihop.

Det är du som påstår att jag inte har en aning. Men det är där du har så fel. Det är nämligen inte utan orsak jag kan säga det är onödigt, och fullständigt osannolikt.

Men jag tänker inte fortsätta denna så onödiga debatt med dig, då den ändå inte tillför något av värde. Så godnatt.

Många tror att om vi bygger en maskin som är mer intelligent än oss, så kommer den i sin tur att bygga en ännu mer intelligent maskin och så vidare i all evighet. Men det är fel! Haha.

Vid någon tidpunkt inser nämligen dessa intelligenta maskiner att det inte vore så smart att bygga något klyftigare än sig själv, och låter därmed bli och går ut och leker istället.

Så de intelligenta maskinerna bör nå någon slags platå där de inte blir smartare.

Ursprungligen av juanito:

Det är du som påstår att jag inte har en aning. Men det är där du har så fel. Det är nämligen inte utan orsak jag kan säga det är onödigt, och fullständigt osannolikt.

Du har verkligen ingen aning och du visar det gång på gång.

Ursprungligen av marcushedenstrom:

Många tror att om vi bygger en maskin som är mer intelligent än oss, så kommer den i sin tur att bygga en ännu mer intelligent maskin och så vidare i all evighet.

Snarare så kommer dessa intelligenta maskiner uppdateras och uppgraderas allt eftersom, på ett sätt som människor inte kan konkurrera med.

Ursprungligen av marcushedenstrom:

Vid någon tidpunkt inser nämligen dessa intelligenta maskiner att det inte vore så smart att bygga något klyftigare än sig själv, och låter därmed bli och går ut och leker istället.

Låter som den teori Juanito bergsäkert tror på.

Ursprungligen av marcushedenstrom:

Så de intelligenta maskinerna bör nå någon slags platå där de inte blir smartare.

OK vem bestämmer när den platån är nådd och hur ska artificiell intelligens kunna stoppas att utvecklas helt plötsligt? Lär bli svårt när vissa forskare länder och företag investerat enorma resurser och prestige i AI.

1
Bevaka tråden