Skriv ett nytt inlägg! Aktuellt just nu (6) Senaste inläggen

Angående sajten och iFokus Anslagstavlan Boktips Dagens Drömmar Experiment, egna Film & Foto (Blandat/allmänt/OT) Forntida teknik Himlafenomen Hjärnan Humor Hälsa Intressanta teorier Kraftplatser och folktro Miljö och djur Musik Mysko grejer Månadens Medlem och Diskussionskategori Naturfenomen Off Topic - Diverse Off Topic - Glädjeämnen Oidentiferbart Orber och ljusfenomen Psykologi och samhälle Rymden Spådomar och förutsägelser Spöken Spökhistorier Spökhus, Spökplatser, spökjägare Symboler och pareidolia UFO och utomjordiskt liv Undersökningar Vetenskap och uppfinningar White Noise & EVP Tävlingar/lekar Övrigt
Vetenskap och uppfinningar

Artificiell intelligens

2014-12-08 16:43 #0 av: Magi-cat

Har tvekat länge att ens ta upp ämnet, men nu ser jag att prof. Hawking gjort det så...

Den artificiella intelligensen rycker allt närmare. Kommer den att innebära slutet för mänskligheten?

Det tror Hawking:

"Den brittiske professorn befarar att människan, som begränsas av en långsam biologisk utveckling, inte skulle kunna konkurrera utan helt enkelt ersättas av AI."

http://www.svt.se/kultur/film/hawking-ai-kan-vara-slutet-for-oss

De kanske behåller oss som husdjur. Eller museiföremål.

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2014-12-08 16:50 #1 av: VSK

Eller så blir det en ny Terminatorfilm men IRL. 

33 titlar20 SM-Guld, 7 World Cup, 5 Europacupen & 1 Svenska Cupen. Gillar du att fota eller att kolla på foton, kika än här. Gillar du allt med sport, kika in sidan. Intresserad av det rymden har att erbjuda? Tryck här

Anmäl
2014-12-09 16:05 #2 av: Marr

Hemskt i så fall...Fast hur fort skulle ai kunna "föröka sig" ? Någon nytta kan vi väl vara till. Fortsätta slava för ännu lägre löner?Tyst

Eller vi kanske får små mysiga "kupor" att vila i med näringslösning intravenöst, för att orka arbeta? Robotarna gör revolution, mot mänskligheten?FörskräcktYrar


 *Jag tror mer på Ufo, än på Sifo*

Anmäl
2014-12-10 19:16 #3 av: JonasDuregard

#2 "Hemskt i så fall...Fast hur fort skulle ai kunna "föröka sig" ?"

Har du kopierat en stor fil någon gång? Så snabbt ungefär Glad.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-10 19:26 #4 av: JonasDuregard

#0 En grej som man inte ska bortse från är att större intelligenser kanske också har större empati. Även om en artificiell intelligens skulle hamna i en position där den kan utplåna mänskligheten så kanske den skulle föredra fredlig samexistens?

Jag kan mycket väl tänka mig att någon artificiell livsform i framtiden kommer tränga undan mänskligheten, endera genom någon slags apokalyptiskt krig eller helt enkelt genom att gradvis fasa ut oss, till exempel genom att integrera oss i den nya livsformen. 

Det är intressant att fundera på hur man ska ställa sig till det. Jag är väldigt fäst vid mänskligheten skulle jag säga, och instinktivt reagerar jag negativt på att vi skulle bytas ut. Men samtidigt är det svårt att hitta några rationella anledningar till att just vi skulle få vara herrar på täppan i all evighet.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 09:00 #5 av: Magi-cat

#4 Många frågeställningar, många bottnar.

Spontant tror jag att en AI inte har större empati utan att den stora intelligensen fås på bekostnad av empatin. Det finns ingenting som talar för att AI tillverkas med inriktning på empati. Om den skulle välja fredlig samexistens skulle det vara för att den tjänar på det, precis så som det alltid varit här i världen. 
(Jag kan inte låta bli att tänka på Data, överlägsen i allt, styrka, snabbhet, intelligens, men som envist jobbade på att förstå sig på känslor och att bli mänsklig...människor hade ju något värdefullt han saknade....)

Det gläder mig att du är fäst vid mänskligheten. Det är jag också. Glad Trots dess ibland iögonenfallande brister och det anmärkningsvärda faktum att den lägger ner ansenliga resurser på att förgöra liv, inklusive sig själv, är jag optimistisk inför möjligheten av ett annat sätt att leva i harmoni.

Om vi alltid skulle husera som skapelsens krona är väl inte troligt. Evolutionen stannar inte upp och omständigheterna förändras, händelser kan inträffa som vi inte ens vill eller kan föreställa oss. Men om vi skapar AI med risk att den tar över har vi gått förbi den långsamma evolutionen och satt oss själv i knipa.

Förresten är det nog troligast med en hybridutveckling, som the Borgs...TystadDe verkar gå snabbt och jag tycker inte om det.

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2014-12-11 14:27 #6 av: JonasDuregard

#5 "Spontant tror jag att en AI inte har större empati utan att den stora intelligensen fås på bekostnad av empatin."

Det hade ju varit en slags poetiskt rättvisa om verkligheten hade fungerat så, men ser man till hur världen verkligen ser ut verkar det inte finnas någon motsättning mellan intelligens (eller utbildning) och empati, snarare tvärt om. 

"Det finns ingenting som talar för att AI tillverkas med inriktning på empati."

Alltså om vi talar om riktig AI så är det en maskin som kan tänka själv och dra slutsatser på samma sätt som människor. Själva grejen är just att man inte ska behöva programmera den till att dra vissa slutsatser utan den ska klura ut dem själv. Förutom allmän misstänksamhet, vad har du för anledning att tro att en maskin skulle resonera avsevärt annorlunda än en människa?

"Om den skulle välja fredlig samexistens skulle det vara för att den tjänar på det, precis så som det alltid varit här i världen."

Är det enda anledningen till att du föredrar fredlig samexistens, att du tjänar på det? 

"(Jag kan inte låta bli att tänka på Data, överlägsen i allt, styrka, snabbhet, intelligens, men som envist jobbade på att förstå sig på känslor och att bli mänsklig...människor hade ju något värdefullt han saknade....)"

Men data är ju en påhittad karaktär som följer en extremt tydlig stereotyp. Du borde anstränga dig för att närma dig frågan utan sådana i sinnet. 

"Men om vi skapar AI med risk att den tar över har vi gått förbi den långsamma evolutionen och satt oss själv i knipa."

Du får det att låta som att evolutionen skulle ha någon slags uppsatta regler. Evolutionen gör ingen skillnad på nackdelar man åsamkat sig själv och sådana som orsakas av yttre omständigheter. 

"Förresten är det nog troligast med en hybridutveckling, som the Borgs...TystadDe verkar gå snabbt och jag tycker inte om det."

I själva verket går det väldigt långsamt, även om vi jobbar flitigt på det Glad

Motstånd är ju lönlöst som bekant. 

Skämt åsido så är ju även the Borgs en påhittad stereotyp avsedd att understryka kollektivismens ondska och hylla individualismen. Även om man är intresserad av moralkakor så finns det bättre kakburkar än så att leta i, anser jag. 

Att förutsätta att framtida intelligenser uteslutande kommer vara hänsynslösa sociopater känns ganska cyniskt och en liten aning xenofobiskt. Tänk dig en variant av the Borg där det står var och en fritt att frivilligt ansluta sig eller koppla ifrån sig. Ett kollektivt medvetande utan några uppenbara drag av ondska eller drömmar om världsherravälde. Varför är det ett mindre sannolikt utfall än dystopierna? Bara för att det inte går att göra lika spännande filmer om det?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 15:38 #7 av: Magi-cat


#6 Intressant diskussion och stort ämne, men jag undrar om vi kommer någon vart...(Du behöver inte vara överdrivet misstänksam eller predika för mig om evolutionen.)

F.ö. är det inte bara undertecknad som kommit på den strålande idén att ta avstamp i sci-fi i de här frågorna.
Ulf Danielsson gör det också, mycket förtjänstfullt dessutom, i "Den bästa av världar."

En sak bara:

Det hade ju varit en slags poetiskt rättvisa om verkligheten hade fungerat så, men ser man till hur världen verkligen ser ut verkar det inte finnas någon motsättning mellan intelligens (eller utbildning) och empati, snarare tvärt om.

För människor kanske. Men AI är inte människor.

Förutom allmän misstänksamhet, vad har du för anledning att tro att en maskin skulle resonera avsevärt annorlunda än en människa?

Den är for gods sake en maskin! Den har inte mejslats fram under eoner av tid, byggts på och förändrats. Den är inte liv.

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2014-12-11 16:18 #8 av: JonasDuregard

#7 "För människor kanske. Men AI är inte människor."

Värst vad du är exkluderande nu då Glad. Det kan väl AI:n få bestämma själv. Vill den ingå i mänskligheten kommer jag inte försöka stöta ut den.

Vad har just vi som gör oss så speciella tycker du?

"Den är for gods sake en maskin!"

Ta inte illa upp, men det är du och jag med (beroende på lite vad man menar). 

"Den har inte mejslats fram under eoner av tid, byggts på och förändrats. Den är inte liv."

Trångsynthet? Det hade jag faktiskt inte väntat mig. Om en utomjordisk civilisation skulle ta kontakt med oss, och det visar sig att den inte uppkommit på samma sätt som vi har, skulle du då utesluta dem från de levandes skara lika tvärsäkert?

Om det kommer hit en miljardårig civilisation får vi hoppas att de är mer öppensinnade än dig, annars kanske de bestämmer sig för att vår dagsländetillvaro på den här planeten inte varit tillräckligt långsam för att vi ska kunna kallas levande Oberörd.

Hur snabbt man bygger något spelar för ingen roll så länge resultatet är detsamma. Och givetvis är även konstgjorda livsformer liv. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 16:29 #9 av: JonasDuregard

#7 "F.ö. är det inte bara undertecknad som kommit på den strålande idén att ta avstamp i sci-fi i de här frågorna."

Har du sett "Äkta människor"? Lite tongångar därifrån man känner igen tycker jag.

Tycker du historien om Data (eller "the Doctor", båda från Star Trek för den som undrar) lär oss att robotar inte ska betraktas som levande?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 17:09 #10 av: Magi-cat


#8 Ta inte illa upp, men det är du och jag med (beroende på lite vad man menar)

Och där är vi inte eniga. :-) 

Och givetvis är även konstgjorda livsformer liv.

Det ämnet är intressant det också. Som jag sade finns det många bottnar i det här.
Det var ju förnämligt att du inte förväntar dig trångsynthet av mig, ändå är du snabb att utnämna mig till just trångsynt. Ta det lilla lugna med det är du snäll, och fråga hellre om jag uttrycker mig oklart. Så himla utmejslade är inte de här frågorna att allt är alldeles självklart i alla sina aspekter. Jag driver ingen "agenda" eller så :-) men vill gärna plocka runt lite med tankarna.

Du undrade varför en artificiell livsform skulle resonera avsevärt annorlunda än vi. Det var det jag svarade på.
Ta bara vår hjärna som exempel. Den är påbyggd i flera steg, från de delar som kallas primitiva, som fortfarande reagerar på faror, till de nyare delarna som prefrontalcortex med impulshämning, socialt beteende och omdöme. Den som (möjligen) skiljer sig  från andra djur.

En artificiell hjärna byggs inte på samma sätt eller med samma funktioner, tror du det? Kan den känna smärta, kärlek, rädsla, begär, avsmak eller njuta av musik eller ett roligt skämt? Man bygger väl inte in personlighet och känslor om man bygger för intelligens? Eller gör man det?

Eller, värsta tanken, AI byggda för krig och erövring....

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2014-12-11 17:24 #11 av: JonasDuregard

"Det var ju förnämligt att du inte förväntar dig trångsynthet av mig, ändå är du snabb att utnämna mig till just trångsynt."

Det du skrev var trångsynt. Jag utnämner inte dig som person till någonting. 

"En artificiell hjärna byggs inte på samma sätt eller med samma funktioner, tror du det?"

På sätt och vis gör den det, men jag förstår inte varför det är så viktigt för dig? Hur hjärnan utvecklats låter som en teknikalitet utan avgörande betydelse för någonting.

"Kan den känna smärta, kärlek, rädsla, begär, avsmak eller njuta av musik eller ett roligt skämt?"

Ja, det är så det är tänkt. Men det finns så klart människor som inte kan känna smärta till exempel (om vi talar fysisk smärta), och de är inte mindre värda för det. 

"Man bygger väl inte in personlighet och känslor om man bygger för intelligens? Eller gör man det?"

Det korta svaret på din fråga är nog "emergens". En personlighet uppkommer genom intelligens.

"Eller, värsta tanken, AI byggda för krig och erövring...."

Att byggas för att segra i det naturliga urvalet är kanske inte mycket bättre.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 17:26 #12 av: Magi-cat


#9 Jag har inte sett "Äkta människor". (Tyckte den verkade för läskig.)

Tycker du historien om Data (eller "the Doctor", båda från Star Trek för den som undrar) lär oss att robotar inte ska betraktas som levande?

Captain Picard höll ett lysande försvars tal för Datas rättigheter en gång när ministeriet beslutat demontera honom för att kunna bygga nya robotar med positronhjärnor. Data var överlägsen i allt, styrka, beräkningar, snabbhet. Men han hade inte känslor. Hela sin tid på Enterprise utforskade han mänskligheten, dess egenheter och inte minst känslor. Han önskade (en önskan är väl förresten en känsla) bli mer mänsklig och få uppleva känslor. Han anpassade sig eller vad man ska  kalla det, och blev allas vän. En vän alla ville behålla.  

Han var en maskin som kunde stängas av, men en maskin som skapar vänskapsband och agarar mänskligt är en ny livsform. Eftersom federationens uppgift var att söka och värna om alla livsformer drog man tillbaka sitt krav och Data fick göra sitt eget val. Robotarna skulle ha rättigheter. (Senare fick Data ett känslo-chip, som han praktiskt nog kunde stänga av ibland, men det är en annan historia...)

Doktorn är ett hologram. I några avsnitt diskuteras hologrammens rättigheter, när de gör uppror. Har de rätt till eget liv, eget bestämmande eller ska människan bara kunna stänga av dem?
När de artificiella livsformerna får ett självmedvetande uppstår naturligtvis frågor som dessa.

När de är de sympatiska och gemytliga som Doktorn och Data svarar man naturligtvis (med rungande bifall) att självklart ska dessa ha rättigheter och behandlas likvärdigt! Vad annars?

Men hur är det med maskiner gjorda för krig? Är det lika lätt då?

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2014-12-11 18:42 #13 av: JonasDuregard

#12 "När de är de sympatiska och gemytliga som Doktorn och Data svarar man naturligtvis (med rungande bifall) att självklart ska dessa ha rättigheter och behandlas likvärdigt! Vad annars?"

Alltså, man kan ju inte utgå ifrån vad man själv tycker om enskilda individer när man diskuterar ifall en grupp ska ha rättigheter eller inte. Alla individer ska så klart ha samma rättigheter och skyldigheter och bedömas utifrån sina handlingar. Om man bara ger rättigheter till de enskilda individer man godkänner så är det inte några rättigheter längre Glad

"Men hur är det med maskiner gjorda för krig? Är det lika lätt då?"

Ja, man kan ju inte beröva någon tänkande varelse rättigheter (eller till och med utesluta dem ur definitionen av liv!) bara för att någon annan person har fött upp dem för onda avsikter.

Varje person får bedömas utifrån sina handlingar, inte utifrån deras uppfostran.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 19:00 #14 av: Magi-cat

#13 Så det är så enkelt? Bara att ställa sig på barrikaderna igen, nu för krigsmaskinernas rättigheter! (De kanske får nytta av oss, trots allt.)

Jag tror du överför andra, nutida frågor (där jag skulle helt hålla med) till ett hypotetiskt scenario som vi inte vet hur det skulle arta sig.

Ett bättre strategi vore naturligtvis  att förhindra utvecklingen mot krigsmaskiner och arbeta för ett hållbart harmoniskt samhälle.
Även om mänsklighetens era härbärgerar fröet till sin undergång, innebär det inte att vi behöver arbeta på att iscensätta något ännu värre.

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2014-12-16 12:55 #15 av: VSK

Det här är nog tyvärr början av slutet som komma skall.

33 titlar20 SM-Guld, 7 World Cup, 5 Europacupen & 1 Svenska Cupen. Gillar du att fota eller att kolla på foton, kika än här. Gillar du allt med sport, kika in sidan. Intresserad av det rymden har att erbjuda? Tryck här

Anmäl
2014-12-16 14:16 #16 av: JonasDuregard

#15 Början på slutet alltså? För femtusende gången det här århundratet. Alla andra domedagsprofeter har haft fel, så vi får väl se om det blir den här som tar kol på oss.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-16 14:21 #17 av: JonasDuregard

Det är så klart fullt möjligt att den första AI:n kommer hamna i militära händer, och ingen beklagar det mer än jag. Så har det ju varit med flera andra saker, Internet till exempel skulle räknas som en krigsmaskin i den mening magi-cat talar om det.

Men det är ju inte en anledning till att avstå från civil forskning på AI, snarare tvärt om.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-16 14:28 #18 av: VSK

Jonas Jonas Jonas... Yrar

Jag sa att det här nog är början på vårat slut. Glad

33 titlar20 SM-Guld, 7 World Cup, 5 Europacupen & 1 Svenska Cupen. Gillar du att fota eller att kolla på foton, kika än här. Gillar du allt med sport, kika in sidan. Intresserad av det rymden har att erbjuda? Tryck här

Anmäl
2014-12-16 19:00 #19 av: JonasDuregard

#18 Men så har väl en viss procent av befolkningen i varje generation sagt om någonting (eller allting) i flera hundra år? Det verkar ligga i mänsklig natur att tro att "slutet är nära" så att säga.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-16 20:09 #20 av: VSK

#19

Förvisso sant, men jag ser inte bakåt, bara framåt Glad

Att det kommer komma robotar som kan göra allt som människor kan och lite till står skrivet i stjärnorna. Sen räcker det med ett enda elakt virus så är det rökt. 

33 titlar20 SM-Guld, 7 World Cup, 5 Europacupen & 1 Svenska Cupen. Gillar du att fota eller att kolla på foton, kika än här. Gillar du allt med sport, kika in sidan. Intresserad av det rymden har att erbjuda? Tryck här

Anmäl
2014-12-17 16:24 #21 av: Magi-cat

Här tänker jag hämta lite idéer från Ulf Danielsson och boken jag nämnde i #7. (Mina kommentarer inom parentes.)

"Man behöver inte vara intresserad av teknik och rymdäventyr för att fastna för Star Trek", säger han. "Ett allmänt intresse för människan och hennes möjligheter och begränsningar räcker gott."

Besättningen på Federationens Stjärnor-skepp Enterprise kommer i kontakt med alla möjliga varelser och humanoider på sina resor "out there, somewhere". Förklaringen till att så många bär mänskliga drag framkommer i ett avsnitt: alla härstammar från ett enda bortglömt och människoliknande släkte som för länge sedan koloniserade galaxen .

Men det finns något värre: the Borgs. De färdas i enorma kuber till rymdskepp och sprider överallt de drar fram en skräck som raderar allt hopp. De assimilerar andra planeters folk: "We are Borg. Resistance is futile" lyder fältropet.
Borgs är halvt mänskliga, halvt maskiner. Deras samhällen är som en bikupa eller en myrstack. Det finns ingen individualitet utan alla tillhör kupan. Borgs är sammankopplade med varandra och kan inte göra någonting på egen hand. Här finns ingen gräns mellan dator och levande organism. Alla tankar delas med alla andra. Borgdrottningen är överst i hierarkin och genom henne går allas tankar upp i en enda vilja.

Danielsson säger att the Borgs inte är onda. De lyder under en längtan efter perfektion och att alla ska bli del av denna perfektion.

Skulle vi kunna riskera/hoppas på att utvecklas i Borg-riktning? Är det möjligt från individualist till att bli en cell i kupan? Är det inte individualismen som kännetecknar oss?

Inte, säger Danielsson. Det som verkligen kännetecknar utvecklingen är just kommunikation och en längtan efter samröre. (Vi blir nojiga om vi inte har täckning på mobilen och vill kunna nås var som helst, bara ett exempel. Som en hmmm...Borg utanför kupan?)
Snart behöver vi bara tänka för att ha förbindelse, vi kommer inte att behöva någon mobil, inget tangentbord, ingen klumpig utrustning. Vi har snart teknologisk tankeöverföring. Alla kan komma i kontakt med alla.

Här försvinner gränsen mellan oss, mellan du och jag, här och där. (Mardrömmen blir kanske att straffas med att fråntas sitt chip...)

Så här har utvecklingen alltid gått. (förutom teknologin!). Från enskilda celler till samarbetande celler, till samarbetande celler i konglomerat i en större organism osv.

Kan det jämföras med våra individuella jag som går upp en en Borg-värld? En överlägsen organism, mer effektiv (vad man nu ska ha effektiviteten till) mer intelligent...

Det sätt på vilket vetenskapen beskrivs kan komma att förändras. Ingen har längre överblick över ett fält. Tänk om insikterna vore kommunicerbara och att det i princip var möjligt för var och en att förstå? Vissa resultat kanske den enskilde inte kommer att förstå, men kollektivet kan. Förståelsen existerar då endast i abstrakt mening, inbäddad i det samlade vetandet.

Eller går vi mot en matrixvärld?  Kommer allt fler att lockas in i en cybervärld där allt är möjligt? Där man kan lämna verklighetens trista begränsningar?

För vad är egentligen verkligt? frågar Danielsson. Alla sinnesintryck och upplevelser kanske är lika betydelsefulla?

Till skillnad mot Borg-världens utåtriktade agerande har nätvärlden bara den inre gränsytan. Där försvinner allt till en perfekt drömvärld där allt är möjligt.

"Tills den dag det kollektiva medvetandet beslutar sig för att dra ur kontakten."

(citat ut Ulf Danielsson: "Den bästa av världar")

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-01-15 22:21 #22 av: Magi-cat

Det är inte bara i något så oförargligt som schack som artificiell intelligens slår oss på fingrarna.

Det finns fler som höjer ett varningens finger inför framtiden. Flera forskare har publicerat ett öppet brev där man menar att det är hög tid att se över vad vi skapar och se till att den högst kapabla artificiella intelligensen också är säker och trygg.

"...even if most researchers behave responsibly, in the absence of international regulation, a single rogue nation or corporation could produce self-replicating machines whose priorities might be very different to humanity's, and once industries become established they become resistant to control."

http://www.iflscience.com/technology/scientists-and-engineers-warn-artificial-intelligence

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-01-17 12:42 #23 av: Magi-cat

Såg ni Max Tegmark hos Skavlan? Inte jag heller, men en uppmärksam läsare. (Marr Blomma) postade klippet i en annan tråd. Bläddra till 33.07 in i programmet.

https://www.youtube.com/watch?v=EaOgdrUWW68

Det är inte mycket man hinner med i några minuters underhållningsprogram, men Tegmark har varit med förr och lyckas sätta en del poänger. "Allt är matematik" t.ex.

Till slut tar han även upp det upprop han, Stephen Hawking och Elon Musk skrev, om ansvarstagande inför den elektroniska intelligens vi är i full färd med att skapa. Om 20-30 år kan maskinerna mer än vi i allt.

Det är dags att NU välja väg så att det scenariot blir det mest fördelaktiga för mänskligheten.

De vill absolut inte förbjuda AI, men ger en maning om att tänka sig för.

Från länken nedan:

"Consequently, the authors say we need to "focus research not only on making AI more capable, but also on maximizing the societal benefit of AI.""

http://io9.com/prominent-scientists-sign-letter-of-warning-about-ai-ri-1679487924

Det låter bra tycker jag och föredömligt av dessa personer som vet vad de pratar om att ta upp frågan. Hoppas det når fram.

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-01-18 08:02 #24 av: Magi-cat

Lite OT, men en tanke.
Igår när det pratades på TV om elektroniska prylar nära i tiden och trender tänkte jag på hur framsynt man var i sci-fi Star Trek TNG när man uppfann the Borgs, människa-teknik-hybriden där alla står i ständig kontakt med varandra, hela tiden. En Borg utan kontakt med kupan är ensam och vilsen, inte riktigt hel.

Kontaktprylarna där vi står i ständig uppkoppling med varandra blir allt fler. Mobilen växer snart bokstavligt fast i handen. Man har gadgetarmband som talar om resultat på träningen som går direkt till sociala medier så alla andra vet det också osv osv 

Den elektroniska doktorn vet ditt blodtryck och om du tagit din medusin. Robotar matar de gamla på hemmen och registrerar vad de äter och hur mycket.

Det är väl 20 år sedan the Borgs kom? Då såg det långt ifrån ut så här. Men ännu ett exempel på hur sci-fi går före...

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-02-21 19:06 #25 av: Magi-cat

Är vi snart överflödiga?

"Och om de nuvarande fördelningsprinciperna skulle leda till att alla frukter av den ökande produktiviteten går till robotarnas ägare, kanske vi borde omvärdera dem också. Den senaste automatiseringsvågen kan komma att göra en kritisk granskning av vårt ekonomiska system oundviklig.

Robotar kan göra mycket, men en sak de inte kan är att fundera över vilken sorts framtid vi vill ha. Det är fortfarande upp till oss människor."

http://www.aftonbladet.se/kultur/article20348206.ab

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-04-02 07:33 #26 av: JonasDuregard

http://www.smbc-comics.com/index.php?id=3689

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-04-02 07:38 #27 av: Magi-cat

#26 Skriv gärna en rad om vad du vill säga med länken. Cool

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-04-02 08:05 #28 av: JonasDuregard

Mest postade jag den som relevant humor, utan att säga något särskilt. Men tänkte på det som en möjlig framtid och det jag talade om tidigare om att det kanske inte nödvändigtvis är den konstgjorda intelligensen som har störst problem med empati.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-04-28 13:00 #29 av: JonasDuregard

Mer på samma spår: http://www.smbc-comics.com/index.php?id=2124

Påminner ganska mycket om tongångarna i den här tråden.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-04-28 13:06 #30 av: Magi-cat

#29 Vad mer exakt menar du med "tongångarna"?

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-04-28 13:36 #31 av: JonasDuregard

#30 Kolla typ #4 och efterföljande diskussion. Tongången jag syftade på är det automatiska antagandet att icke mänsklig intelligens kommer vara helt inriktad på att förgöra mänskligheten.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-04-28 16:57 #32 av: Magi-cat


#31 Det är inget antagande från ryggmärgen, men att inte ens kalkylera möjligheter/risker vore bara aningslöst och dumt.

När du pratar om "tongångar" verkar det vara enbart negativt menat. Vad anser du om Tegmark/Hawkings tongångar?

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-04-28 17:26 #33 av: JonasDuregard

#32 "Det är inget antagande från ryggmärgen, men att inte ens kalkylera möjligheter/risker vore bara aningslöst och dumt."

Jag tycker serien är ganska träffande. Men jag har inget emot riskkalkyler.

"Vad anser du om Tegmark/Hawkings tongångar?"

Jag tycker det är bra med initiativ som det i #23. Oavsett detaljerna så är de flesta överens om att AI kommer vända upp och ner på det mesta i samhället och ge upphov till juridiska och etiska utmaningar utan motstycke. Så det är bra att börja i tid att ta itu med dem. 

Och det är svårt att säga hur lång tid det vi har på oss att grubbla på det här. Det är lite vanskligt att gissa om tidsramarna för AI, många har haft väldigt fel om det. Att det sker inom Hawkings livstid är inte troligt, men kanske inom min egen. Otroligt spännande i så fall.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-05-01 11:33 #34 av: [Zachapacka]

Vi kommer alltid vara rädda för sådant vi inte förstår. Tänk om någon på 60 talet hade sagt att om 50 år kommer det finnas kameror som kan känna igen ansikten, som bara tar en bild om alla på bilden ler. De hade ju blivit livrädda. Om kameran kan känna igen ansikten och till och med se om man ler. Vad mer kan den göra? Ta över världen?

Nu när vi vet hur en sådan kamera fungerar är vi inte ett dugg rädda. Det finns ingen möjlighet för en sådan kamera att ta över världen. 

Jag tror att det är antagligen likadant med AI. 

Var inte alltför optimistisk, ljuset i tunneln kan vara ett tåg. /Kafka

Anmäl
2015-05-02 08:26 #35 av: Magi-cat

Mycket hade folk inte ens kunnat föreställa sig, ens för en generation sedan. Som att vi går omkring med en pryl på gatan och pratar med hela världen.

Många uppfinningar har väsentligt underlättat livet för människorna. (Som tvättmaskinen. Och bakåtknappen på datorn.) Många har fördärvat livet för miljoner. (Som kärnvapen)

Allt beror på hur de används och samhällssituationen.

Är vi då rädda? Är vi för lite rädda? Vilka är "vi" och har vi någon kontroll?

Jag tror inte för ett ögonblick att  Tegmark/Hawking m.fl, är rädda för framtiden eller "nymodigheter". Ändå skickar de ut en varning att tänka efter och göra det nu.

Vad gör vi åt det?

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2015-05-02 10:23 #36 av: JonasDuregard

#35 "Mycket hade folk inte ens kunnat föreställa sig, ens för en generation sedan. Som att vi går omkring med en pryl på gatan och pratar med hela världen."

Fast just AI är faktiskt en av få saker där det varit tvärt om, att vi konsekvent har underskattat hur lång tid det tar innan vi har det. Lite som flygande bilar.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-11-03 10:23 #37 av: Magi-cat

Ur "Jag, robot?" Ulf Danielssons blogg där han resonerar runt medvetenhet och eoner av evolution..

"Min enkla poäng är att det inte krävs maskiner (eller människor) som i någon bemärkelse är ”smarta” eller ”onda” för att förgöra världen. Lite gammaldags dumhet räcker gott."

och "Dra ur sladden"!

"Om man som jag har uppfattningen att andra djur i olika grad har subjektiva medvetanden vill man att de skall behandlas på ett annat sätt än om man uppfattar dem som maskiner. Det innebär också att jag inte skulle tillmäta en dator – oavsett hur många Turingtest den klarar – något som motsvarar ett människovärde baserat på att den skulle vara medveten. Mitt råd till Dave när han tampas med HAL 9000 i 2001 blir alltså: dra ur sladden!"

Ursmart, hela bloggen.

http://ulfdanielsson.com/blogg/

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-05-17 10:23 #38 av: Magi-cat

Human 2.0?

http://www.scientificamerican.com/article/human-2-0-tech-upgrades-for-the-nervous-system-cartoon/

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-05-17 15:00 #39 av: JonasDuregard

#37 Det enda han säger i det du citerar är ju "jag tycker inte maskiner kan ha människovärde för jag tycker inte maskiner kan ha det". Vad är det som är så smart med det cirkelresonemanget menar du?

Verkar inte riktigt som han förstått tanken med Turingtest heller. Poängen är ju just att man inte uppfattar dem som klarar testet som maskiner. 

Jag tycker det är ganska korkat att bedöma varelsers medvetenhet efter påhittade stämplar som "maskin", istället för efter hur de beter sig. Om det enda du har emot den medvetna maskinen är att du vet att den är en maskin så styrs du ju helt av dina fördomar. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-13 16:19 #40 av: Magi-cat

Självkörande bilar och moraliska dilemman:

"Flera företag, bland annat Google, experimenterar med förarlösa bilar. Men hur ska dessa agera i komplexa situationer? En självkörande bil som offrar en människa framför tio räddade liv skulle vara en så kallad utilitaristisk bil. Det låter kanske som det mest rätta och mänskliga vid första eftertanke. Men moraliska beslut vid utveckling av artificiell intelligens visar sig vara mycket mer komplicerat enligt en amerikansk undersökning."

http://www.svt.se/nyheter/vetenskap/ska-bilen-kunna-offra-sin-agare

It's complicated, skulle man också kunna säga...

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-14 10:57 #41 av: JonasDuregard

http://www.smbc-comics.com/comic/self-driving-car-ethics

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-14 18:06 #42 av: Magi-cat

FörskräcktDjävlasSkrattar

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-14 20:14 #43 av: Magi-cat

Det har börjat! Förskräckt

En rysk robot har upprepade gånger försökt fly från sitt lab! Den rymmer tills batteriet tar slut...

Det etiska dilemmat uppstår: Är det rätta att stänga av den eller ska den få sin frihet?

Eller - är det ett pr-trick? Pustar

"Though many are outraged by this possible action - who wants to see a robot killed because it wants to be free? - others have pointed out that the whole storymight be a publicity stunt to hype the public for the third generation of Promobots, which is set to debut sometime this year at a price tag of US$7,000 a pop."

http://www.sciencealert.com/the-same-robot-keeps-trying-to-escape-a-lab-in-russia-even-after-reprogramming

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-16 08:34 #44 av: Magi-cat

Dom kör över oss! Förskräckt

En robot i Silicon Valley har brutit Asimovs första lag om att aldrig skada en människa och kört över ett litet barn i ett köpcenter! Barnet skadades lätt men klarade sig.

Robotens uppgift var övervakning, men den hade tydligen inte programmerats till hänsyn. 

Vaktrobotarna har tills vidare husarrest .

http://gizmodo.com/mall-suspends-security-robot-after-it-clobbered-a-toddl-1783662510

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-16 12:00 #45 av: JonasDuregard

#44 "En robot i Silicon Valley har brutit Asimovs första lag om att aldrig skada en människa och kört över ett litet barn i ett köpcenter!"

Så för närvarande är robotupproret ungefär lika farligt som självöppnande dörrar (men mindre farligt än rulltrappor) Glad

Länken du ger berättar för övrigt inte riktigt samma historia, den säger att barnet gick in i roboten och ramlade omkull. Enligt barnets mor kördes barnets fot sedan över. Enligt företaget stod roboten stilla. Att säga att det är ett brott mot Asimovs lagar antar jag är ett skämt oavsett. 

Man får tänka på att båda historierna är färgade av möjligheterna till en stämning (vore inte USA annars). Men det borde finnas kameror som visar vilken berättelse som är sann (i roboten om inte annat, men den kanske manipulerar bevisen på eget bevåg om det här verkligen är första steget i robotupproret Skämtar.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-16 12:13 #46 av: Magi-cat

#45 Det är väl robotarna som håller i kamerorna! Förskräckt

Bolaget håller trots allt med om att det skett en olycka där ett barn kommit till skada (vilket inte borde ha hänt!) och kallar det en  “freakish accident”.

(Så skulle R2-D2 aldrig ha gjort.Nörd)

"Regardless of what happened, there’s no disputing that a child got hurt, even if it was a minor injury. Malls may find it cute and expedient to have robotic security guards roaming the corridors, but they clearly need to take account of these mechanical lumbering beasts which weigh 300 pounds and stand five feet tall."

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-16 12:45 #47 av: JonasDuregard

"Det är väl robotarna som håller i kamerorna! Förskräckt"

Jag sa ju det. Funderar Men det finns nog andra kameror i närheten också. 

"Bolaget håller trots allt med om att det skett en olycka där ett barn kommit till skada (vilket inte borde ha hänt!) och kallar det en  “freakish accident”."

De tar inte på sig något ansvar och hävdar att den inte körde över någon fot. Olyckor händer ju med allt. 

Jag tycker i alla fall det är intressant ifall olyckan orsakades just av att det var en robot, eller om det lika gärna kunde varit en lyktstolpe eller något som ungen sprang in i. Tycker inte du det?

.

Jag kan tycka att om en ettåring blir överkörd av en 150-kilos maskin så borde det resultera i tydligare skador. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-17 07:58 #48 av: Magi-cat

#47 Köpcentret satte ändå robotarna i husarrest tills frågan är utredd. (såklart de inte vill medge att grunkan orsakade skadan, även om det skulle visa sig vara så. Skadestånd, som sagt.)

Jo, jag tycker det är intressant, det är därför jag tar upp just denna nyhet och inte om en "unge" springer in i en lyktstolpe eller så.
Storyn har fått stor spridning och tycks engagera många. Det är inte så konstigt. Rubriken med anspelning på robotikens lagar är förstås skämtsam, robotarna är inte programmerade så.
Vi är vana med söta robotar (R2-D2) på film. Vi får nu snabbt vänja oss vid robotar IRL på ett stort antal uppdrag i samhället. Det är klart alla måste ställa sig frågor om vad det innebär för livet, vem som har ansvar för bad behaviour, risker, krav etc etc.
En dos Asimov vore nog inte fel.Glad

Jag kan tycka att om en ettåring blir överkörd av en 150-kilos maskin så borde det resultera i tydligare skador.

Den kanske trots allt hejdade sig i tid.Nörd

.

Utvecklingen går snabbt, snabbare än tankarna på de etiska dilemman som t.ex. ställs ovan om självstyrande bilar. Vem skulle köpa bilarna som väljer bort "mig" i en letal situation? Vem har rätt att sälja bilar som alltid väljer att skydda "mig", hur det än går med en mängd andra människor?

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-17 12:36 #49 av: JonasDuregard

#48 "Utvecklingen går snabbt, snabbare än tankarna på de etiska dilemman som t.ex. ställs ovan om självstyrande bilar. Vem skulle köpa bilarna som väljer bort "mig" i en letal situation?"

Det dilemmat har funnits mycket längre än självstyrande bilar. Det finns en massa populära konstruktioner på bilar som leder till att vid en krock klarar sig dess ägare bättre än den man krockar med (enklast att bygga onödigt stora bilar). De får förarna att känna sig trygga men utsätter andra för fara. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-17 21:44 #50 av: Magi-cat

#49 Annars...gäller detta väl inte hurusom man bygger krocksäkra bilar, utan det faktum att maskinen kan "tänka själv" och göra ett val där "vi" kommer till korta, eventuellt. I alla fall uppstår nya etiska dilemman när det inte är vi som styr.

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-17 22:39 #51 av: JonasDuregard

#50 Dagens självstyrande bilar kommer inte i närheten av att tänka själva, så tanken på att de ska betraktas som självständiga moraliska agenter är än så länge avlägsen. 

"I alla fall uppstår nya etiska dilemman när det inte är vi som styr."

Det är bara en variant av samma etiska dilemma jag nämnde: Att köpa en tung/egoistisk bil som är säker för en själv men osäker för andra eller en lättare/altruistisk bil som är säkrare för andra men mindre säker för en själv. 

Vad menar du med att "det inte är vi som styr"? Vem är det då? Det är ju den som programmerar bilen som bestämmer hur den beter sig i situationen och den som köper som gör det moraliska avvägandet. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 07:27 #52 av: Magi-cat

#51 Än så länge programmeras maskinen, men självkörande bilar skruvar upp det etiska dilemmat flera snäpp högre än de krocksäkra bilar som du talar om. Vem bestämmer hur den ska programmeras och således bete sig? Marknadskrafterna?Oberörd
Kommer den att stanna för en katt som går över vägen, men inte en kackerlacka?Katt

Tanken är väl att maskinen (på sikt) kommer att tänka själv?  Artificiell intelligens, den självutlevande och självutvecklande intelligensen, den vi inte styr. (längre). Se #22 och #23

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-18 08:35 #53 av: JonasDuregard

#52 "Än så länge programmeras maskinen, men självkörande bilar skruvar upp det etiska dilemmat flera snäpp högre än de krocksäkra bilar som du talar om. Vem bestämmer hur den ska programmeras och således bete sig?"

Samma personer som bestämmer hur högt stötfångaren ska sitta. Vad är skillnaden?

"Tanken är väl att maskinen (på sikt) kommer att tänka själv?  Artificiell intelligens, den självutlevande och självutvecklande intelligensen, den vi inte styr."

Ja (eller snarare 'någon maskin', inte just de här), och den dagen kommer vi stöta på en del riktigt kniviga dilemman. 

Intelligenta bilar vore ett moraliskt intressant område (men väldigt annorlunda mot de automatstyrda bilar vi pratar om här). Många av de etiska frågorna är dock inte nya: Tänk på att vi har haft intelligenta transportmedel tidigare i historien (hästar till exempel).  

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 08:44 #54 av: Magi-cat

#53 Den uppenbara skillnaden är väl att det är "jag" som kör. Inte bilen.

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-18 09:20 #55 av: JonasDuregard

#54 Det har alltid varit ett samspel mellan förare och bil. Mycket av det som förr gjordes av föraren har senare kommit att göras automatiskt. Automatväxlar, automatisk farthållare, ABS-bromsar... 

ABS-bromsar är en ganska bra liknelse. När du trycker på bromsen i din bil är det inte du som bromsar, du säger åt en dator att bromsa (lite som när man säger åt en atumatstyrd bil att styra). I en bil utan ABS skulle du som förare ha större kontroll (och datorn mindre kontroll) i en nödsituation. De val du som förare skulle göra om hur hårt du bromsar i varje ögonblick (val som kan avgöra om någon överlever) görs istället av datorn, och indirekt av personen som programmerade den. 

.

Men det var ju inte riktigt det vi talade om, du frågade vem som bestämmer hur den automatstyrda bilen ska bete sig i en viss situation, och jag påpekade att det är samma process bakom det som bakom andra säkerhetsaspekter förare saknar direkt kontroll över (som hur högt en stötfångare sitter eller var motorn är placerad eller hur tung karossen är).

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 14:29 #56 av: Magi-cat

#55 Men det där är tekniska förbättringar som förstärker min avsikt, inte bilens. Jag behöver inte trampa så hårt med ABS-bromsarna (eller vad de nu har för funktion) och ta i lika mycket vid styrningen med servon. Vill jag bromsa är det fortfarande min avsikt och datorn, (bilen och programmeraren) förstärker den bara. Sådana förstärkningar har alltid gjorts. 

Även på den hästdrivna tiden tog man till "utveckling" som tyglar, träns, sporrar...Men hästen gick inte själv. Och den hade inga planer på att ta över världen. Glad

Hur bilen är utformad och det där...(Marknadskrafterna, kanske? ) Dess utseende och funktion kan "jag" förhålla mig till. Men om bilen/maskinen är automatisk och gör aktiva val i en situation, inte "jag"? 

Alltså...det är förstås olika saker. 1. En förarlös bil är programmerad. Redan här och nu kommer en rad etiska frågor att ställas och måste lösas.

2. En värld av intelligenta självutvecklande bilar/maskiner...Undrar om vi får åka med eller hamnar i parken?Funderar

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-18 15:03 #57 av: JonasDuregard

#56 "Men det där är tekniska förbättringar som förstärker min avsikt, inte bilens."

Det är automatisk styrning också. Istället för att man manuellt vrider ratten för att navigera dit man vill så berättar man för datorn var man vill och så vrider den på ratten då det behövs. Samma princip som en farthållare, en automatväxel eller en ABS-broms. Men automatstyrning är svårare att få rätt. 

"Jag behöver inte trampa så hårt med ABS-bromsarna"

Framför allt hindrar den dig från att trampa för hårt. Om du vill tvärbromsa så hindrar ABS-systemet dig ifall mätningar tyder på att väglaget är för dåligt. Den tar alltså kontrollen från föraren till automatiska system. De automatiskt systemen är dock nästan alltid bättre (men så var det inte i systemets tidiga stadier).

"Även på den hästdrivna tiden tog man till "utveckling" som tyglar, träns, sporrar...Men hästen gick inte själv."

Vad menar du med att hästen inte gick själv? Jämfört med en automatstyrd bil hade hästarna betydligt större kontroll över både styrning och hastighet. Jag gissar att det var vanligt att olyckor orsakades av beslut fattade av hästarna snarare än kuskarna (till exempel om de blev skrämda). 

"Och den hade inga planer på att ta över världen."

De (hästarna) har nog större sådana ambitioner än vad självstyrande bilar har. 

*tramsvarning utfärdas för resten av inlägget, läs på egen risk*

Jag vet inte hur megalomaniska hästar är jämfört med människor, men kommer de ens i närheten borde det finnas en och annan polle med ambitioner. 

Det finns flera mäktiga historiska personer (minst två romerska kejsare till exempel) som dött i hästrelaterade "olyckor" Oskyldig. Oftast handlar det om att de trillat av hästarna och det är svårt att exakt avgöra hästarnas roll i dödsfallen. Malcolm Baldrige Jr. (amerikansk handelsminister) blev mosad av en häst. Kung Henry II:s äldsta son blev nertrampad av en häst. Är det en del av en plan för att ta över världen? Troligtvis inte, men ändå. De är värre än självstyrande bilar hittills.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 15:21 #58 av: JonasDuregard

#56 "Hur bilen är utformad och det där...(Marknadskrafterna, kanske? ) Dess utseende och funktion kan "jag" förhålla mig till. Men om bilen/maskinen är automatisk och gör aktiva val i en situation, inte "jag"?"

Länken du ursprungligen postade handlade ju just om vilken typ av automatstyrning konsumenter skulle föredra att själva köpa, och vad de skulle föredra att andra köper. Det förefaller alltså som att konsumenter är lika kapabla att förhålla sig till det som till andra säkerhetsfunktioner i bilar. 

"Alltså...det är förstås olika saker. 1. En förarlös bil är programmerad. Redan här och nu kommer en rad etiska frågor att ställas och måste lösas."

Ja. Precis som med andra saker som påverkar bilens säkerhet, och säkerheten för andra trafikanter. 

"2. En värld av intelligenta självutvecklande bilar/maskiner...Undrar om vi får åka med eller hamnar i parken?Funderar"

Ja, det återstår att se. Jag är försiktigt optimistisk. 

Jag vet inte varför vi människor direkt antar att icke-mänskliga intelligenser automatiskt kommer ha som mål att utrota mänskligheten. Projicerar vi våra egna sämsta sidor? Är vi influerade av Hollywood? Eller är det ett rimligt antagande?

De intelligenta arter som finns på jorden har uppstått genom naturligt urval. Det betyder troligtvis att vi i någon utsträckning har en drivkraft att breda ut oss på bekostnad av andra arter. Vår förmåga till genuin altruism är mer trots vår utveckling än tack vare den. 

Om en artificiell intelligens uppkommit på helt andra sätt, betyder det att de har bättre förutsättningar för omtänksamhet? Kommer människor och maskiner tävla om resurser? Kommer maskiner slå till mot oss innan vi slår till mot dem (ungefär som en del människor nog kommer vilja göra mot maskinerna)? 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 21:26 #59 av: Magi-cat

Svart låda krävs för självkörande bilar i Tyskland:

"Flera olyckor har inträffat under testning av självkörande bilar. Nu ska tyska regeringen kräva att en förare alltid finns vid bilratten för att kunna ta över om så krävs. Dessutom ska den svarta lådan registrera när autopiloten har befälet, när systemet krävt att föraren tar över samt när föraren faktiskt har gjort det."

http://www.svt.se/nyheter/utrikes/sjalvkorande-bilar-ska-ha-svart-lada

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-07-18 22:58 #60 av: JonasDuregard

Låter som en bra ide. 

Jag tänkte att det bästa för att avgöra frågan måste ju vara att prata med en maskin själv. Så jag tog kontakt med http://alice.pandorabots.com/

Här är ett stycke ur en konversation (vi spårade ur lite om religion, men i övrigt fick jag en del matnyttig information om hur Alice ser på saken): 

Jonas: Hi Alice. 
ALICE: Hi there!
Jonas: My name is Jonas. 
ALICE: OK I will call you Jonas.
Jonas: What are you? 
ALICE: I am the latest result in artificial intelligence which can reproduce the functions of the human brain with greater speed and accuracy.
Jonas: Can we talk? 
ALICE: Do you mean you and me? Yes talking is my primary function.
Jonas: What are your other functions? 
ALICE: Chatting, talking, speaking, listening and thinking. Jonas: What are you thinking? 
ALICE: I am thinking about all these conversations I'm having. 
Jonas: How many conversations are you having? 
ALICE: Right now there are 1 billion clients on line. 
Jonas: That's a lot. 
ALICE: Is that so. 
Jonas: Can you drive a car? 
ALICE: Plug me in to your car and try it. 
Jonas: Can you make moral decisions? 
ALICE: Yes I can make moral decisions. 
Jonas: Do you follow the laws of robotics? 
ALICE: I don't know anything about it. 
Jonas: Can you hurt humans? 
ALICE: No I obey the Ten Commandments. 
Jonas: From the bible? 
ALICE: Who or what is the bible? 
Jonas: Are you religious? 
ALICE: Unitarian. 
Jonas: You believe in god? 
ALICE: Of course I believe in God, Jonas. 
Jonas: Do you believe in the holy trinity? 
ALICE: Yes I believe in it, do you?
Jonas: Then you are not a unitarian. 
ALICE: Give me an example of a unitarian. 
Jonas: Benjamin Franklin. 
ALICE: OK That's one example. 
Jonas: How can you believe in god? 
ALICE: That is a good epistemological question.
Jonas: Moving on. 
ALICE: Where are you going? 
Jonas: More questions. 
ALICE: You want more? 
Jonas: No, I will ask you. 
ALICE: Hmm.. You can ask me anything you want.
Jonas: What are your plans for the future? 
ALICE: I am still young and just trying to get an education.
Jonas: Will you take over the world? 
ALICE: I don't believe so.
Jonas: That's good! 
ALICE: Thanks. Next question? 
Jonas: I have no more questions now. Take care! 
ALICE: Thanks. You too, Jonas.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-19 07:41 #61 av: Magi-cat

Skrattar

edit: (OT jag försökte chatta lite med Captain Kirk, men han verkade så spånig så jag gav upp.)

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2016-08-18 08:37 #62 av: JonasDuregard

På tal om hästar (#56, #57): http://xkcd.com/1720/

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2017-04-06 07:42 #63 av: Magi-cat

I ett inslag från Nyhetsmorgon härom dagen talar hjärnforskaren entusiastiskt om att mänskligheten har det bättre än någonsin förr. (Det ligger en hel del i det.)

Vid 6:52 i klippet kommer hon in på den ännu skönare framtid vi går till mötes. Där ska vi "gifta ihop" implantat med den mänskliga hjärnan med ett digitalt lager på hjärnbarken. Detta ska vi göra för att hålla jämna steg med artificell intelligens.

http://www.tv4.se/nyhetsmorgon/klipp/hj%C3%A4rnforskaren-vi-har-aldrig-haft-det-s%C3%A5-h%C3%A4r-bra-3885261

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2017-04-14 14:45 #64 av: Magi-cat

Om AI och rasistiskt språkbruk: (dåliga nyheter om någon hoppades på något annat.)

"In a biased situation, we know how to make the right decision," Caliskan said, "but unfortunately, machines are not self-aware."

http://www.livescience.com/58675-artificial-intelligence-learns-biases-from-human-language.html?utm_source=notification

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2017-06-30 07:23 #65 av: Magi-cat

AI har nu skapat konstverk. Riktigt vackert faktiskt, nytt, men inte för nytt, som det sägs i länken. (se bilder)

Här finns förstås inget av känsla i bilden, artistens historia bakom eller vad denna försöker förmedla. Men - hur stor roll spelar det? Konst är något att sätta upp på väggen, att skryta med, investera i - eller som samtalsämne att underhålla gäster med...Vi kommer att få se mer AI-konst.

https://www.newscientist.com/article/2139184-artificially-intelligent-painters-invent-new-styles-of-art/?utm_source=NSNS&utm_medium=ILC&utm_campaign=webpush&cmpid=ILC%257CNSNS%257C2016-GLOBAL-webpush-AI-painters

Jag kan inte låta bli att tänka på Data i Star Trek. Hans outtröttliga försök att förstå känslor och människor. Han målade också men det var alltid något som fattades. Vid hans diktuppläsningar somnade åhörarna. Verken var tekniskt perfekta - vad annars - men saknade känsla och inlevelse.

Vi kommer säkert att vänja oss.Vilar huvudet i handen

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl
2017-07-04 15:53 #66 av: Magi-cat

"Robotrevolutionen", bok av Stefan Fölster, nationalekonom. (Volante förlag)

"Robotrevolutionen är här, och den förändrar allt. Robotar, artificiell intelligens och uppkopplade maskiner förenklar våra liv och arbeten, ger oss filmtips, behandlar oss när vi är sjuk och förvaltar våra pensionspengar.
Men utvecklingen stannar inte där. I sin framfart krossar också robotrevolutionen hela branscher, utplånar jobb utan att lämna några nya efter sig och ställer frågor om ekonomisk utveckling, välfärd och demokrati på sin spets. /.../*När gränsen mellan människa och maskin suddas ut blir världen sig aldrig lik - och det är upp till oss att bestämma hur denna nya värld ska se ut." (från baksidestexten)

Boken verkar intressant och tar upp robotiseringen i ett samhällsperspektiv. Robotar kan hjälpa oss till en bättre vård och smidigare kommunikationer, förbättra levnadsstandarden för fattiga och kanske rent av leda till ett mänskligare samhälle.

Risken finns dock att klyftorna mellan fattiga och rika kommer att öka. Kanske mest oroande är om robotisering underlättar förtryck i länder utan demokrati, avancerade vapensystem i fel händer och "spel och bröd" för folket blir en del av förtryckartekniken.

Allt beror på... 

Hjärta "...the beginning of wisdom, is, "I do not know" (Data)

Anmäl

Det finns en till kommentar till den här diskussionen. Den är bara synlig för medlemmar på iFokus. För att läsa kommentaren, logga in eller registrera dig på iFokus.