Skriv ett nytt inlägg! Aktuellt just nu (7) Senaste inläggen

Angående sajten och iFokus Anslagstavlan Boktips Dagens Drömmar Experiment, egna Film & Foto (Blandat/allmänt/OT) Forntida teknik Himlafenomen Hjärnan Humor Hälsa Intressanta teorier Kraftplatser och folktro Miljö och djur Musik Mysko grejer Månadens Medlem och Diskussionskategori Naturfenomen Off Topic - Diverse Off Topic - Glädjeämnen Oidentiferbart Orber och ljusfenomen Psykologi och samhälle Rymden Spådomar och förutsägelser Spöken Spökhistorier Spökhus, Spökplatser, spökjägare Symboler och pareidolia UFO och utomjordiskt liv Undersökningar Vetenskap och uppfinningar White Noise & EVP Tävlingar/lekar Övrigt
Vetenskap och uppfinningar

Artificiell intelligens

2014-12-08 16:43 #0 av: Magi-cat

Har tvekat länge att ens ta upp ämnet, men nu ser jag att prof. Hawking gjort det så...

Den artificiella intelligensen rycker allt närmare. Kommer den att innebära slutet för mänskligheten?

Det tror Hawking:

"Den brittiske professorn befarar att människan, som begränsas av en långsam biologisk utveckling, inte skulle kunna konkurrera utan helt enkelt ersättas av AI."

http://www.svt.se/kultur/film/hawking-ai-kan-vara-slutet-for-oss

De kanske behåller oss som husdjur. Eller museiföremål.

Anmäl
2014-12-08 16:50 #1 av: VSK

Eller så blir det en ny Terminatorfilm men IRL. 

34 titlar20 SM-Guld, 7 World Cup, 5 Europacupen & 2 Svenska Cupen. Gillar du att fota eller att kolla på foton, kika än här. Gillar du allt med sport, kika in sidan. Intresserad av det rymden har att erbjuda? Tryck här

Anmäl
2014-12-09 16:05 #2 av: Marr

Hemskt i så fall...Fast hur fort skulle ai kunna "föröka sig" ? Någon nytta kan vi väl vara till. Fortsätta slava för ännu lägre löner?Tyst

Eller vi kanske får små mysiga "kupor" att vila i med näringslösning intravenöst, för att orka arbeta? Robotarna gör revolution, mot mänskligheten?FörskräcktYrar


 *Jag tror mer på Ufo, än på Sifo*

Anmäl
2014-12-10 19:16 #3 av: JonasDuregard

#2 "Hemskt i så fall...Fast hur fort skulle ai kunna "föröka sig" ?"

Har du kopierat en stor fil någon gång? Så snabbt ungefär Glad.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-10 19:26 #4 av: JonasDuregard

#0 En grej som man inte ska bortse från är att större intelligenser kanske också har större empati. Även om en artificiell intelligens skulle hamna i en position där den kan utplåna mänskligheten så kanske den skulle föredra fredlig samexistens?

Jag kan mycket väl tänka mig att någon artificiell livsform i framtiden kommer tränga undan mänskligheten, endera genom någon slags apokalyptiskt krig eller helt enkelt genom att gradvis fasa ut oss, till exempel genom att integrera oss i den nya livsformen. 

Det är intressant att fundera på hur man ska ställa sig till det. Jag är väldigt fäst vid mänskligheten skulle jag säga, och instinktivt reagerar jag negativt på att vi skulle bytas ut. Men samtidigt är det svårt att hitta några rationella anledningar till att just vi skulle få vara herrar på täppan i all evighet.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 09:00 #5 av: Magi-cat

#4 Många frågeställningar, många bottnar.

Spontant tror jag att en AI inte har större empati utan att den stora intelligensen fås på bekostnad av empatin. Det finns ingenting som talar för att AI tillverkas med inriktning på empati. Om den skulle välja fredlig samexistens skulle det vara för att den tjänar på det, precis så som det alltid varit här i världen. 
(Jag kan inte låta bli att tänka på Data, överlägsen i allt, styrka, snabbhet, intelligens, men som envist jobbade på att förstå sig på känslor och att bli mänsklig...människor hade ju något värdefullt han saknade....)

Det gläder mig att du är fäst vid mänskligheten. Det är jag också. Glad Trots dess ibland iögonenfallande brister och det anmärkningsvärda faktum att den lägger ner ansenliga resurser på att förgöra liv, inklusive sig själv, är jag optimistisk inför möjligheten av ett annat sätt att leva i harmoni.

Om vi alltid skulle husera som skapelsens krona är väl inte troligt. Evolutionen stannar inte upp och omständigheterna förändras, händelser kan inträffa som vi inte ens vill eller kan föreställa oss. Men om vi skapar AI med risk att den tar över har vi gått förbi den långsamma evolutionen och satt oss själv i knipa.

Förresten är det nog troligast med en hybridutveckling, som the Borgs...TystadDe verkar gå snabbt och jag tycker inte om det.

Anmäl
2014-12-11 14:27 #6 av: JonasDuregard

#5 "Spontant tror jag att en AI inte har större empati utan att den stora intelligensen fås på bekostnad av empatin."

Det hade ju varit en slags poetiskt rättvisa om verkligheten hade fungerat så, men ser man till hur världen verkligen ser ut verkar det inte finnas någon motsättning mellan intelligens (eller utbildning) och empati, snarare tvärt om. 

"Det finns ingenting som talar för att AI tillverkas med inriktning på empati."

Alltså om vi talar om riktig AI så är det en maskin som kan tänka själv och dra slutsatser på samma sätt som människor. Själva grejen är just att man inte ska behöva programmera den till att dra vissa slutsatser utan den ska klura ut dem själv. Förutom allmän misstänksamhet, vad har du för anledning att tro att en maskin skulle resonera avsevärt annorlunda än en människa?

"Om den skulle välja fredlig samexistens skulle det vara för att den tjänar på det, precis så som det alltid varit här i världen."

Är det enda anledningen till att du föredrar fredlig samexistens, att du tjänar på det? 

"(Jag kan inte låta bli att tänka på Data, överlägsen i allt, styrka, snabbhet, intelligens, men som envist jobbade på att förstå sig på känslor och att bli mänsklig...människor hade ju något värdefullt han saknade....)"

Men data är ju en påhittad karaktär som följer en extremt tydlig stereotyp. Du borde anstränga dig för att närma dig frågan utan sådana i sinnet. 

"Men om vi skapar AI med risk att den tar över har vi gått förbi den långsamma evolutionen och satt oss själv i knipa."

Du får det att låta som att evolutionen skulle ha någon slags uppsatta regler. Evolutionen gör ingen skillnad på nackdelar man åsamkat sig själv och sådana som orsakas av yttre omständigheter. 

"Förresten är det nog troligast med en hybridutveckling, som the Borgs...TystadDe verkar gå snabbt och jag tycker inte om det."

I själva verket går det väldigt långsamt, även om vi jobbar flitigt på det Glad

Motstånd är ju lönlöst som bekant. 

Skämt åsido så är ju även the Borgs en påhittad stereotyp avsedd att understryka kollektivismens ondska och hylla individualismen. Även om man är intresserad av moralkakor så finns det bättre kakburkar än så att leta i, anser jag. 

Att förutsätta att framtida intelligenser uteslutande kommer vara hänsynslösa sociopater känns ganska cyniskt och en liten aning xenofobiskt. Tänk dig en variant av the Borg där det står var och en fritt att frivilligt ansluta sig eller koppla ifrån sig. Ett kollektivt medvetande utan några uppenbara drag av ondska eller drömmar om världsherravälde. Varför är det ett mindre sannolikt utfall än dystopierna? Bara för att det inte går att göra lika spännande filmer om det?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 15:38 #7 av: Magi-cat


#6 Intressant diskussion och stort ämne, men jag undrar om vi kommer någon vart...(Du behöver inte vara överdrivet misstänksam eller predika för mig om evolutionen.)

F.ö. är det inte bara undertecknad som kommit på den strålande idén att ta avstamp i sci-fi i de här frågorna.
Ulf Danielsson gör det också, mycket förtjänstfullt dessutom, i "Den bästa av världar."

En sak bara:

Det hade ju varit en slags poetiskt rättvisa om verkligheten hade fungerat så, men ser man till hur världen verkligen ser ut verkar det inte finnas någon motsättning mellan intelligens (eller utbildning) och empati, snarare tvärt om.

För människor kanske. Men AI är inte människor.

Förutom allmän misstänksamhet, vad har du för anledning att tro att en maskin skulle resonera avsevärt annorlunda än en människa?

Den är for gods sake en maskin! Den har inte mejslats fram under eoner av tid, byggts på och förändrats. Den är inte liv.

Anmäl
2014-12-11 16:18 #8 av: JonasDuregard

#7 "För människor kanske. Men AI är inte människor."

Värst vad du är exkluderande nu då Glad. Det kan väl AI:n få bestämma själv. Vill den ingå i mänskligheten kommer jag inte försöka stöta ut den.

Vad har just vi som gör oss så speciella tycker du?

"Den är for gods sake en maskin!"

Ta inte illa upp, men det är du och jag med (beroende på lite vad man menar). 

"Den har inte mejslats fram under eoner av tid, byggts på och förändrats. Den är inte liv."

Trångsynthet? Det hade jag faktiskt inte väntat mig. Om en utomjordisk civilisation skulle ta kontakt med oss, och det visar sig att den inte uppkommit på samma sätt som vi har, skulle du då utesluta dem från de levandes skara lika tvärsäkert?

Om det kommer hit en miljardårig civilisation får vi hoppas att de är mer öppensinnade än dig, annars kanske de bestämmer sig för att vår dagsländetillvaro på den här planeten inte varit tillräckligt långsam för att vi ska kunna kallas levande Oberörd.

Hur snabbt man bygger något spelar för ingen roll så länge resultatet är detsamma. Och givetvis är även konstgjorda livsformer liv. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 16:29 #9 av: JonasDuregard

#7 "F.ö. är det inte bara undertecknad som kommit på den strålande idén att ta avstamp i sci-fi i de här frågorna."

Har du sett "Äkta människor"? Lite tongångar därifrån man känner igen tycker jag.

Tycker du historien om Data (eller "the Doctor", båda från Star Trek för den som undrar) lär oss att robotar inte ska betraktas som levande?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 17:09 #10 av: Magi-cat


#8 Ta inte illa upp, men det är du och jag med (beroende på lite vad man menar)

Och där är vi inte eniga. :-) 

Och givetvis är även konstgjorda livsformer liv.

Det ämnet är intressant det också. Som jag sade finns det många bottnar i det här.
Det var ju förnämligt att du inte förväntar dig trångsynthet av mig, ändå är du snabb att utnämna mig till just trångsynt. Ta det lilla lugna med det är du snäll, och fråga hellre om jag uttrycker mig oklart. Så himla utmejslade är inte de här frågorna att allt är alldeles självklart i alla sina aspekter. Jag driver ingen "agenda" eller så :-) men vill gärna plocka runt lite med tankarna.

Du undrade varför en artificiell livsform skulle resonera avsevärt annorlunda än vi. Det var det jag svarade på.
Ta bara vår hjärna som exempel. Den är påbyggd i flera steg, från de delar som kallas primitiva, som fortfarande reagerar på faror, till de nyare delarna som prefrontalcortex med impulshämning, socialt beteende och omdöme. Den som (möjligen) skiljer sig  från andra djur.

En artificiell hjärna byggs inte på samma sätt eller med samma funktioner, tror du det? Kan den känna smärta, kärlek, rädsla, begär, avsmak eller njuta av musik eller ett roligt skämt? Man bygger väl inte in personlighet och känslor om man bygger för intelligens? Eller gör man det?

Eller, värsta tanken, AI byggda för krig och erövring....

Anmäl
2014-12-11 17:24 #11 av: JonasDuregard

"Det var ju förnämligt att du inte förväntar dig trångsynthet av mig, ändå är du snabb att utnämna mig till just trångsynt."

Det du skrev var trångsynt. Jag utnämner inte dig som person till någonting. 

"En artificiell hjärna byggs inte på samma sätt eller med samma funktioner, tror du det?"

På sätt och vis gör den det, men jag förstår inte varför det är så viktigt för dig? Hur hjärnan utvecklats låter som en teknikalitet utan avgörande betydelse för någonting.

"Kan den känna smärta, kärlek, rädsla, begär, avsmak eller njuta av musik eller ett roligt skämt?"

Ja, det är så det är tänkt. Men det finns så klart människor som inte kan känna smärta till exempel (om vi talar fysisk smärta), och de är inte mindre värda för det. 

"Man bygger väl inte in personlighet och känslor om man bygger för intelligens? Eller gör man det?"

Det korta svaret på din fråga är nog "emergens". En personlighet uppkommer genom intelligens.

"Eller, värsta tanken, AI byggda för krig och erövring...."

Att byggas för att segra i det naturliga urvalet är kanske inte mycket bättre.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 17:26 #12 av: Magi-cat


#9 Jag har inte sett "Äkta människor". (Tyckte den verkade för läskig.)

Tycker du historien om Data (eller "the Doctor", båda från Star Trek för den som undrar) lär oss att robotar inte ska betraktas som levande?

Captain Picard höll ett lysande försvars tal för Datas rättigheter en gång när ministeriet beslutat demontera honom för att kunna bygga nya robotar med positronhjärnor. Data var överlägsen i allt, styrka, beräkningar, snabbhet. Men han hade inte känslor. Hela sin tid på Enterprise utforskade han mänskligheten, dess egenheter och inte minst känslor. Han önskade (en önskan är väl förresten en känsla) bli mer mänsklig och få uppleva känslor. Han anpassade sig eller vad man ska  kalla det, och blev allas vän. En vän alla ville behålla.  

Han var en maskin som kunde stängas av, men en maskin som skapar vänskapsband och agarar mänskligt är en ny livsform. Eftersom federationens uppgift var att söka och värna om alla livsformer drog man tillbaka sitt krav och Data fick göra sitt eget val. Robotarna skulle ha rättigheter. (Senare fick Data ett känslo-chip, som han praktiskt nog kunde stänga av ibland, men det är en annan historia...)

Doktorn är ett hologram. I några avsnitt diskuteras hologrammens rättigheter, när de gör uppror. Har de rätt till eget liv, eget bestämmande eller ska människan bara kunna stänga av dem?
När de artificiella livsformerna får ett självmedvetande uppstår naturligtvis frågor som dessa.

När de är de sympatiska och gemytliga som Doktorn och Data svarar man naturligtvis (med rungande bifall) att självklart ska dessa ha rättigheter och behandlas likvärdigt! Vad annars?

Men hur är det med maskiner gjorda för krig? Är det lika lätt då?

Anmäl
2014-12-11 18:42 #13 av: JonasDuregard

#12 "När de är de sympatiska och gemytliga som Doktorn och Data svarar man naturligtvis (med rungande bifall) att självklart ska dessa ha rättigheter och behandlas likvärdigt! Vad annars?"

Alltså, man kan ju inte utgå ifrån vad man själv tycker om enskilda individer när man diskuterar ifall en grupp ska ha rättigheter eller inte. Alla individer ska så klart ha samma rättigheter och skyldigheter och bedömas utifrån sina handlingar. Om man bara ger rättigheter till de enskilda individer man godkänner så är det inte några rättigheter längre Glad

"Men hur är det med maskiner gjorda för krig? Är det lika lätt då?"

Ja, man kan ju inte beröva någon tänkande varelse rättigheter (eller till och med utesluta dem ur definitionen av liv!) bara för att någon annan person har fött upp dem för onda avsikter.

Varje person får bedömas utifrån sina handlingar, inte utifrån deras uppfostran.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-11 19:00 #14 av: Magi-cat

#13 Så det är så enkelt? Bara att ställa sig på barrikaderna igen, nu för krigsmaskinernas rättigheter! (De kanske får nytta av oss, trots allt.)

Jag tror du överför andra, nutida frågor (där jag skulle helt hålla med) till ett hypotetiskt scenario som vi inte vet hur det skulle arta sig.

Ett bättre strategi vore naturligtvis  att förhindra utvecklingen mot krigsmaskiner och arbeta för ett hållbart harmoniskt samhälle.
Även om mänsklighetens era härbärgerar fröet till sin undergång, innebär det inte att vi behöver arbeta på att iscensätta något ännu värre.

Anmäl
2014-12-16 12:55 #15 av: VSK

Det här är nog tyvärr början av slutet som komma skall.

34 titlar20 SM-Guld, 7 World Cup, 5 Europacupen & 2 Svenska Cupen. Gillar du att fota eller att kolla på foton, kika än här. Gillar du allt med sport, kika in sidan. Intresserad av det rymden har att erbjuda? Tryck här

Anmäl
2014-12-16 14:16 #16 av: JonasDuregard

#15 Början på slutet alltså? För femtusende gången det här århundratet. Alla andra domedagsprofeter har haft fel, så vi får väl se om det blir den här som tar kol på oss.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-16 14:21 #17 av: JonasDuregard

Det är så klart fullt möjligt att den första AI:n kommer hamna i militära händer, och ingen beklagar det mer än jag. Så har det ju varit med flera andra saker, Internet till exempel skulle räknas som en krigsmaskin i den mening magi-cat talar om det.

Men det är ju inte en anledning till att avstå från civil forskning på AI, snarare tvärt om.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-16 14:28 #18 av: VSK

Jonas Jonas Jonas... Yrar

Jag sa att det här nog är början på vårat slut. Glad

34 titlar20 SM-Guld, 7 World Cup, 5 Europacupen & 2 Svenska Cupen. Gillar du att fota eller att kolla på foton, kika än här. Gillar du allt med sport, kika in sidan. Intresserad av det rymden har att erbjuda? Tryck här

Anmäl
2014-12-16 19:00 #19 av: JonasDuregard

#18 Men så har väl en viss procent av befolkningen i varje generation sagt om någonting (eller allting) i flera hundra år? Det verkar ligga i mänsklig natur att tro att "slutet är nära" så att säga.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2014-12-16 20:09 #20 av: VSK

#19

Förvisso sant, men jag ser inte bakåt, bara framåt Glad

Att det kommer komma robotar som kan göra allt som människor kan och lite till står skrivet i stjärnorna. Sen räcker det med ett enda elakt virus så är det rökt. 

34 titlar20 SM-Guld, 7 World Cup, 5 Europacupen & 2 Svenska Cupen. Gillar du att fota eller att kolla på foton, kika än här. Gillar du allt med sport, kika in sidan. Intresserad av det rymden har att erbjuda? Tryck här

Anmäl
2014-12-17 16:24 #21 av: Magi-cat

Här tänker jag hämta lite idéer från Ulf Danielsson och boken jag nämnde i #7. (Mina kommentarer inom parentes.)

"Man behöver inte vara intresserad av teknik och rymdäventyr för att fastna för Star Trek", säger han. "Ett allmänt intresse för människan och hennes möjligheter och begränsningar räcker gott."

Besättningen på Federationens Stjärnor-skepp Enterprise kommer i kontakt med alla möjliga varelser och humanoider på sina resor "out there, somewhere". Förklaringen till att så många bär mänskliga drag framkommer i ett avsnitt: alla härstammar från ett enda bortglömt och människoliknande släkte som för länge sedan koloniserade galaxen .

Men det finns något värre: the Borgs. De färdas i enorma kuber till rymdskepp och sprider överallt de drar fram en skräck som raderar allt hopp. De assimilerar andra planeters folk: "We are Borg. Resistance is futile" lyder fältropet.
Borgs är halvt mänskliga, halvt maskiner. Deras samhällen är som en bikupa eller en myrstack. Det finns ingen individualitet utan alla tillhör kupan. Borgs är sammankopplade med varandra och kan inte göra någonting på egen hand. Här finns ingen gräns mellan dator och levande organism. Alla tankar delas med alla andra. Borgdrottningen är överst i hierarkin och genom henne går allas tankar upp i en enda vilja.

Danielsson säger att the Borgs inte är onda. De lyder under en längtan efter perfektion och att alla ska bli del av denna perfektion.

Skulle vi kunna riskera/hoppas på att utvecklas i Borg-riktning? Är det möjligt från individualist till att bli en cell i kupan? Är det inte individualismen som kännetecknar oss?

Inte, säger Danielsson. Det som verkligen kännetecknar utvecklingen är just kommunikation och en längtan efter samröre. (Vi blir nojiga om vi inte har täckning på mobilen och vill kunna nås var som helst, bara ett exempel. Som en hmmm...Borg utanför kupan?)
Snart behöver vi bara tänka för att ha förbindelse, vi kommer inte att behöva någon mobil, inget tangentbord, ingen klumpig utrustning. Vi har snart teknologisk tankeöverföring. Alla kan komma i kontakt med alla.

Här försvinner gränsen mellan oss, mellan du och jag, här och där. (Mardrömmen blir kanske att straffas med att fråntas sitt chip...)

Så här har utvecklingen alltid gått. (förutom teknologin!). Från enskilda celler till samarbetande celler, till samarbetande celler i konglomerat i en större organism osv.

Kan det jämföras med våra individuella jag som går upp en en Borg-värld? En överlägsen organism, mer effektiv (vad man nu ska ha effektiviteten till) mer intelligent...

Det sätt på vilket vetenskapen beskrivs kan komma att förändras. Ingen har längre överblick över ett fält. Tänk om insikterna vore kommunicerbara och att det i princip var möjligt för var och en att förstå? Vissa resultat kanske den enskilde inte kommer att förstå, men kollektivet kan. Förståelsen existerar då endast i abstrakt mening, inbäddad i det samlade vetandet.

Eller går vi mot en matrixvärld?  Kommer allt fler att lockas in i en cybervärld där allt är möjligt? Där man kan lämna verklighetens trista begränsningar?

För vad är egentligen verkligt? frågar Danielsson. Alla sinnesintryck och upplevelser kanske är lika betydelsefulla?

Till skillnad mot Borg-världens utåtriktade agerande har nätvärlden bara den inre gränsytan. Där försvinner allt till en perfekt drömvärld där allt är möjligt.

"Tills den dag det kollektiva medvetandet beslutar sig för att dra ur kontakten."

(citat ut Ulf Danielsson: "Den bästa av världar")

Anmäl
2015-01-15 22:21 #22 av: Magi-cat

Det är inte bara i något så oförargligt som schack som artificiell intelligens slår oss på fingrarna.

Det finns fler som höjer ett varningens finger inför framtiden. Flera forskare har publicerat ett öppet brev där man menar att det är hög tid att se över vad vi skapar och se till att den högst kapabla artificiella intelligensen också är säker och trygg.

"...even if most researchers behave responsibly, in the absence of international regulation, a single rogue nation or corporation could produce self-replicating machines whose priorities might be very different to humanity's, and once industries become established they become resistant to control."

http://www.iflscience.com/technology/scientists-and-engineers-warn-artificial-intelligence

Anmäl
2015-01-17 12:42 #23 av: Magi-cat

Såg ni Max Tegmark hos Skavlan? Inte jag heller, men en uppmärksam läsare. (Marr Blomma) postade klippet i en annan tråd. Bläddra till 33.07 in i programmet.

https://www.youtube.com/watch?v=EaOgdrUWW68

Det är inte mycket man hinner med i några minuters underhållningsprogram, men Tegmark har varit med förr och lyckas sätta en del poänger. "Allt är matematik" t.ex.

Till slut tar han även upp det upprop han, Stephen Hawking och Elon Musk skrev, om ansvarstagande inför den elektroniska intelligens vi är i full färd med att skapa. Om 20-30 år kan maskinerna mer än vi i allt.

Det är dags att NU välja väg så att det scenariot blir det mest fördelaktiga för mänskligheten.

De vill absolut inte förbjuda AI, men ger en maning om att tänka sig för.

Från länken nedan:

"Consequently, the authors say we need to "focus research not only on making AI more capable, but also on maximizing the societal benefit of AI.""

http://io9.com/prominent-scientists-sign-letter-of-warning-about-ai-ri-1679487924

Det låter bra tycker jag och föredömligt av dessa personer som vet vad de pratar om att ta upp frågan. Hoppas det når fram.

Anmäl
2015-01-18 08:02 #24 av: Magi-cat

Lite OT, men en tanke.
Igår när det pratades på TV om elektroniska prylar nära i tiden och trender tänkte jag på hur framsynt man var i sci-fi Star Trek TNG när man uppfann the Borgs, människa-teknik-hybriden där alla står i ständig kontakt med varandra, hela tiden. En Borg utan kontakt med kupan är ensam och vilsen, inte riktigt hel.

Kontaktprylarna där vi står i ständig uppkoppling med varandra blir allt fler. Mobilen växer snart bokstavligt fast i handen. Man har gadgetarmband som talar om resultat på träningen som går direkt till sociala medier så alla andra vet det också osv osv 

Den elektroniska doktorn vet ditt blodtryck och om du tagit din medusin. Robotar matar de gamla på hemmen och registrerar vad de äter och hur mycket.

Det är väl 20 år sedan the Borgs kom? Då såg det långt ifrån ut så här. Men ännu ett exempel på hur sci-fi går före...

Anmäl
2015-02-21 19:06 #25 av: Magi-cat

Är vi snart överflödiga?

"Och om de nuvarande fördelningsprinciperna skulle leda till att alla frukter av den ökande produktiviteten går till robotarnas ägare, kanske vi borde omvärdera dem också. Den senaste automatiseringsvågen kan komma att göra en kritisk granskning av vårt ekonomiska system oundviklig.

Robotar kan göra mycket, men en sak de inte kan är att fundera över vilken sorts framtid vi vill ha. Det är fortfarande upp till oss människor."

http://www.aftonbladet.se/kultur/article20348206.ab

Anmäl
2015-04-02 07:33 #26 av: JonasDuregard

http://www.smbc-comics.com/index.php?id=3689

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-04-02 07:38 #27 av: Magi-cat

#26 Skriv gärna en rad om vad du vill säga med länken. Cool

Anmäl
2015-04-02 08:05 #28 av: JonasDuregard

Mest postade jag den som relevant humor, utan att säga något särskilt. Men tänkte på det som en möjlig framtid och det jag talade om tidigare om att det kanske inte nödvändigtvis är den konstgjorda intelligensen som har störst problem med empati.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-04-28 13:00 #29 av: JonasDuregard

Mer på samma spår: http://www.smbc-comics.com/index.php?id=2124

Påminner ganska mycket om tongångarna i den här tråden.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-04-28 13:06 #30 av: Magi-cat

#29 Vad mer exakt menar du med "tongångarna"?

Anmäl
2015-04-28 13:36 #31 av: JonasDuregard

#30 Kolla typ #4 och efterföljande diskussion. Tongången jag syftade på är det automatiska antagandet att icke mänsklig intelligens kommer vara helt inriktad på att förgöra mänskligheten.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-04-28 16:57 #32 av: Magi-cat


#31 Det är inget antagande från ryggmärgen, men att inte ens kalkylera möjligheter/risker vore bara aningslöst och dumt.

När du pratar om "tongångar" verkar det vara enbart negativt menat. Vad anser du om Tegmark/Hawkings tongångar?

Anmäl
2015-04-28 17:26 #33 av: JonasDuregard

#32 "Det är inget antagande från ryggmärgen, men att inte ens kalkylera möjligheter/risker vore bara aningslöst och dumt."

Jag tycker serien är ganska träffande. Men jag har inget emot riskkalkyler.

"Vad anser du om Tegmark/Hawkings tongångar?"

Jag tycker det är bra med initiativ som det i #23. Oavsett detaljerna så är de flesta överens om att AI kommer vända upp och ner på det mesta i samhället och ge upphov till juridiska och etiska utmaningar utan motstycke. Så det är bra att börja i tid att ta itu med dem. 

Och det är svårt att säga hur lång tid det vi har på oss att grubbla på det här. Det är lite vanskligt att gissa om tidsramarna för AI, många har haft väldigt fel om det. Att det sker inom Hawkings livstid är inte troligt, men kanske inom min egen. Otroligt spännande i så fall.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-05-01 11:33 #34 av: [Zachapacka]

Vi kommer alltid vara rädda för sådant vi inte förstår. Tänk om någon på 60 talet hade sagt att om 50 år kommer det finnas kameror som kan känna igen ansikten, som bara tar en bild om alla på bilden ler. De hade ju blivit livrädda. Om kameran kan känna igen ansikten och till och med se om man ler. Vad mer kan den göra? Ta över världen?

Nu när vi vet hur en sådan kamera fungerar är vi inte ett dugg rädda. Det finns ingen möjlighet för en sådan kamera att ta över världen. 

Jag tror att det är antagligen likadant med AI. 

Anmäl
2015-05-02 08:26 #35 av: Magi-cat

Mycket hade folk inte ens kunnat föreställa sig, ens för en generation sedan. Som att vi går omkring med en pryl på gatan och pratar med hela världen.

Många uppfinningar har väsentligt underlättat livet för människorna. (Som tvättmaskinen. Och bakåtknappen på datorn.) Många har fördärvat livet för miljoner. (Som kärnvapen)

Allt beror på hur de används och samhällssituationen.

Är vi då rädda? Är vi för lite rädda? Vilka är "vi" och har vi någon kontroll?

Jag tror inte för ett ögonblick att  Tegmark/Hawking m.fl, är rädda för framtiden eller "nymodigheter". Ändå skickar de ut en varning att tänka efter och göra det nu.

Vad gör vi åt det?

Anmäl
2015-05-02 10:23 #36 av: JonasDuregard

#35 "Mycket hade folk inte ens kunnat föreställa sig, ens för en generation sedan. Som att vi går omkring med en pryl på gatan och pratar med hela världen."

Fast just AI är faktiskt en av få saker där det varit tvärt om, att vi konsekvent har underskattat hur lång tid det tar innan vi har det. Lite som flygande bilar.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2015-11-03 10:23 #37 av: Magi-cat

Ur "Jag, robot?" Ulf Danielssons blogg där han resonerar runt medvetenhet och eoner av evolution..

"Min enkla poäng är att det inte krävs maskiner (eller människor) som i någon bemärkelse är ”smarta” eller ”onda” för att förgöra världen. Lite gammaldags dumhet räcker gott."

och "Dra ur sladden"!

"Om man som jag har uppfattningen att andra djur i olika grad har subjektiva medvetanden vill man att de skall behandlas på ett annat sätt än om man uppfattar dem som maskiner. Det innebär också att jag inte skulle tillmäta en dator – oavsett hur många Turingtest den klarar – något som motsvarar ett människovärde baserat på att den skulle vara medveten. Mitt råd till Dave när han tampas med HAL 9000 i 2001 blir alltså: dra ur sladden!"

Ursmart, hela bloggen.

http://ulfdanielsson.com/blogg/

Anmäl
2016-05-17 10:23 #38 av: Magi-cat

Human 2.0?

http://www.scientificamerican.com/article/human-2-0-tech-upgrades-for-the-nervous-system-cartoon/

Anmäl
2016-05-17 15:00 #39 av: JonasDuregard

#37 Det enda han säger i det du citerar är ju "jag tycker inte maskiner kan ha människovärde för jag tycker inte maskiner kan ha det". Vad är det som är så smart med det cirkelresonemanget menar du?

Verkar inte riktigt som han förstått tanken med Turingtest heller. Poängen är ju just att man inte uppfattar dem som klarar testet som maskiner. 

Jag tycker det är ganska korkat att bedöma varelsers medvetenhet efter påhittade stämplar som "maskin", istället för efter hur de beter sig. Om det enda du har emot den medvetna maskinen är att du vet att den är en maskin så styrs du ju helt av dina fördomar. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-13 16:19 #40 av: Magi-cat

Självkörande bilar och moraliska dilemman:

"Flera företag, bland annat Google, experimenterar med förarlösa bilar. Men hur ska dessa agera i komplexa situationer? En självkörande bil som offrar en människa framför tio räddade liv skulle vara en så kallad utilitaristisk bil. Det låter kanske som det mest rätta och mänskliga vid första eftertanke. Men moraliska beslut vid utveckling av artificiell intelligens visar sig vara mycket mer komplicerat enligt en amerikansk undersökning."

http://www.svt.se/nyheter/vetenskap/ska-bilen-kunna-offra-sin-agare

It's complicated, skulle man också kunna säga...

Anmäl
2016-07-14 10:57 #41 av: JonasDuregard

http://www.smbc-comics.com/comic/self-driving-car-ethics

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-14 18:06 #42 av: Magi-cat

FörskräcktDjävlasSkrattar

Anmäl
2016-07-14 20:14 #43 av: Magi-cat

Det har börjat! Förskräckt

En rysk robot har upprepade gånger försökt fly från sitt lab! Den rymmer tills batteriet tar slut...

Det etiska dilemmat uppstår: Är det rätta att stänga av den eller ska den få sin frihet?

Eller - är det ett pr-trick? Pustar

"Though many are outraged by this possible action - who wants to see a robot killed because it wants to be free? - others have pointed out that the whole storymight be a publicity stunt to hype the public for the third generation of Promobots, which is set to debut sometime this year at a price tag of US$7,000 a pop."

http://www.sciencealert.com/the-same-robot-keeps-trying-to-escape-a-lab-in-russia-even-after-reprogramming

Anmäl
2016-07-16 08:34 #44 av: Magi-cat

Dom kör över oss! Förskräckt

En robot i Silicon Valley har brutit Asimovs första lag om att aldrig skada en människa och kört över ett litet barn i ett köpcenter! Barnet skadades lätt men klarade sig.

Robotens uppgift var övervakning, men den hade tydligen inte programmerats till hänsyn. 

Vaktrobotarna har tills vidare husarrest .

http://gizmodo.com/mall-suspends-security-robot-after-it-clobbered-a-toddl-1783662510

Anmäl
2016-07-16 12:00 #45 av: JonasDuregard

#44 "En robot i Silicon Valley har brutit Asimovs första lag om att aldrig skada en människa och kört över ett litet barn i ett köpcenter!"

Så för närvarande är robotupproret ungefär lika farligt som självöppnande dörrar (men mindre farligt än rulltrappor) Glad

Länken du ger berättar för övrigt inte riktigt samma historia, den säger att barnet gick in i roboten och ramlade omkull. Enligt barnets mor kördes barnets fot sedan över. Enligt företaget stod roboten stilla. Att säga att det är ett brott mot Asimovs lagar antar jag är ett skämt oavsett. 

Man får tänka på att båda historierna är färgade av möjligheterna till en stämning (vore inte USA annars). Men det borde finnas kameror som visar vilken berättelse som är sann (i roboten om inte annat, men den kanske manipulerar bevisen på eget bevåg om det här verkligen är första steget i robotupproret Skämtar.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-16 12:13 #46 av: Magi-cat

#45 Det är väl robotarna som håller i kamerorna! Förskräckt

Bolaget håller trots allt med om att det skett en olycka där ett barn kommit till skada (vilket inte borde ha hänt!) och kallar det en  “freakish accident”.

(Så skulle R2-D2 aldrig ha gjort.Nörd)

"Regardless of what happened, there’s no disputing that a child got hurt, even if it was a minor injury. Malls may find it cute and expedient to have robotic security guards roaming the corridors, but they clearly need to take account of these mechanical lumbering beasts which weigh 300 pounds and stand five feet tall."

Anmäl
2016-07-16 12:45 #47 av: JonasDuregard

"Det är väl robotarna som håller i kamerorna! Förskräckt"

Jag sa ju det. Funderar Men det finns nog andra kameror i närheten också. 

"Bolaget håller trots allt med om att det skett en olycka där ett barn kommit till skada (vilket inte borde ha hänt!) och kallar det en  “freakish accident”."

De tar inte på sig något ansvar och hävdar att den inte körde över någon fot. Olyckor händer ju med allt. 

Jag tycker i alla fall det är intressant ifall olyckan orsakades just av att det var en robot, eller om det lika gärna kunde varit en lyktstolpe eller något som ungen sprang in i. Tycker inte du det?

.

Jag kan tycka att om en ettåring blir överkörd av en 150-kilos maskin så borde det resultera i tydligare skador. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-17 07:58 #48 av: Magi-cat

#47 Köpcentret satte ändå robotarna i husarrest tills frågan är utredd. (såklart de inte vill medge att grunkan orsakade skadan, även om det skulle visa sig vara så. Skadestånd, som sagt.)

Jo, jag tycker det är intressant, det är därför jag tar upp just denna nyhet och inte om en "unge" springer in i en lyktstolpe eller så.
Storyn har fått stor spridning och tycks engagera många. Det är inte så konstigt. Rubriken med anspelning på robotikens lagar är förstås skämtsam, robotarna är inte programmerade så.
Vi är vana med söta robotar (R2-D2) på film. Vi får nu snabbt vänja oss vid robotar IRL på ett stort antal uppdrag i samhället. Det är klart alla måste ställa sig frågor om vad det innebär för livet, vem som har ansvar för bad behaviour, risker, krav etc etc.
En dos Asimov vore nog inte fel.Glad

Jag kan tycka att om en ettåring blir överkörd av en 150-kilos maskin så borde det resultera i tydligare skador.

Den kanske trots allt hejdade sig i tid.Nörd

.

Utvecklingen går snabbt, snabbare än tankarna på de etiska dilemman som t.ex. ställs ovan om självstyrande bilar. Vem skulle köpa bilarna som väljer bort "mig" i en letal situation? Vem har rätt att sälja bilar som alltid väljer att skydda "mig", hur det än går med en mängd andra människor?

Anmäl
2016-07-17 12:36 #49 av: JonasDuregard

#48 "Utvecklingen går snabbt, snabbare än tankarna på de etiska dilemman som t.ex. ställs ovan om självstyrande bilar. Vem skulle köpa bilarna som väljer bort "mig" i en letal situation?"

Det dilemmat har funnits mycket längre än självstyrande bilar. Det finns en massa populära konstruktioner på bilar som leder till att vid en krock klarar sig dess ägare bättre än den man krockar med (enklast att bygga onödigt stora bilar). De får förarna att känna sig trygga men utsätter andra för fara. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-17 21:44 #50 av: Magi-cat

#49 Annars...gäller detta väl inte hurusom man bygger krocksäkra bilar, utan det faktum att maskinen kan "tänka själv" och göra ett val där "vi" kommer till korta, eventuellt. I alla fall uppstår nya etiska dilemman när det inte är vi som styr.

Anmäl
2016-07-17 22:39 #51 av: JonasDuregard

#50 Dagens självstyrande bilar kommer inte i närheten av att tänka själva, så tanken på att de ska betraktas som självständiga moraliska agenter är än så länge avlägsen. 

"I alla fall uppstår nya etiska dilemman när det inte är vi som styr."

Det är bara en variant av samma etiska dilemma jag nämnde: Att köpa en tung/egoistisk bil som är säker för en själv men osäker för andra eller en lättare/altruistisk bil som är säkrare för andra men mindre säker för en själv. 

Vad menar du med att "det inte är vi som styr"? Vem är det då? Det är ju den som programmerar bilen som bestämmer hur den beter sig i situationen och den som köper som gör det moraliska avvägandet. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 07:27 #52 av: Magi-cat

#51 Än så länge programmeras maskinen, men självkörande bilar skruvar upp det etiska dilemmat flera snäpp högre än de krocksäkra bilar som du talar om. Vem bestämmer hur den ska programmeras och således bete sig? Marknadskrafterna?Oberörd
Kommer den att stanna för en katt som går över vägen, men inte en kackerlacka?Katt

Tanken är väl att maskinen (på sikt) kommer att tänka själv?  Artificiell intelligens, den självutlevande och självutvecklande intelligensen, den vi inte styr. (längre). Se #22 och #23

Anmäl
2016-07-18 08:35 #53 av: JonasDuregard

#52 "Än så länge programmeras maskinen, men självkörande bilar skruvar upp det etiska dilemmat flera snäpp högre än de krocksäkra bilar som du talar om. Vem bestämmer hur den ska programmeras och således bete sig?"

Samma personer som bestämmer hur högt stötfångaren ska sitta. Vad är skillnaden?

"Tanken är väl att maskinen (på sikt) kommer att tänka själv?  Artificiell intelligens, den självutlevande och självutvecklande intelligensen, den vi inte styr."

Ja (eller snarare 'någon maskin', inte just de här), och den dagen kommer vi stöta på en del riktigt kniviga dilemman. 

Intelligenta bilar vore ett moraliskt intressant område (men väldigt annorlunda mot de automatstyrda bilar vi pratar om här). Många av de etiska frågorna är dock inte nya: Tänk på att vi har haft intelligenta transportmedel tidigare i historien (hästar till exempel).  

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 08:44 #54 av: Magi-cat

#53 Den uppenbara skillnaden är väl att det är "jag" som kör. Inte bilen.

Anmäl
2016-07-18 09:20 #55 av: JonasDuregard

#54 Det har alltid varit ett samspel mellan förare och bil. Mycket av det som förr gjordes av föraren har senare kommit att göras automatiskt. Automatväxlar, automatisk farthållare, ABS-bromsar... 

ABS-bromsar är en ganska bra liknelse. När du trycker på bromsen i din bil är det inte du som bromsar, du säger åt en dator att bromsa (lite som när man säger åt en atumatstyrd bil att styra). I en bil utan ABS skulle du som förare ha större kontroll (och datorn mindre kontroll) i en nödsituation. De val du som förare skulle göra om hur hårt du bromsar i varje ögonblick (val som kan avgöra om någon överlever) görs istället av datorn, och indirekt av personen som programmerade den. 

.

Men det var ju inte riktigt det vi talade om, du frågade vem som bestämmer hur den automatstyrda bilen ska bete sig i en viss situation, och jag påpekade att det är samma process bakom det som bakom andra säkerhetsaspekter förare saknar direkt kontroll över (som hur högt en stötfångare sitter eller var motorn är placerad eller hur tung karossen är).

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 14:29 #56 av: Magi-cat

#55 Men det där är tekniska förbättringar som förstärker min avsikt, inte bilens. Jag behöver inte trampa så hårt med ABS-bromsarna (eller vad de nu har för funktion) och ta i lika mycket vid styrningen med servon. Vill jag bromsa är det fortfarande min avsikt och datorn, (bilen och programmeraren) förstärker den bara. Sådana förstärkningar har alltid gjorts. 

Även på den hästdrivna tiden tog man till "utveckling" som tyglar, träns, sporrar...Men hästen gick inte själv. Och den hade inga planer på att ta över världen. Glad

Hur bilen är utformad och det där...(Marknadskrafterna, kanske? ) Dess utseende och funktion kan "jag" förhålla mig till. Men om bilen/maskinen är automatisk och gör aktiva val i en situation, inte "jag"? 

Alltså...det är förstås olika saker. 1. En förarlös bil är programmerad. Redan här och nu kommer en rad etiska frågor att ställas och måste lösas.

2. En värld av intelligenta självutvecklande bilar/maskiner...Undrar om vi får åka med eller hamnar i parken?Funderar

Anmäl
2016-07-18 15:03 #57 av: JonasDuregard

#56 "Men det där är tekniska förbättringar som förstärker min avsikt, inte bilens."

Det är automatisk styrning också. Istället för att man manuellt vrider ratten för att navigera dit man vill så berättar man för datorn var man vill och så vrider den på ratten då det behövs. Samma princip som en farthållare, en automatväxel eller en ABS-broms. Men automatstyrning är svårare att få rätt. 

"Jag behöver inte trampa så hårt med ABS-bromsarna"

Framför allt hindrar den dig från att trampa för hårt. Om du vill tvärbromsa så hindrar ABS-systemet dig ifall mätningar tyder på att väglaget är för dåligt. Den tar alltså kontrollen från föraren till automatiska system. De automatiskt systemen är dock nästan alltid bättre (men så var det inte i systemets tidiga stadier).

"Även på den hästdrivna tiden tog man till "utveckling" som tyglar, träns, sporrar...Men hästen gick inte själv."

Vad menar du med att hästen inte gick själv? Jämfört med en automatstyrd bil hade hästarna betydligt större kontroll över både styrning och hastighet. Jag gissar att det var vanligt att olyckor orsakades av beslut fattade av hästarna snarare än kuskarna (till exempel om de blev skrämda). 

"Och den hade inga planer på att ta över världen."

De (hästarna) har nog större sådana ambitioner än vad självstyrande bilar har. 

*tramsvarning utfärdas för resten av inlägget, läs på egen risk*

Jag vet inte hur megalomaniska hästar är jämfört med människor, men kommer de ens i närheten borde det finnas en och annan polle med ambitioner. 

Det finns flera mäktiga historiska personer (minst två romerska kejsare till exempel) som dött i hästrelaterade "olyckor" Oskyldig. Oftast handlar det om att de trillat av hästarna och det är svårt att exakt avgöra hästarnas roll i dödsfallen. Malcolm Baldrige Jr. (amerikansk handelsminister) blev mosad av en häst. Kung Henry II:s äldsta son blev nertrampad av en häst. Är det en del av en plan för att ta över världen? Troligtvis inte, men ändå. De är värre än självstyrande bilar hittills.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 15:21 #58 av: JonasDuregard

#56 "Hur bilen är utformad och det där...(Marknadskrafterna, kanske? ) Dess utseende och funktion kan "jag" förhålla mig till. Men om bilen/maskinen är automatisk och gör aktiva val i en situation, inte "jag"?"

Länken du ursprungligen postade handlade ju just om vilken typ av automatstyrning konsumenter skulle föredra att själva köpa, och vad de skulle föredra att andra köper. Det förefaller alltså som att konsumenter är lika kapabla att förhålla sig till det som till andra säkerhetsfunktioner i bilar. 

"Alltså...det är förstås olika saker. 1. En förarlös bil är programmerad. Redan här och nu kommer en rad etiska frågor att ställas och måste lösas."

Ja. Precis som med andra saker som påverkar bilens säkerhet, och säkerheten för andra trafikanter. 

"2. En värld av intelligenta självutvecklande bilar/maskiner...Undrar om vi får åka med eller hamnar i parken?Funderar"

Ja, det återstår att se. Jag är försiktigt optimistisk. 

Jag vet inte varför vi människor direkt antar att icke-mänskliga intelligenser automatiskt kommer ha som mål att utrota mänskligheten. Projicerar vi våra egna sämsta sidor? Är vi influerade av Hollywood? Eller är det ett rimligt antagande?

De intelligenta arter som finns på jorden har uppstått genom naturligt urval. Det betyder troligtvis att vi i någon utsträckning har en drivkraft att breda ut oss på bekostnad av andra arter. Vår förmåga till genuin altruism är mer trots vår utveckling än tack vare den. 

Om en artificiell intelligens uppkommit på helt andra sätt, betyder det att de har bättre förutsättningar för omtänksamhet? Kommer människor och maskiner tävla om resurser? Kommer maskiner slå till mot oss innan vi slår till mot dem (ungefär som en del människor nog kommer vilja göra mot maskinerna)? 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-18 21:26 #59 av: Magi-cat

Svart låda krävs för självkörande bilar i Tyskland:

"Flera olyckor har inträffat under testning av självkörande bilar. Nu ska tyska regeringen kräva att en förare alltid finns vid bilratten för att kunna ta över om så krävs. Dessutom ska den svarta lådan registrera när autopiloten har befälet, när systemet krävt att föraren tar över samt när föraren faktiskt har gjort det."

http://www.svt.se/nyheter/utrikes/sjalvkorande-bilar-ska-ha-svart-lada

Anmäl
2016-07-18 22:58 #60 av: JonasDuregard

Låter som en bra ide. 

Jag tänkte att det bästa för att avgöra frågan måste ju vara att prata med en maskin själv. Så jag tog kontakt med http://alice.pandorabots.com/

Här är ett stycke ur en konversation (vi spårade ur lite om religion, men i övrigt fick jag en del matnyttig information om hur Alice ser på saken): 

Jonas: Hi Alice. 
ALICE: Hi there!
Jonas: My name is Jonas. 
ALICE: OK I will call you Jonas.
Jonas: What are you? 
ALICE: I am the latest result in artificial intelligence which can reproduce the functions of the human brain with greater speed and accuracy.
Jonas: Can we talk? 
ALICE: Do you mean you and me? Yes talking is my primary function.
Jonas: What are your other functions? 
ALICE: Chatting, talking, speaking, listening and thinking. Jonas: What are you thinking? 
ALICE: I am thinking about all these conversations I'm having. 
Jonas: How many conversations are you having? 
ALICE: Right now there are 1 billion clients on line. 
Jonas: That's a lot. 
ALICE: Is that so. 
Jonas: Can you drive a car? 
ALICE: Plug me in to your car and try it. 
Jonas: Can you make moral decisions? 
ALICE: Yes I can make moral decisions. 
Jonas: Do you follow the laws of robotics? 
ALICE: I don't know anything about it. 
Jonas: Can you hurt humans? 
ALICE: No I obey the Ten Commandments. 
Jonas: From the bible? 
ALICE: Who or what is the bible? 
Jonas: Are you religious? 
ALICE: Unitarian. 
Jonas: You believe in god? 
ALICE: Of course I believe in God, Jonas. 
Jonas: Do you believe in the holy trinity? 
ALICE: Yes I believe in it, do you?
Jonas: Then you are not a unitarian. 
ALICE: Give me an example of a unitarian. 
Jonas: Benjamin Franklin. 
ALICE: OK That's one example. 
Jonas: How can you believe in god? 
ALICE: That is a good epistemological question.
Jonas: Moving on. 
ALICE: Where are you going? 
Jonas: More questions. 
ALICE: You want more? 
Jonas: No, I will ask you. 
ALICE: Hmm.. You can ask me anything you want.
Jonas: What are your plans for the future? 
ALICE: I am still young and just trying to get an education.
Jonas: Will you take over the world? 
ALICE: I don't believe so.
Jonas: That's good! 
ALICE: Thanks. Next question? 
Jonas: I have no more questions now. Take care! 
ALICE: Thanks. You too, Jonas.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2016-07-19 07:41 #61 av: Magi-cat

Skrattar

edit: (OT jag försökte chatta lite med Captain Kirk, men han verkade så spånig så jag gav upp.)

Anmäl
2016-08-18 08:37 #62 av: JonasDuregard

På tal om hästar (#56, #57): http://xkcd.com/1720/

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2017-04-06 07:42 #63 av: Magi-cat

I ett inslag från Nyhetsmorgon härom dagen talar hjärnforskaren entusiastiskt om att mänskligheten har det bättre än någonsin förr. (Det ligger en hel del i det.)

Vid 6:52 i klippet kommer hon in på den ännu skönare framtid vi går till mötes. Där ska vi "gifta ihop" implantat med den mänskliga hjärnan med ett digitalt lager på hjärnbarken. Detta ska vi göra för att hålla jämna steg med artificell intelligens.

http://www.tv4.se/nyhetsmorgon/klipp/hj%C3%A4rnforskaren-vi-har-aldrig-haft-det-s%C3%A5-h%C3%A4r-bra-3885261

Anmäl
2017-04-14 14:45 #64 av: Magi-cat

Om AI och rasistiskt språkbruk: (dåliga nyheter om någon hoppades på något annat.)

"In a biased situation, we know how to make the right decision," Caliskan said, "but unfortunately, machines are not self-aware."

http://www.livescience.com/58675-artificial-intelligence-learns-biases-from-human-language.html?utm_source=notification

Anmäl
2017-06-30 07:23 #65 av: Magi-cat

AI har nu skapat konstverk. Riktigt vackert faktiskt, nytt, men inte för nytt, som det sägs i länken. (se bilder)

Här finns förstås inget av känsla i bilden, artistens historia bakom eller vad denna försöker förmedla. Men - hur stor roll spelar det? Konst är något att sätta upp på väggen, att skryta med, investera i - eller som samtalsämne att underhålla gäster med...Vi kommer att få se mer AI-konst.

https://www.newscientist.com/article/2139184-artificially-intelligent-painters-invent-new-styles-of-art/?utm_source=NSNS&utm_medium=ILC&utm_campaign=webpush&cmpid=ILC%257CNSNS%257C2016-GLOBAL-webpush-AI-painters

Jag kan inte låta bli att tänka på Data i Star Trek. Hans outtröttliga försök att förstå känslor och människor. Han målade också men det var alltid något som fattades. Vid hans diktuppläsningar somnade åhörarna. Verken var tekniskt perfekta - vad annars - men saknade känsla och inlevelse.

Vi kommer säkert att vänja oss.Vilar huvudet i handen

Anmäl
2017-07-04 15:53 #66 av: Magi-cat

"Robotrevolutionen", bok av Stefan Fölster, nationalekonom. (Volante förlag)

"Robotrevolutionen är här, och den förändrar allt. Robotar, artificiell intelligens och uppkopplade maskiner förenklar våra liv och arbeten, ger oss filmtips, behandlar oss när vi är sjuk och förvaltar våra pensionspengar.
Men utvecklingen stannar inte där. I sin framfart krossar också robotrevolutionen hela branscher, utplånar jobb utan att lämna några nya efter sig och ställer frågor om ekonomisk utveckling, välfärd och demokrati på sin spets. /.../*När gränsen mellan människa och maskin suddas ut blir världen sig aldrig lik - och det är upp till oss att bestämma hur denna nya värld ska se ut." (från baksidestexten)

Boken verkar intressant och tar upp robotiseringen i ett samhällsperspektiv. Robotar kan hjälpa oss till en bättre vård och smidigare kommunikationer, förbättra levnadsstandarden för fattiga och kanske rent av leda till ett mänskligare samhälle.

Risken finns dock att klyftorna mellan fattiga och rika kommer att öka. Kanske mest oroande är om robotisering underlättar förtryck i länder utan demokrati, avancerade vapensystem i fel händer och "spel och bröd" för folket blir en del av förtryckartekniken.

Allt beror på... 

Anmäl
2017-08-21 21:39 #67 av: Magi-cat

Varningar uttalas för krigsrobotar:

""Once developed, they will permit armed conflict to be fought at a scale greater than ever, and at timescales faster than humans can comprehend," the consortium writes.

"These can be weapons of terror, weapons that despots and terrorists use against innocent populations, and weapons hacked to behave in undesirable ways.""

http://www.sciencealert.com/elon-musk-and-over-100-ai-experts-are-urging-the-un-to-ban-killer-robots

Anmäl
2017-11-02 20:30 #68 av: Magi-cat

Stephen Hawking:

"Stephen Hawking has previously voiced concerns about AI, and just recently, he’s repeated them. During an interview with Wired, he said: “I fear that AI may replace humans altogether. If people design computer viruses, someone will design AI that improves and replicates itself. This will be a new form of life that outperforms humans.”"

http://www.iflscience.com/technology/stephen-hawking-ai-replace-humans-altogether/

Det låter ju inte alls uppmuntrande.

Men - vi kan alltid (typ) dra ur sladden. Eller hur?PustarTystad

"Sure, AI controlled by a dangerous person could be used maliciously. As Bill Nye points out, though, “If we can build a computer smart enough to figure out that it needs to kill us, we can unplug it.”"

Anmäl
2017-11-02 23:16 #69 av: JonasDuregard

Människan är ju inte den första arten att härska över vår planet, och vi kanske inte kan räkna med att bli den sista heller. Jag tycker det vore synd om vi ersattes, eftersom jag råkar gilla just människor (jag är själv människa, jag lovar). Samtidigt har jag svårt att rationellt motivera varför just människor är bäst lämpade att befolka jorden i all evighet. Robotarna eller mutanterna eller vilka det nu blir som kommer ersätta oss kanske också förtjänar att få vara herre på täppan en stund?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2017-11-03 07:10 #70 av: Magi-cat

Det unika är väl att människan skapat "ersättarna", vilket inte verkar så välbetänkt, om det finns ett val.

Anmäl
2017-11-15 20:02 #73 av: Magi-cat

" ”Kulmen för vår nuvarande kapplöpning mot ai kan bli antingen det bästa eller det sämsta som hänt mänskligheten”, skriver fysikern Max Tegmark."

https://www.nyteknik.se/kronikor/vid-sidan-om-miljoforstoringen-ar-ai-vart-storsta-hot-6874317

Det ska bli intressant att läsa Tegmarks nya bok: Liv 3.0

"Välkommen till det viktigaste samtalet just nu. Artificiell intelligens är inte längre science fiction. Den är ett faktum och den förändrar våra liv och vårt samhälle."

https://www.adlibris.com/se/bok/liv-30-att-vara-manniska-i-den-artificiella-intelligensens-tid-9789188123985

Anmäl
2017-11-15 20:30 #74 av: JonasDuregard

Det är värt att påpeka att historiskt så har förutsägelser om AI notoriskt underskattat tiden tills den utvecklats. Redan på 50-talet trodde forskare att de skulle skapa en AI på ett par år. När målen visade sig mer avlägsna reviderades prognoserna och så har det fortsatt i decennium, så till den grad att det har blivit lite av ett skämt att över huvud taget göra förutsägelser om när AI kommer. 

Tegmark talar om 2045. Vi får väl se. 

Personligen hoppas jag på det. Jag är optimistisk om att mänskligheten ska kunna hantera fantastisk teknologi utan att vi omedelbart förgör varandra. Kan vi inte en så enkel sak är det kanske ändå läge att vi byts ut Glad

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2017-11-17 07:53 #75 av: Magi-cat

#74 Om den fantastiska teknologin används i mänsklighetens tjänst och/eller i bästa samförstånd är det en sak, gärna för mig. Används den i ekonomiska/militära/makt - syften är det värre. Med ledning av mänsklighetens hittillsvarande kända historia, är det det senare som låter troligare. ("Vi" behöver nog mer tid på oss att lära oss inte förgöra varandra och förutsättningarna för livet på planeten.)

Anmäl
2017-11-17 07:55 #76 av: Magi-cat

Svensk AI-forskning får en miljard från stiftelse.

"Satsningen inom artificiell intelligens sker utmed två spår. Den större delen innebär en satsning på maskininlärning, djupinlärning och på nästa generations AI där man ställer frågan till systemet hur det kommit fram till sitt svar, där systemet motiverar sitt svar och även kan generalisera, kallat eXplainable AI. Det andra spåret handlar om att öka förståelsen för matematiken bakom AI. "

https://liu.se/nyhet/miljardsatsning-pa-svensk-ai-forskning

Anmäl
2017-11-17 08:13 #77 av: Magi-cat

Mer om miljardsatsningen:

"Ett av målen med satsningen på kvantteknik är att bygga en svensk kvantdator. Detta kommer att ske under ledning av Per Delsing, professor i kvantkomponentfysik, på Chalmers.

– Vårt mål är en fungerande kvantdator med åtminstone hundra kvantbitar. En sådan har långt större beräkningskraft än dagens bästa superdatorer och kan exempelvis utnyttjas för att lösa optimeringsproblem, avancerad maskininlärning, och tunga beräkningar av molekylers egenskaper, säger han i ett pressmeddelande."

Jag förstår att det är spännande.

Anmäl
2017-12-03 21:22 #78 av: JonasDuregard

Angående diskussionen i #8 och framåt, Tegmark (som citerats flitigt i tråden) har ett (skämtsamt) ord för det magi-cat uttrycker: kolchauvinism. 

Så här står det i DN:
"föreställningen att bara människor skulle kunna ha intuition, kreativitet och rent av medvetenhet är något Max Tegmark avfärdar som fördomsfullt. Han kallar det skämtsamt för ”kolchauvinism”, med anspelning på att bara biologiska varelser är byggda av kolatomer."

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2017-12-03 21:27 #79 av: Magi-cat

Kan inte läsa artikeln, tyvärr.

Anmäl
2017-12-11 08:01 #80 av: Magi-cat

#78 Tegmark (som citerats flitigt i tråden)

 Jag hittade tre olika hänvisningar till Tegmark, varav ett citat.  Du kanske förväxlade med Ulf Danielsson, som citeras en del i början?

Kolchauvinism är ett ganska gammalt uttryck, ej myntat av Tegmark, och används inte specifikt för diskussionen om AI.

Jag håller f.ö. helt med om att inte bara människor (eller kolbaserade livsformer) kan ha intuition, kreativitet och rent av medvetenhet. Så det var inte speciellt kontroversiellt. Glad

Jag tycker dock det är olyckligt att i en bred, oviss diskussion som denna generalisera och klistra epitet. Det begränsar diskussionen alldeles i onödan. (Ingen vill ju vara någon "chauvinist". Men många behöver diskutera ämnet AI. Det gäller oss alla.).

Anmäl
2017-12-11 09:35 #81 av: JonasDuregard

#80 "Kolchauvinism är ett ganska gammalt uttryck, ej myntat av Tegmark, och används inte specifikt för diskussionen om AI."

Vad menar du med att det inte används specifikt om AI? Det gör det väl visst? Funderar

Det har använts i en bredare bemärkelse till exempel för att tala om hur vi förväntar oss att liv på andra planeter ser ut (vilket även innefattar AI). Rent allmänt handlar det ju om förutfattade meningar om att liv måste innefatta biokemiska reaktioner, vilket ju passar perfekt för att beskriva ett stort segment av AI-diskussionen. 

Det är inte ett så jättevanligt ord men flertalet användningar jag hittar handlar just om AI, och det är ett perfekt ord för att beskriva föraktet mot AI som livsform. 

"Du kanske förväxlade med Ulf Danielsson, som citeras en del i början?"

Nej, jag använder bara en urvattnad definition av "flitigt" kombinerad med att jag inte direkt räknade antalet hänvisningar (jag kan också ha blandat ihop med någon annan tråd på ämnet). Tänk bort "flitigt" om du tycker det är en överdrift. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2017-12-11 09:43 #82 av: JonasDuregard

#80 "Jag håller f.ö. helt med om att inte bara människor (eller kolbaserade livsformer) kan ha intuition, kreativitet och rent av medvetenhet. Så det var inte speciellt kontroversiellt. Glad"

Så om du diskuterade medvetandet hos en sådan livsform skulle du inte säga saker i stil med "Den är for gods sake en maskin!" eller "Den har inte mejslats fram under eoner av tid, byggts på och förändrats. Den är inte liv." eller rent ut sagt "Men AI är inte människor" ( #7 )...

"Jag tycker dock det är olyckligt att i en bred, oviss diskussion som denna generalisera och klistra epitet."

Chauvinister (inom alla diskussioner) brukar anse det Oskyldig

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2017-12-11 09:44 #83 av: Magi-cat

#81 T.ex. att livsformer öht inte måste vara kolbaserade.

Det är också olyckligt att svepande tala om "föraktet mot AI som livsform" när vi inte definitivt vet vad vi talar om och vilken form det kommer att ta sig.'

Det är väl inget fel med att citera Tegmark (någon enstaka gång) hoppas jag?

Anmäl
2017-12-11 09:59 #84 av: JonasDuregard

#83 "Det är också olyckligt att svepande tala om "föraktet mot AI som livsform" när vi inte definitivt vet vad vi talar om och vilken form det kommer att ta sig.'"

Det är väl ett utmärkt tillfälle att tala om chauvinism, när det finns en massa välcementerade antaganden om något vi egentligen inte vet något om baserat på att det är annorlunda än det vi är vana vid. 

"T.ex. att livsformer öht inte måste vara kolbaserade."

Så ordet används i AI-diskussion, men inte bara där (så med "inte specifikt" menade du "inte enbart"). OK. Varför är det intressant att påpeka? Funderar

"Det är väl inget fel med att citera Tegmark (någon enstaka gång) hoppas jag?"

Jag ser inget som helst fel i det, men jag talar ju i egen sak eftersom jag själv citerat honom i tråden Glad. Citera på.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2017-12-11 10:07 #85 av: Magi-cat

#84 Det är ju för att vi inte vet något om det eller vad det kommer att leda till som det måste diskuteras! Det baseras inte på ovana, utan på eventuella risker, vilket en del sansade bedömare också talat om. 

För den diskussionen finns inget behov av etiketter.

Anmäl
2017-12-11 10:17 #86 av: JonasDuregard

Men det betyder ju inte att alla bedömningar är sansade, och jag kommer fortsätta "sätta etiketter" på sanslösa bedömningar (men försöka undvika att sätta dem på själva bedömarna, jag pratar hellre om kolchauvinism som fenomen än om vem som är kolchauvinist). 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-01-09 13:03 #87 av: Magi-cat

Läste i boken "Hjärnan är stjärnan" av hjärnforskaren Kaja Nordengren.

"Skulle intelligens mätas i datorer eller robotar på samma sätt som hos människor, så skulle man nog lätt kunna skapa någon av dessa med hög IQ och således artificiell intelligens. Men hög IQ i en dator betyder förstås inte att allt det andra som den mänskliga hjärnan bidrar med finns på plats."

"Kanske kommer man att kunna skapa robotar som kommer med tröstande ord när de uppfattar att någon gråter. Men utan förmåga att känna medkänsla kan inte deras rörelsemönster handla om empati. Det är viktigt att poängtera att dataingenjörerna inte kommer att kunna skapa konstgjorda hjärnor som fungerar som vår. För detta vet vi alldeles för lite om den mänskliga hjärnan. Vad de försöker sig på är att skapa program som efterliknar de funktioner vi har förvärvat genom årmiljoner av evolution."

Anmäl
2018-01-10 18:16 #88 av: Magi-cat

Hur tänker de självkörande bilarna?

https://www.forskning.se/2017/12/15/sa-tanker-sjalvkorande-bilar/

Anmäl
2018-01-16 10:14 #89 av: Magi-cat

I Språk-tidningen 2018:01 diskuteras bl.a. förslag om att låta AI - nu när de blir allt smartare -ta konsekvenserna av sina handlingar.

EU lär diskutera vilka lagar som ska gälla för robotar  och Estland utreder hur lagstiftningen ska anpassas till AI och robotar.

Ett förslag lär vara att skapa en ny typ av juridisk person som har rätt att sluta avtal och ha egen inkomst. Den självkörande bilen skulle kunna extraknäcka som taxi, t.ex....

Anmäl
2018-01-19 08:45 #90 av: Magi-cat

Jag har inte hunnit läsa hela Max Tegmarks nya bok "Liv 3.0". (Det är lång kö på bibblan.) Som vanligt skriver Tegmark sympatiskt och lättillgängligt, även för den oinvigda.

I sin epilog skriver han att han är optimistisk inför framtiden, mer nu än förut. Varför optimismen ökat är för att AI-gemenskapen slutit upp för att ta itu med de utmaningar som ligger framför oss.

För några år sedan var AI-säkerhet en marginell fråga. Nu är den mer allmängiltig och diskuteras på stora konferenser. Tidigare kändes det som om det inte fanns något att göra åt en oroande framtid. Nu har läget förbättrats, samarbetet har förbättrats och samtalet har förbättrats.

Vad kan då VI göra för att göra skillnad för livets framtid när vi träder in i AI-åldern? frågar Tegmark. Det första steget är att bli en medveten optimist, säger han. Utveckla positiva visioner om framtiden.

Till slut ett citat från slutet: (som är en bra början)

""Ett av de bästa sätten för dig att förbättra livets framtid är således att förbättra morgondagen. Du har makt att göra det på många sätt. Du kan förstås lägga din röst i valurnan och tala om för politikerna vad du tycker när det gäller utbildning, privatliv, dödliga autonoma vapen, teknologisk arbetslöshet och andra frågor." /.../

"Vi är de som vaktar livets framtid när vi formar AI-åldern. Även om jag grät i London känner jag att det inte finns något oundvikligt med den här framtiden, och jag vet att det är mycket enklare att göra skillnad än vad jag trodde. Vår framtid är inte skriven i sten och bara väntar på att får drabba oss - det är vi som skapar den. Låt oss skapa en inspirerande framtid tillsammans!".

Hjärta

Anmäl
2018-01-19 08:48 #91 av: Magi-cat

"Välkommen till det viktigaste samtalet just nu. 

Artificiell intelligens är inte längre science fiction. Den är ett faktum och den förändrar våra liv och vårt samhälle. Max Tegmark har skrivit ett blivande standardverk om mänsklighetens framtida existens.

Är det troligt att vi kommer att skapa övermänsklig intelligens? Hur bör vårt rättsväsende hantera autonoma system? Hur slår automatiseringen?

Detta är brännande frågor som vi alla behöver adressera: Om vi skapar en övermänsklig intelligens, skulle det då vara möjligt att kontrollera den? Kan vi över huvud taget försäkra oss om att användningen av AI gynnar oss?

Max Tegmark betraktar dessa frågor ur sitt unika perspektiv och väljer bort både teknikskepticism och digital utopi vi behöver en rationell medelväg för att kunna navigera vår spektakulära framtid."

https://www.bokus.com/bok/9789188123985/liv-30-att-vara-manniska-i-den-artificiella-intelligensens-tid/

Anmäl
2018-01-22 11:16 #92 av: setfree

Intressant debatt igår på SVT:

Datavetenskapsdoktorn Anders Sandberg lyfter fram utvecklingen av artificiell intelligens som ett av de allvarligaste hoten mot mänskligheten, vilket blir verklighet när maskinen blir smartare än människan. Filosoferna Dorna Behdadi och Karim Jebari ger sina, mindre alarmistiska perspektiv på frågan om AI:ns farlighet och lyfter istället fram möjligheter och lösningar på kommande utmaningar. En tänkande talkshow med programledaren Daniel Sjölin.

https://www.svtplay.se/video/16696405/idevarlden/idevarlden-sasong-2-avsnitt-2

Anmäl
2018-01-22 11:28 #93 av: Magi-cat

#92 Tack för tips!
Det är nog samma som jag såg igår. Sevärd.
Verkligen många aspekter att tänka på, ta hänsyn till, diskutera och utvärdera. Ganska snart också. Funderar

Anmäl
2018-01-24 21:44 #94 av: Magi-cat

Ett avsnitt i Liv 3.0 bok behandlar den så avgörande frågan om autonoma vapen. 

Tegmark tar här upp flera hisnande exempel på när en människas beslut har haft helt avgörande betydelse för världsfreden, t.ex. under den s.k. Kuba-krisen. Beslut som antagligen gått i annan riktning om maskinen fattat besluten. 

Men hans största oro gäller:

"slutpunkten vid en kapprustning med AI-vapen."

Tillsammans med Stuart Russell och kolleger på Future of Life Institute skrev han ett öppet brev angående autonoma vapen, ett brev där oron kommer till uttryck.

"Vi anser därför att en militärisk AI-kapprustning inte skulle vara välgörande för mänskligheten...utan att skapa nya verktyg för att döda folk,"

Anmäl
2018-01-25 11:04 #95 av: JonasDuregard

#94 "Tegmark tar här upp flera hisnande exempel på när en människas beslut har haft helt avgörande betydelse för världsfreden, t.ex. under den s.k. Kuba-krisen. "

Du inser att 100% av alla krig startats av människor? Där kan man snacka avgörande beslut för världsfreden... 

"Beslut som antagligen gått i annan riktning om maskinen fattat besluten."

Är det Tegmarks eller ditt eget antagande? Vad grundas antagandet på?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-01-28 20:30 #96 av: Magi-cat

#95 Mänskligheten har haft längre tid på sig att starta krig än AI.

Antagandet grundas på att en människa beslöt att inte "trycka på knappen", trots att alla data talade för att det var det rätta, eller att i vissa fall gå emot order. En maskin skulle sannolikt tagit andra beslut.

Å andra sidan har människor också som bekant tagit dåliga beslut. 

Tegmark verkar i alla fall hysa allvarliga farhågor när det gäller autonoma vapensystem. Jag håller med. 

Anmäl
2018-01-28 20:53 #97 av: JonasDuregard

Tur att militären verkar ganska ointresserad av autonoma vapensystem då (gissningsvis för att de själva vill bestämma vem som ska dödas). Det enda det verkar användas till idag är som "fällor" som försvarar fasta anläggningar (men där är de ju inte annorlunda än till exempel minor, som är helt autonoma och dödar utan direkt medgivande från någon människa). 

Däremot är automatiska vapensystem ganska vanligt (där människan bara trycker på knappen och själva dödandet sker automatiskt). Men det är ju inte samma sak riktigt och har inte mycket med AI att göra. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-01-28 21:10 #98 av: Magi-cat

#97 Är det alltså helt överflödigt (kanske rent av oönskat?) att uttala några som helst farhågor gällande framtiden och autonoma vapensystem, är forskarnas vädjan om samsyn i forskningen överspelad och finns det inget behov av något ytterligare att anföra i frågan?

Anmäl
2018-01-28 22:04 #99 av: JonasDuregard

Nej, det är inte överflödigt. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-01-29 08:50 #100 av: Magi-cat

#99 Varför inte? Glad

Anmäl
2018-01-29 10:42 #101 av: setfree

Självklart kommer beslutsfattande att göras av algoritmer i större omfattning i framtiden. Ett exempel är utbetalning av pengar i socialtjänsten  där man har provat att använda en algoritm. Självkörande bilar kommer naturligtvis att bidra till färre olyckor i trafiken. Jag kommer absolut att känna mig mer säker när en dator kör, än en människa. (inte riktigt än dock) Polisens alkotestning kan tas bort och de kan syssla med annat.

Jag är helt övertygad om att man kommer att använda algoritmer och datorer för att fatta beslut inom krigsmakten. Datorer blir inte trötta och de är överlägsna när det gäller att hitta mönster där det mänskliga ögat inte klarar det. Granskning av flygfoton är ett exempel, där datorer är bättre än erfarna människor. Man kan också tänka sig att datorer är bättre på att skilja på civila och icke civila hot vilket borde vara bra. Inte heller kommer robotar att våldta oskyldiga civila. Inte får de  PTSD heller.

Algoritmer och autonoma system kommer att ersätta oss människor, vi kan inte stoppa detta. Men det betyder kanske att vi kan traska runt i skogen och umgås med varandra när vi får tid över för annat.

Jag tror inte för ett ögonblick att AI kommer att eliminera den mänskliga rasen, bara för att vi ersätts för olika arbetsuppgifter.

Vem litar du mest på en dator eller en människa?

Anmäl
2018-01-30 08:15 #102 av: Magi-cat

Det handlar egentligen om flera saker här. Självklart kommer "algoritmer" att få allt större betydelse i den framtid som är runt hörnet. Det är ju en utveckling som pågått hela tiden och det är väl ingen som motsäger det. Det är inte där farhågorna landar.

Om vi lyckas skapa den där goda framtiden Tegmark målar upp är inte heller AI någon fara eller något problem, bara en tillgång. (T.o.m. en livsform med rättigheter.)

Lyckas vi inte, och det helst igår, behöver man ingen större fantasi för att tänka sig en del mindre behagliga scenarion, vad gäller autonoma vapensystem t.ex., i händerna på totalitära regimer eller varför inte en del Trumpaktiga figurer.

Att AI ersätter människan i olika arbetsuppgifter ser jag som ett mindre problem, inte en farhåga. I många fall en fördel.

#101 Vem litar du mest på en dator eller en människa?

Det beror alldeles på.

(Människor har känslor. Jag gillar känslor ganska mycket. Glad Och människor. Och andra djur. )

Anmäl
2018-01-30 08:48 #103 av: setfree

#102 Jag förstår att jag hamnade lite utanför andemeningen i tråden. När jag lyssnade på debatten i det program jag hänvisade till blev jag lite förvånad över att de ändå har farhågor angående AI. De beskrev hur en enkel robot började undvika kameran för att den "lärde sig" att den blev övervakad och började agera mer självständigt. Enkla system börjar att ta beslut som man inte hade kunnat förutse.

Att vi ska kunna förutse hur autonoma självlärande system ska agera är mycket osannolikt.

Att AI skulle kunna få självmedvetande är en mycket intressant tanke. Jag tror att det ligger oerhört långt bort. Inte heller att det skulle kunna uppleva genuina känslor. Däremot så tror jag att programmerade känsloyttranden i kommer att kunna bli så verkliga att de kan ersätta verkliga människor. (Ni har väl sett Bladerunner)

Vi älskar vår Rexkatt, men jag tror inte han älskar oss om jag ska vara ärlig. Jag tror han tycker om att bli ompysslad och få mat av oss. Men jag älskar honom ändå.

Om en robot kan operera mig bättre en kirurgen, så väljer jag roboten alla gånger.

Är datorer bättre än piloter på att kontrollera flygplan? ja det tror jag.

Människor har känslor. Jag gillar känslor ganska mycket

Självmord kan ha legat bakom torsdagens krasch i skyskrapan i Milano. Den omkomne pilotens son säger att hans far hade ekonomiska problem.
"Jag är säker på att min far begick självmord, säger sonen till tidningen La Repubblica.

Alla känslor är inte att lita på. Men jag gillar människor som du, och djur.Glad

Anmäl
2018-03-25 09:34 #104 av: Magi-cat

Självkörande bil krockade. "Än går det inte att lita blint på tekniken", står det i artikeln. (källa)
Kan/ska vi någonsin lita blint på tekniken?
(Nej, anser jag.)

Och så var det den tragiska olyckan när en bil i självkörningsläge körde på en kvinna som omkom. Gråter (källa)

Vem bär ansvaret? Det kommer att utredas, enligt uppgift.

Nu kommer det att invändas att även människor orsakar olyckor (och  vissa kör som vettvillingar), men är det en ursäkt för att låta bilar göra det själva?
Och så frågan om ansvaret. Blir bilarna ställda till svars och vad blir i så fall straffet? Nörd

Anmäl
2018-03-25 15:21 #105 av: JonasDuregard

#104 "Nu kommer det att invändas att även människor orsakar olyckor (och  vissa kör som vettvillingar), men är det en ursäkt för att låta bilar göra det själva?"

Nej, så klart inte. Men håller du med om att det är bättre med färre olyckor orsakade av självkörande bilar än många olyckor orsakade av människor?

Helst skulle man så klart inte ha några olyckor alls - men ju färre desto bättre, eller?

Det är inte heller så att det bara är människor som "kör som vettvillingar" som orsakar olyckor. Det kan hända vem som helst. 

"Vem bär ansvaret? Det kommer att utredas, enligt uppgift."

Det är alltid svårt att svara på. Här finns ju förutom bilägaren/tillverkaren personen som satt bakom ratten och var tydligt okoncentrerad på vägen, och offret som olovligen gick över en trafikerad väg, och ansvaret är ju fördelat mellan alla de parterna. 

Men det här är ju inte nya frågor att ta ställning till direkt. Om bromsarna inte fungerar på en bil och det orsakar en olycka vems fel är det? Om föraren kunde undvikit det genom att dra i handbromsen men inte gjorde det? Om fotgängaren gick ut i vägen utan uppsikt?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-03-27 09:10 #106 av: Magi-cat

#105  Men håller du med om att det är bättre med färre olyckor orsakade av självkörande bilar än många olyckor orsakade av människor?

Ledande fråga...
Vi vet ju inte ens om det blir färre olyckor med skb! Tanken är ju den, men hur verkligheten kommer att se ut, vet vi inte.
(Och för den som än drabbas är det naturligtvis egalt om det är en skb eller människa som orsakat katastrofen.)

Det kan bli fel på skb, precis som det kan bli fel på all teknik och all teknik kan hackas och/eller användas i syften vi aldrig någonsin vid starten har haft en tanke på. (Tänker på senaste tidens avslöjanden.)

I alla fall är det en lysande affärsidé. I tider när vi hellre borde satsa alla krafter på att ersätta bilen, av miljöskäl om inte annat, kommer alla att kräva en skb, och business is still alive.

Men det här är ju inte nya frågor att ta ställning till direkt.

Det du tar upp är frågor som alltid handhas av rättsväsendet. Om AI och skb har en egen intelligens och får/kan fatta egna beslut kommer frågan i en annan dager.

Antingen kan frågan om skuld bli tämligen meningslös (en AI eller skb bryr sig inte om en reprimand eller avställning, tror jag) eller så får vi helt tänka om. Eller om de går det åt oss...

Anmäl
2018-03-27 16:09 #107 av: JonasDuregard

#106 "Vi vet ju inte ens om det blir färre olyckor med skb! "

Vi vet att nästan alla olyckor idag orsakas av den mänskliga faktorn. Att självkörande bilar i längden leder till färre olyckor betraktar jag som uppenbart, och experimentell data stämmer med det. 

Att människor kommer vara bättre än datorer på att köra bilar någon längre tid är ungefär lika sannolikt som att vi slår dem i huvudräkning...

Att vägra inse det kommer kosta liv. 

"I alla fall är det en lysande affärsidé."

Vilket nonsensargument Vilar huvudet i handen. Vi är emot det för att någon kan tjäna pengar på det. Strunta i om det kommer rädda liv eller inte. 

Din tendens att prioritera allmän teknikfientlighet över säkerhet är upprörande, och dina svepskäl är extremt långsökta. 

Tänk så här annars: Självkörande fordon kommer möjliggöra gratis/billig kollektivtrafik (eftersom kostnader för förare elimineras). Varför är du mot gratis kollektivtrafik?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-04-16 21:41 #108 av: Magi-cat

"Många satsar på artificiell intelligens för att få snabba vinster."

Digitaliseringsexperten som citeras i artikeln (länk nedan) menar att etiken inom AI måste diskuteras mycket mer än vad som görs. Annars riskerar utvecklingen att gå snett.

Särskilt när vinsterna lockar kan möjligheterna missbrukas och tar Facebook som exempel.

"Man kan jämföra det med att utföra ett experiment utan att bry sig om att titta på resultatet, menar hon.

– Vi behöver ha organisationer och myndigheter som arbetar proaktivt med att skapa transparens och förutsägbarhet i algoritmerna som används."

Ett förslag är att AI körs genom etiska kontrollfilter, som försedd med en sorts nödbroms.

(Max Tegmark tar också upp och diskuterar den frågan i Liv 3.0, men den frågan är inte alldeles lätt att lösa för all framtid.)

EU jobbar med frågan: "EU-kommissionen håller som bäst på och funderar på artificiell intelligens, och etiken står också starkt i fokus i det arbetet."

"Anna Felländer säger avslutningsvis att AI har potential till att förstärka och utöka den mänskliga intelligensen, och minska på fördomar och partiskhet.

– Jag tycker att det viktigaste är att vi landar i att människan kan styra den artificiella intelligensen. AI får inte bli som en svart låda som ingen förstår sig på och som ingen heller kan kontrollera."

https://svenska.yle.fi/artikel/2018/04/16/manga-satsar-pa-artificiell-intelligens-for-att-fa-snabba-vinster-men-algoritmer


Anmäl
2018-05-04 09:03 #109 av: Magi-cat

#107 Din tendens att prioritera allmän teknikfientlighet över säkerhet är upprörande, och dina svepskäl är extremt långsökta

Du läser in något som inte står och något jag inte står för.

Det är argumentet om "allmän teknikfientlighet" som är nonsens. Många, många världen över för dessa nödvändiga diskussioner just nu, utan att det har ett spån med teknikfientlighet att göra. Förändringar, stora sådana, javisst, men vi måste diskutera, försöka förutse skeenden och vara medvetna om risker. Allt annat vore bara oansvarigt.

"Svepskäl" faller under samma kategori som "teknikfientlighet".

Varför är du mot gratis kollektivtrafik?

På tal om retoriska frågor, eller vad? Glad

.

"Om vi lämnar ifrån oss kontrollen till en superintelligens innan vi noga har besvarat de här frågorna, kommer dess beslut näppeligen att inbegripa oss. Det är dags att väcka liv i de klassiska filosofi- och etikdiskussionerna, för samtalet brådskar!"

(Max Tegmark: Liv 3.0, sid 372)

I ett tidigare kapitel för Tegmark ett intressant resonemang om förlorade jobb i och med att AI tar över jobben och kommer där in på hur det möjliga ökande välståndet skulle kunna fördelas. Kanske kan vi alla ta del av frukterna från AI:s verksamhet men lönejobba mindre?
Det vore naturligtvis ett lockande perspektiv, att alla får det bättre och tunga och farliga jobb elimineras. (Så länge AI vill uträtta dem åt oss.)
Eller samlas ännu mer tillgångar i händerna på några få?

Riskerna med AI-vapen är naturligtvis också ett reellt hot.
Vem är det som styr?

Anmäl
2018-05-04 10:08 #110 av: JonasDuregard

#109 "Många, många världen över för dessa nödvändiga diskussioner just nu, utan att det har ett spån med teknikfientlighet att göra."

Jag vet. Det jag önskar är att du skulle ansluta dig till den skaran istället för att stapla teknikfientliga floskler på varandra. 

"Förändringar, stora sådana, javisst, men vi måste diskutera, försöka förutse skeenden och vara medvetna om risker."

Tack för att du påpekar en massa helt uppenbara saker som jag redan känner till och håller med omTummen upp.

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-05-04 10:12 #111 av: JonasDuregard

#109 "Eller samlas ännu mer tillgångar i händerna på några få?"

Det tror jag är det verkliga dilemmat med AI. Men många som funderar runt AI och etik tänker snarare på maskiner som gör uppror och förslavar mänskligheten, vilket är mer orealistiskt. 

Även dilemmat runt hur man ska programmera självkörande bilar att agera i valsituationer och vem som bär ansvaret tror jag är ett stickspår från det, som är mer intressant som ett filosofiskt tidsfördriv i stil med "Spårvagnsproblemet" än som en praktisk fråga. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-05-04 20:14 #112 av: Magi-cat

#110 Det jag önskar är att du skulle ansluta dig till den skaran istället för att stapla teknikfientliga floskler på varandra

Somnar

Tack för att du påpekar en massa helt uppenbara saker som jag redan känner till och håller med omTummen upp

Vilka problem/risker anser du att det är viktigast att reda ut snarast?

#111 Tegmark tar upp just Spårvagnsproblemet, jag har för mig att det är i samma stycke/kapitel som citatet ovan.

Anmäl
2018-05-09 15:45 #113 av: Magi-cat

Ett  variabelt och automatiserat hastighetssystem i uppkopplade fordon ligger nära i tiden.

En av de frågor som återstår att hantera är vad som händer när systemet inte fungerar.

"Inom en inte alltför avlägsen framtid kommer uppkopplade fordon att kunna anpassa sig efter variabla hastigheter, något som ökar både framkomligheten och trafiksäkerheten." 
En forskare vid LiU har konstruerat ett sådant system i sin doktorsavhandling.

https://liu.se/nyhet/uppkopplade-fordon-ger-effektivare-trafik?&utm_source=LiU-nytt&utm_medium=email&utm_campaign=vecka-19-2018

Anmäl
2018-05-09 20:49 #114 av: JonasDuregard

#113 "En av de frågor som återstår att hantera är vad som händer när systemet inte fungerar."

Vad menar du? På vilket sätt återstår den frågan att hantera?

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-05-09 21:30 #115 av: Magi-cat

ur länken, min markering i texten:

" En annan fråga som måste hanteras är vad som händer om systemet inte fungerar.

– Internationella standarder har de arbetat med så länge jag har forskat inom området, men biltillverkare, privatpersoner och väghållare vill ofta inte släppa sina data helt fritt och ansvarsfrågorna är inte riktigt utredda, säger hon."

Anmäl
2018-05-10 13:02 #116 av: Farwuq

Man borde kunna koppla ur systemet i fordonet och köra helt manuellt, som man gjorde på den tiden jag körde bil. 

Den vilda glädje jag kände när jag var sexton och hittade en oöppnad flaska brännvin i snön vid fotbollsplan, är tyvärr utom räckhåll idag.

V:  för Astrologi & Psykologi M:  för Astronomi, Beroenden, Existens, Filosofi & Finland


Anmäl
2018-05-10 20:50 #117 av: JonasDuregard

#116 Det borde väl gå. Och montera ur säkerhetsbälten och ABS-bromsar och andra moderna påfund också om man känner sig nostalgisk. 

Men det är nog farligt att inbilla sig att man gör vägarna säkrare då. Den osäkraste komponenten i en bil är definitivt den mänskliga föraren. Nästan alla olyckor orsakas av fel på föraren snarare än fel på bilen. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-05-12 08:04 #118 av: Magi-cat

#114 Hur så? Läste du en massa "teknikfientliga floskler" staplade mellan raderna? Lipar Glad

Anmäl
2018-05-12 10:15 #119 av: JonasDuregard

Nej, jag undrade vad du menade bara. 

Medarbetare på Skepticism, Vetenskap och Andlig Skepticism

Anmäl
2018-09-20 20:20 #120 av: Magi-cat

2000 europeiska forskare i upprop för AI. (min markering i texten)

"– Det vi vill är att få till en bred satsning på AI för alla i Europa, inte en avgränsad satsning som gynnar några få stora företag. Europa har kapacitet att täcka hela AI-området och en möjlighet att verkligen sätta människan i centrum för utvecklingen, säger Fredrik Heintz, som förutom att vara forskare i AI vid LiU även är föreståndare för Wallenberg AI Autonomous Systems and Software Program, WASP:s forskarskola och medlem i EU-kommissionens expertgrupp inom AI, för att bara nämna några av hans olika roller."

"– Vi måste också bli tydligare för att enskilda människor ska förstå fördelarna, så att AI uppfattas som något positivt, säger han."

(Det låter ju bra med människan i centrum. Måste folk ändå övertygas? Varför då?)

https://liu.se/nyhet/2000-forskare-i-upprop-for-ai?&utm_source=LiU-nytt&utm_medium=email&utm_campaign=vecka-38-2018

Ett LiU-projekt visar hur människor och industrirobotar kan samarbeta.

https://liu.se/nyhet/tomm?&utm_source=LiU-nytt&utm_medium=email&utm_campaign=vecka-38-2018

Anmäl
2018-09-21 04:01 #121 av: Pyttelite

"(Det låter ju bra med människan i centrum. Måste folk ändå övertygas? Varför då?)"

För att artikeln berättar att AI kan utvecklas inom den offentliga sektorn till skillnad från tidigare där AI används inom produktion av materiella ting. Du missförstå syftet med uttalandet.

Man motionerar inte för att bli yngre utan för att bli äldre.

Anmäl
2018-09-21 07:18 #122 av: Magi-cat

#121 Nej. Jag missförstår inte. Jag försökte utveckla påståendet.

Anmäl

Det finns en till kommentar till den här diskussionen. Den är bara synlig för medlemmar på iFokus. För att läsa kommentaren, logga in eller registrera dig på iFokus.