Singularitet og moral

Diskusjon om liberalistisk ideologi, slik som klassisk liberalisme og libertarianisme.

Singularitet og moral

Innlegg carl 10 Nov 2011, 12:29

Ray Kurzweil er optimistisk mht. tidspunktet der han mener singularitet vil inntreffe. I dokumentaren Transcendent Man bygges høye forventninger til hvilke uforutsigbare utviklinger menneskeheten vil gjennomgå med hjelp av kunstig intelligens, og det legges vekt på at de fleste paradigmer vil bli byttet ut med noe vi ikke evner å forstå fordi kunstig intelligens vil (dersom teorien stemmer) være såpass overlegen mennesker. Hugo De Garis kommer med en morsom spådom om "den siste krigen" som kjempes mellom de menneskene som vil gi frie tøyler til teknologisk utvikling og de som mener det er for risikabelt å la AI gå av seg selv i frykt for at det ukjente kan utslette menneskeheten.

Dersom et liberalistisk samfunn kommer til dette punktet, vil DLF da se på AI som en potensiell trussel (i tråd med den pro-aktive utenrikspolitikken som er foreslått i partiprogrammet for å beskytte individer mot overgrep) og bekjempe en slik utvikling?
carl
 
Innlegg: 109
Registrert: 02 Des 2010, 16:02

Re: Singularitet og moral

Innlegg André Risnes 10 Nov 2011, 13:04

I motsetning til De Garis tror jeg aldri vi vil komme til et punkt der det er "oss" mot "AI". Intelligenseksplosjonen som ligger bak "The Singularity" vil heller drives av mennesker som tar i bruk bedre og bedre verktøy for å øke sin egen intelligens og arbeidskapasitet.

Det kan tenkes at kommer til et punkt der noen mennesker har endret sitt sinn i så stor grad at de er fundamentalt forskjellige fra resten, og trenger andre rettigheter (f. eks. uploads), men jeg tror det blir for spekulativt for et partiprogram :)
A still more glorious dawn awaits: not a sunrise, but a galaxy rise - a morning filled with four hundred billion suns.
André Risnes
 
Innlegg: 258
Registrert: 27 Mai 2006, 12:33

Re: Singularitet og moral

Innlegg Martin Johansen 06 Jan 2012, 11:16

carl skrev: [...] kunstig intelligens [...] paradigmer vil bli byttet ut [...]


Jeg holder på å ta en PhD i informatikk ved Universitetet i Oslo og har i den anledning lest artiklene som starter og argumenterer for at kunstig intelligens er mulig (skrevet av Turing). Det er også disse artiklene som siteres i bøker om kunstig intelligens. Disse argumentene er hovedsaklig basert på en ren hypotese (Church-Turing thesis) så det er ingen grunn til at et parti som DLF skal vurdere trusselen fra noe som ikke en gang er påvist som en mulighet.

Når det gjelder Kuhn's paradigme-teori så er denne behandlet og avvist i den objektiviske literaturen. Les feks The logical leap av David Harriman.
Martin Johansen
 
Innlegg: 310
Registrert: 28 Des 2003, 01:52
Bosted: Oslo

Re: Singularitet og moral

Innlegg simon 06 Jan 2012, 11:40

I forrige årtusen da jeg studerte data og sånt, var AI veldig poppis. det var tre skoler som gjaldt; den algoritmiske, brute force og pattern matching (nevrale nett).
Det "myldret" av programvare som utga seg for å være AI, deriblant Turbo Prolog. Og så ble det borte. Dvs begrepet AI ble borte, mens teknikkene levde videre i mer nøkterne former. Pattern matching sluttet å kalles AI, og er i dga en meget praktisk og anvendelig teknikk, som f.eks etteretninger av ymse slag, og kredittkortselskap/banker bruker for å analysere adferd som avviker fra forventet.

Men det som slo meg allerede da, lenge før jeg interesserte meg for epistemologi, var den totale mangel på teorier om hva bevissthet var. Det var ingen utarbeidede teorier om tenking bak disse satsingene, men en cargo cult av imitasjon av kjente prosesser. Regelbaserte systemer etterlignet hvordan vi håndterer noe vi er opplært i, brute force etterlignet prøve-og-særlig-feil metoden, og nevrale nettverk etterlignet fysiske prosesser i hjernen. Alle sammen nyttige og brukbare, men rent ut "banale" teknikker. Bak hypen var det ingen som egentlig hevdet å ha laget noen form for intelligens, bare roboter. Dvs enkelte hevdet at avanserte teknikker _var_ intelligens, men det var ingen halvveis holdbar teori noen steder.
simon
 
Innlegg: 1750
Registrert: 08 Sep 2003, 14:11
Bosted: Oslo

Re: Singularitet og moral

Innlegg André Risnes 06 Jan 2012, 12:39

Det finnes noen grupper som arbeider med såkalt Strong AI basert på egne modeller av hvordan kognisjon fungerer. To eksempel er Ben Goertzel's firma og Eliezer Yudkowsky's Singularity Institute. Ingen av dem er dumme, men de har veldig små ressurser i forhold til det som i dag brukes på "reverse engineering" av menneskehjernen. Jeg tror vi vil få vite mye mer om hvordan en intelligent prosess kan skapes fra sistnevnte.
A still more glorious dawn awaits: not a sunrise, but a galaxy rise - a morning filled with four hundred billion suns.
André Risnes
 
Innlegg: 258
Registrert: 27 Mai 2006, 12:33

Re: Singularitet og moral

Innlegg simon 06 Jan 2012, 12:46

André Risnes skrev: Eliezer Yudkowsky's Singularity Institute..

Det så interessant ut. Mye å lese der, ser det ut for.
simon
 
Innlegg: 1750
Registrert: 08 Sep 2003, 14:11
Bosted: Oslo

Re: Singularitet og moral

Innlegg André Risnes 06 Jan 2012, 13:05

Jeg tror ikke du kommer til å være enig i Yudkowsky's etikk eller epistemologi ;)

Men han er en gluping (autodidakt på geni-nivå etter min mening), en flink forfatter, og temaene han tar opp er veldig interessante.
A still more glorious dawn awaits: not a sunrise, but a galaxy rise - a morning filled with four hundred billion suns.
André Risnes
 
Innlegg: 258
Registrert: 27 Mai 2006, 12:33


Gå til Liberalistisk ideologi

Hvem er i forumet

Brukere som leser i dette forumet: Ingen registrerte brukere og 2 gjester

cron