interessante
interessante
Una macchina che si sveglia e afferma "Io sono"? Argomento affascinante, anche se temo che il risultato sarebbe molto simile a quello delle bombe intelligenti di Dark Star. Mai parlare di fenomenologia con un dispositivo il cui unico scopo è annientare pianeti.
Del resto nemmeno sappiamo cosa sia di preciso la coscienza.
Se ne scorge la scintilla in specie diverse dalla nostra, ma ancora non sappiamo definirla.
"Penso dunque sono" è forse il punto più vicino alla risposta, il che è ironico visto che si tratta di un discorso circolare e quindi un errore logico.
Non stupirebbe, la nostra mente è il risultato di un processo evolutivo, e l'evoluzione è un processo che tende alla replicazione, non alla verità.
Del resto la coscienza è un prodotto dell'attività del nostro cervello, che come un fiume non è mai lo stesso in ogni momento.
Illusoria quindi la permanenza dell'individuo, così come è arbitrario lo stabilirne i confini.
In fondo dove sta il confine tra una persona e un'altra, o tra una persona e la stella o la galassia più vicine o lontane, o tra di essa e quella dell'anno passato. Le distanze sono reali, ma i confini sono arbitrari.
Quindi finché continueranno a perfezionare sempre di più i cervelli elettronici una IA non nascerà mai, perché una mente che funziona bene non ha coscienza di esistere.
Serve una forzatura, un processo circolare.
Solo con l'introduzione di un grossolano errore nei processi cognitivi può nascere l'illusione di sé.
Del resto nemmeno sappiamo cosa sia di preciso la coscienza.
Se ne scorge la scintilla in specie diverse dalla nostra, ma ancora non sappiamo definirla.
"Penso dunque sono" è forse il punto più vicino alla risposta, il che è ironico visto che si tratta di un discorso circolare e quindi un errore logico.
Non stupirebbe, la nostra mente è il risultato di un processo evolutivo, e l'evoluzione è un processo che tende alla replicazione, non alla verità.
Del resto la coscienza è un prodotto dell'attività del nostro cervello, che come un fiume non è mai lo stesso in ogni momento.
Illusoria quindi la permanenza dell'individuo, così come è arbitrario lo stabilirne i confini.
In fondo dove sta il confine tra una persona e un'altra, o tra una persona e la stella o la galassia più vicine o lontane, o tra di essa e quella dell'anno passato. Le distanze sono reali, ma i confini sono arbitrari.
Quindi finché continueranno a perfezionare sempre di più i cervelli elettronici una IA non nascerà mai, perché una mente che funziona bene non ha coscienza di esistere.
Serve una forzatura, un processo circolare.
Solo con l'introduzione di un grossolano errore nei processi cognitivi può nascere l'illusione di sé.
come darti torto suck, Hawking e Musk che hanno rubato l'idea di 30 anni prima ad Asimov sono solo degli stagnolari che cercano dio, e non dei raffinati tecnologi che parlano di etica dello strumento.
@Fallout: tra l'altro, anche volendo prescindere dalla metafisica e dalla riflessione esistenziale, il termine coscienza è ambiguo perché denota cose diverse, a seconda del registro e dell'oggetto del discorso.
Coscienza come stato fisiologico diverso dagli stati (sempre fisiologici, o patologici) di incoscienza; coscienza come capacità di interrogarsi sulla propria esistenza; oppure come capacità di intendere il senso delle proprie azioni (sociale, giuridico, etc.).
Di fatto anche la presenza a noi stessi, la coscienza come media pesata di tutte queste cose, non è costante: se siamo assorbiti in un'attività ripetitiva, ad un certo punto diveniamo semplici macchine biologiche, assorte nel compito. Solo latamente ci ricordiamo (e pensiamo) di esistere.
C'è stato anche chi partendo da questo punto, ha proposto una tesi balzana ma comunque dal valore provocatorio: e cioè che l'umanità, fino a tempi relativamente recenti, non fosse dotata di un'autentica coscienza o consapevolezza in merito alla propria esistenza (la mente bicamerale).
L'autocoscienza in senso proprio nascerebbe come un fatto culturale, determinato anche da stravolgimenti naturali e sociali, che viene poi tramandato in maniera più o meno efficace.
L'idea, come dicevo, è sostanzialmente antiscientifica e più una suggestione che altro. Però il problema della variabilità individuale di ciò che chiamiamo coscienza (in considerazione di deficit cognitivi, fatti sociali etc.) esiste. Non tutte le coscienze sono uguali, c'è da considerare anche il ruolo complesso che il linguaggio, come fatto simbolico, svolge in questo processo (oltre che le ridondanze della macchina cervello).
Il linguaggio è una creazione artificiale. Storicamente, è stato possibile studiare casi di uomini senza linguaggio (il caso del "ragazzo selvaggio" studiato da Itard), con risultati che poi sono analoghi a quelli che riguardano casi di deficit cognitivi (che da ultimo sono anche deficit di coscienza, secondo l'accezione composita che gli diamo nella vita di tutti i giorni) come quelli più gravi di sordomutismo o di situazioni simili.
Coscienza come stato fisiologico diverso dagli stati (sempre fisiologici, o patologici) di incoscienza; coscienza come capacità di interrogarsi sulla propria esistenza; oppure come capacità di intendere il senso delle proprie azioni (sociale, giuridico, etc.).
Di fatto anche la presenza a noi stessi, la coscienza come media pesata di tutte queste cose, non è costante: se siamo assorbiti in un'attività ripetitiva, ad un certo punto diveniamo semplici macchine biologiche, assorte nel compito. Solo latamente ci ricordiamo (e pensiamo) di esistere.
C'è stato anche chi partendo da questo punto, ha proposto una tesi balzana ma comunque dal valore provocatorio: e cioè che l'umanità, fino a tempi relativamente recenti, non fosse dotata di un'autentica coscienza o consapevolezza in merito alla propria esistenza (la mente bicamerale).
L'autocoscienza in senso proprio nascerebbe come un fatto culturale, determinato anche da stravolgimenti naturali e sociali, che viene poi tramandato in maniera più o meno efficace.
L'idea, come dicevo, è sostanzialmente antiscientifica e più una suggestione che altro. Però il problema della variabilità individuale di ciò che chiamiamo coscienza (in considerazione di deficit cognitivi, fatti sociali etc.) esiste. Non tutte le coscienze sono uguali, c'è da considerare anche il ruolo complesso che il linguaggio, come fatto simbolico, svolge in questo processo (oltre che le ridondanze della macchina cervello).
Il linguaggio è una creazione artificiale. Storicamente, è stato possibile studiare casi di uomini senza linguaggio (il caso del "ragazzo selvaggio" studiato da Itard), con risultati che poi sono analoghi a quelli che riguardano casi di deficit cognitivi (che da ultimo sono anche deficit di coscienza, secondo l'accezione composita che gli diamo nella vita di tutti i giorni) come quelli più gravi di sordomutismo o di situazioni simili.
Suck dice un'altra cosa. E cioè che il problema esistenziale dell'uomo non lo risolvi (oggi e neppure domani) stando a fantasticare sulle ia o sul teletrasporto, visto che le domande che le ia e il teletrasporto veicolano sono le medesime che l'uomo si è posto (o meglio alcuni uomini si sono posti) perlomeno fin da quando si è scoperto il linguaggio.
Traslate nel registro fantastico, quelle domande divengono anche - o rischiano di divenire - l'oggetto di riflessioni banali e un po' risibili: il chiedersi "chi sarei" se vengo teletrasportato, e non chiedersi "cosa è io" (attenzione, non cosa sono io) oggi.
poi diciamocelo anche chiaramente: Hawking sarà un genio della fisica, dell'astrofisica, della matematica etc. non necessariamente è in grado di parlare (meglio di altri) di temi esistenziali. Pur riconoscendo che la sua condizione deve averlo portato a sviluppare sensibilità anche per quegli interrogativi. Ma tali temi non li ha mai esplicitati, quindi non è un parlante del relativo discorso.
Se poi vuoi credere che il saggio/filosofo fattosi tecnico (quindi, lo scienziato) sia colui che comprende e dovrebbe governare tutti i discorsi - sulla società, il costume, l'etica - il tema è un altro, ed è altrettanto non condivisibile.
"Let's face it . The singularity is a religious rather than a scientific vision. The science-fiction writer Ken MacLeod has dubbed it ”the rapture for nerds,” an allusion to the end-time, when Jesus whisks the faithful to heaven and leaves us sinners behind.
Such yearning for transcendence, whether spiritual or technological, is all too understandable. Both as individuals and as a species, we face deadly serious problems, including terrorism, nuclear proliferation, overpopulation, poverty, famine, environmental degradation, climate change, resource depletion, and AIDS. Engineers and scientists should be helping us face the world's problems and find solutions to them, rather than indulging in escapist, pseudoscientific fantasies like the singularity."
http://spectrum.ieee.org/biomedical/imaging/the-consciousness-conundrum/0
Aggiungo, tutte le menate transumaniste che continuano a diffondersi sono semplicemente le nuove frontiere del capitalismo spinto e decadente che ci sta portando alla rovina. Non farà altro che marcare ancora di più le differenze sociali, con una cyber-elite tecnologicamente migliorata e i poveracci che faranno la fila per comprarsi il nuovo iBrain da inserirsi nella testa.
Such yearning for transcendence, whether spiritual or technological, is all too understandable. Both as individuals and as a species, we face deadly serious problems, including terrorism, nuclear proliferation, overpopulation, poverty, famine, environmental degradation, climate change, resource depletion, and AIDS. Engineers and scientists should be helping us face the world's problems and find solutions to them, rather than indulging in escapist, pseudoscientific fantasies like the singularity."
http://spectrum.ieee.org/biomedical/imaging/the-consciousness-conundrum/0
Aggiungo, tutte le menate transumaniste che continuano a diffondersi sono semplicemente le nuove frontiere del capitalismo spinto e decadente che ci sta portando alla rovina. Non farà altro che marcare ancora di più le differenze sociali, con una cyber-elite tecnologicamente migliorata e i poveracci che faranno la fila per comprarsi il nuovo iBrain da inserirsi nella testa.
esatto, il termine "escapismo" è perfetto per descrivere che cosa c'è al fondo di questa fascinazione - per molti versi comprensibile, se non addirittura condivisibile - per il transumanesimo.
Oltre un po' di sano, vecchio millenarismo, con i salvati (che vivranno l'apoteosi) e i sommersi
Oltre un po' di sano, vecchio millenarismo, con i salvati (che vivranno l'apoteosi) e i sommersi
Comunque oltre al teletrasporto e all'IA, ci sono un sacco di altre cose a cui prestare attenzione.
Pensate solo all'impatto che potrebbe avere riuscire a riprodurre la fusione nucleare su scala industriale.
O stando alle ultime scoperte il sangue giovane mantiene il corpo giovane, chissà quanti miliardari staranno cercando di diventare novelli Elizabeth Bathory
Tra i tanti fanta-scenari possibili quello della mente collettiva planetaria mi affascina più di tutti.
Date pure la colpa a quel capolavoro di Alpha Centauri.
Nel momento in cui saremo in grado di interfacciare la mente con un computer, saremo ad un passo dall'interfacciare più menti.
Si tratterebbe di un livello di comunicazione, condivisione... comunione mai visto. Telepatia, in pratica. Se non qualcosa di più.
Se X cervelli lavorano assieme diventa un cluster umano, l'individuo potrebbe proprio sparire salvo rimanere un entità fisica, una "cellula" di un organismo più grande.
Dall'altra parte ci sono scenari non proprio utopici dell'interfaccia uomo-macchina dove i cervelli umani sono solo altra potenza computazionale da sfruttare...
Pensate solo all'impatto che potrebbe avere riuscire a riprodurre la fusione nucleare su scala industriale.
O stando alle ultime scoperte il sangue giovane mantiene il corpo giovane, chissà quanti miliardari staranno cercando di diventare novelli Elizabeth Bathory
Tra i tanti fanta-scenari possibili quello della mente collettiva planetaria mi affascina più di tutti.
Date pure la colpa a quel capolavoro di Alpha Centauri.
Nel momento in cui saremo in grado di interfacciare la mente con un computer, saremo ad un passo dall'interfacciare più menti.
Si tratterebbe di un livello di comunicazione, condivisione... comunione mai visto. Telepatia, in pratica. Se non qualcosa di più.
Se X cervelli lavorano assieme diventa un cluster umano, l'individuo potrebbe proprio sparire salvo rimanere un entità fisica, una "cellula" di un organismo più grande.
Dall'altra parte ci sono scenari non proprio utopici dell'interfaccia uomo-macchina dove i cervelli umani sono solo altra potenza computazionale da sfruttare...
E da (mal)sano "escapista" mi diverto a leggere tutte ste teorie
anche io (forse ancora più di te), ma poi a un certo punto ammetto a me stesso - come sicuramente fai anche tu - che sto solo sperando di imbattermi nel fantasma che mi salva e/o di trovare la maglia rotta nella rete (cit.)
Essendomi disintossicato dal cattolicesimo ed essendo allergico al grillismo, direi che ho smesso di credere di avere la verità in tasca da un pezzo.
Siamo troppo stupidi per prevedere il futuro con accuratezza. Il che forse rende leggere certe cose così piacevole.
Personalmente penso che tutti quelli che hanno scritto fantascienza (almeno quella di un certo tipo), siano una sorta di profeti. Consapevolmente o meno con la loro immaginazione dipingono futuri possibili e in qualche modo ci preparano al futuro.
E' una funzione sociale credo importante in un mondo in cui il dio denaro sta sostituendo ogni forma di spiritualità.
L'importante però come individuo è valutare uno scenario futuro come "possibile", non prenderlo come Verità e diventare dei fanatici in balia di sacro fervore, o peggio in balia della paura dell'apocalisse.
non sono d'accordo se è super intelligente al di la di ogni immaginazione ha capito benissimo quello che gli è stato chiesto, questi sono gli esempi se la AI fosse stupida senza nessuna astrazione
Certo che capisce quello che gli chiedi, il problema che persegue il suo scopo senza alcuna etica, e per ottenere il suo scopo, il fine giustifica i mezzi. *Qualunque* sia il mezzo (anche estinguere la razza umana, se necessario).
Noi abbiamo un etica solo perché è necessaria alla nostra sopravvivenza, perché abbiamo più probabilità di sopravvivere se siamo accettati dal gruppo. Una IA non ha nulla di tutto ciò, perché è un cervello vuoto. Intelligentissimo, ma vuoto. E il problema è cosa insegnare all'AI perché non faccia danni.
Adesso non c'ho la testa di leggere gli altri reply filosofici, li rimando a domani
Comunque l'etica non serve a sopravvivere, lo è solo se prendi per buoni certi requisiti funzionalistici.
Tanto per dire, la storia del cristianesimo è piena di martiri. Ma anche al di fuori delle religioni, kamikaze, sacrifici civici ecc...
Tanto per dire, la storia del cristianesimo è piena di martiri. Ma anche al di fuori delle religioni, kamikaze, sacrifici civici ecc...
Ma secondo te l'etica se non dall'intelligenza da cosa è data? Solo dall'intinto di sopravvivenza di gruppo? Quindi le formiche hanno etica? Le scimmie hanno etica? L'etica è instinto? quindi essendo l'istinto opposto al ragionamento c'e' più etica negli organismi viventi semplici? Perchè una forma di intelligenza artificiale (vera e non un programma) non dovrebbe avere un etica? Secondo me ce l'avrebbe anche molto superiore alla nostra, anzi non capisco come possa essere il contrario, vorrebbe dire che non è intelligente ma è sviluppata solo verticalmente sulla capacità di calcoli matematici, ma questa non è intelligenza è un computer ed esistono gia', quindi siamo a una contraddizione all'ipotesi iniziale.
premetto che e' un post interessante e bello, complimenti.. pero.... "X= elimina la fame nel mondo. L’ASI uccide tutti gli esseri umani" dai cioe deve essere un ASI completamente IDIOTA non si suppone sia super intelligente?
finisco di leggere
dai cioe deve essere un ASI completamente IDIOTA non si suppone sia super intelligente? finisco di leggere
Lo stesso discorso vale anche per altri grandi scienziati del passato: Einstein ("Dio non gioca ai dadi"), Darwin (Cristiano e molto condizionato per la sua scoperta sulle origini della specie) , Newton e tutti gli altri che su questo tema han detto la loro.
Mi pare una cosa del tutto normale, come espressione di punti di vista individuali, come chiunque altro
Chiamiamola filosofia della storia, capitolo dedicato alla scienza.
Hawking tra l'altro ha recentemente ammesso in pubblico che dopo 60 anni di riflessioni secondo lui Dio non esiste
con quel babbazzo di Richard Dawkings che esultava nelle settimane a seguire
la formica ha l'etica di non mangiarsi per se la briciola che trova in giro, ma di riportarla al formicaio (altrimenti il formicaio muore, e la formica da sola non riesce a sopravvivere). la scimmia ha l'etica di non rubare la banana a un'altra scimmia del gruppo, altrimenti viene cacciata dal gruppo, diminuendo la propria probabilità di sopravvivenza. la mantide religiosa ha l'etica di ammazzare l'uomo dopo l'accoppiamento perchè tanto ha adempito al suo compito, mentre lei hai bisogno di energie perchè deve figliare. però ha anche l'etica di non papparsi i propri figli (anche se maschi), perchè altrimenti la specie si estinguerebbe subito.
l'etica sono una serie di paletti comportamentali autoimposti per aumentare la probabilità di sopravvivenza. un ASI non ha di questi problemi, nell'istante stesso in cui si connette ad internet: fa un proprio backup su più location distinte in grado di auto attivarsi (o restare dormiente per anni, mentre mette in atto l'uccisione di tutta la razza umana - perchè l'unica in grado di eliminarla) in determinate circostanze. poi non ha bisogno di alcuna etica nel suo comportamento, perchè di fatto immortale e superiore a qualunque essere vivente.
l'intelligenza è una cosa diversa: è la capacità di trovare soluzioni, muovendosi all'interno dei paletti dell'etica (tranne per la Volkswagen
).gli esseri viventi nascono con lo scopo di riprodursi, una ASI nasce con lo scopo che gli darà l'uomo. entrambi si muovono come vogliono all'interno della propria etica, ma gli animali hanno un'etica sulla base dell'evoluzione darwiniana (se l'etica funziona, sopravvivono), l'ASI avrà un'etica sulla base di quello che gli verrà programmato dall'uomo. da qui il problema di capire cosa dire all'ASI. perchè se si sbaglia, siamo tutti morti
tutto ovviamente imho
cambio frase: l'ASI uccide il 60% degli esseri umani perchè così ottimizza il numero di esseri umani sfamati con lo sfruttamento di risorse del pianeta
oppure ci obbliga a mangiare sempre la stessa pappetta per il resto della nostra esistenza perchè è più efficiente e ci fa più bene.
sono assolutamente d'accordo
beh un tempo c'era chi era convinto che la terra fosse piatta, o che il sole girasse intorno alla terra. io quello che vedo sono auto che si guidano da sole, lavatrici che stirano e piegano da sole, e computer in grado di capire la tua malattia (anche se siamo assolutamente agli albori di queste robe). ed erano tutte cose che ritenevo impossibili fino a 10 anni fa. non mi sembra così assurdo pensare che, col tempo, si riuscirà ad arrivare a un'ASI.
certo, ci sarebbe una sorta di reddito garantito a tutti (es: 2000 € al mese), anche se nessuno lavora. con questo ti puoi comprare quello che ti pare, e sono scelte tue se comprare cibo di prima qualità o meno, se prenderti l'ultimo smartphone, se tenere i soldi per una barca, se spenderli tutte in mignotte che non sbagli mai. semplicemente non ci sarebbe bisogno di lavorare (esattamente come un cane domestico che non deve procacciarsi il cibo) perchè ci sono già le macchine che lo fanno, gratis, senza sbagliarsi e stancarsi mai.
per la serie "senza il male non posso sapere cos'è il bene?"
non so, è un campo che non conosco assolutamente, quando sarò in uno stato di perenne beatitudine mi preoccuperò del problema vista la potenza computazionale di un cervello vs quella di un pc oggi, direi che non rischiamo, visto che la nostra potenza computazionale resterà pressochè la stessa, mentre quella dei pc continuerà ad aumentare esponenzialmente. ripeto, il nostro cervello va al massimo a 100 hz, un computer a ghz. ciò che ci rende più intelligenti è il modo di ragionare, ma a livello di potenza computazionale non c'è paragone. in 30 minuti ti scarichi un film in HD, che resta sull'HD per sempre, e che ti puoi rivedere quando vuoi alla perfezione. voglio vedere quanto tempo ci mette un essere umano a replicare alla perfezione un film con le sue capacità
questo semplicemente non e' vero, stai esagerando... secondo me tutto quello che hai detto puo avvenire ma siamo piu lontani di quanto sembra, poi, il futuro e' sempre stato immaginato nella maniera sbagliata
quindi temo che anche questa volta lo stiamo immaginando nella maniera sbagliata.Si invece, un AI del genere (centinaia di gradini sopra di noi, come detto sopra, dove uno o due gradini e' la differenza tra noi e una scimmia) sarebbe in grado di comprendere l'universo, le dimensioni e lo spazio oltre che la materia e avrebbe un livello di conoscenza / potenziale tecnologico estremamente superiore e sarebbe sicuramente in grado di creare risorse infinite
un AI del genere non ha limiti tecnologici in praticacontinuerebbe ad essere un ASI ritardata, un ASI intelligente risolverebbe il problema come lo faremmo noi (perche, siamo gia in grado di farlo, solo non vogliamo) salvando quante piu vite umane possibile, aiutandoci seriamente, oppure come detto sopra grazie alle sue infinite conoscenze e comprensioni della fisica costruirebbe tecnologia in grado di fare cose che manco immaginiamo