Non imponi nulla ad un'ASI (sto sempre dando seguito al ragionamento dell'autore), non sei in grado. L'ASI stessa potrebbe ragionevolmente vedere qualsiasi altra ASI come un logico impedimento a raggiungere il suo scopo. Per questo la prima ASI potrebbe essere l'unica.
già. lo sono, come lo sono le puttanate consolatorie basate sulla pseudo-scienza (o sulla scienza resa pseudo-scienza), tipo la gente che dice "ma c'è il multiverso, allora io vivo infinite vite!!!" (senza neppure interrogarsi su cosa poi voglia dire "io").
Abbiamo sostituito i dogmi della religione, con altre patenti di verità, più o meno fondate, in maniera fallace, su fatti "dimostrati" (o su aspettative basate sulla tecnologia, che a livello esistenziale non ha mai spostato il discorso di una virgola).
Quando in realtà il confronto con il mistero fondamentale - confronto che spazia dall'accettazione al rifiuto; che a volte può anche implicare un'illuminazione che è puramente intuitiva e che per sua natura non può essere prassi del viver meglio, ma al più un ars moriendi - può essere affrontato solo prescindendo dalle parole, dai ragionamenti o dalle dimostrazioni.
In generale, trovo interessante il fatto che si evochi (quando si parla di AI) la categoria mitologica del genio della lampada, quindi dello spirito che malignamente realizza, in maniera letterale, i desideri del fortunato (?) ritrovatore.
Alla fin fine gli stessi meccanismi che hanno condotto alla creazione delle attuali religioni sono gli stessi che permeano la psiche umana attuale, la tecnica ha portato dei miglioramenti sostanziali alla qualità della vita materiale quindi è logico che il prossimo passo di un certo tipo di spiritualità sia riservato alla venerazione della tecnologia, specialmente se incompresa, e se vogliamo anche con un certo spirito mercantilistico dato che la rivoluzione viene annunciata in tempi molto limitati, come si confà alla società del click, ed ad beneficio indiscriminato di tutti (senza neppure la fastidiosa fase del rispetto di astrusi precetti, quindi pure più fruibile).
Alla fin fine l'AI è vista come la nuova mamma, capace e disposta a risolvere tutte le fatiche terrene che affliggono l'uomo apparentemente senza chiedere nulla in cambio, deresponsabilizzazione di massa e puro intrattenimento. Personalmente sono infinitamente intrigato dalla possibilità di avere un punto di vista nuovo da parte di un'identità in grado di interagire con l'ambiente in maniera differente e di processare gli stimoli in modo altrettanto diverso. Forse.
Alla fin fine l'AI è vista come la nuova mamma, capace e disposta a risolvere tutte le fatiche terrene che affliggono l'uomo apparentemente senza chiedere nulla in cambio, deresponsabilizzazione di massa e puro intrattenimento. Personalmente sono infinitamente intrigato dalla possibilità di avere un punto di vista nuovo da parte di un'identità in grado di interagire con l'ambiente in maniera differente e di processare gli stimoli in modo altrettanto diverso. Forse.
no perchè i soldi del superenalotto sono comunque finiti. l'idea è già più vicina se se fossi ricco come bill gates, però anche lì avrei un briciolo di remore perchè dovrei preoccuparmi di far fruttare tutti quei soldi, e sono grosse magagne. e gli antidepressivi di oggi hanno FORTI controindicazioni. con le ASI, avremmo antidepressivi senza aspetti negativi.
l'enorme cervello si gestirà da solo le informazioni come reputa più corretto. e pian piano migliorerà l'algoritmo in maniera esponenziale, diventando ancora più intelligente e migliorandosi ancora, oltre a migliorare la tecnologia che gli permette di avere ulteriore potenza computazionale, e così via.
come dire che noi e la scimmia siamo intelligenti uguali, perchè partiamo dalle stesse basi logiche.
Non entro nel merito dell'intelligenza artificiale perché non ho le conoscenze per farlo.
Quello che scrivi è molto interessante ma mi sono fermato a quello che ho quotato e che mi perplime anche sul discorso teletrasporto e che spesso si da per scontato come forse involontariamente hai fatto tu: un io ricostruito sono sempre io? Un cervello ricostruito (o scomposto e ricostruito nel caso del teletrasporto) sarebbe veramente me?
O sarei in realtà morto e la ricostruzione in realtà una mia copia? Chi potrebbe darmene la certezza?
il problema è stato già affrontato e risolto (almeno in teoria secondo me) da Isaac Asimov così: https://it.wikipedia.org/wiki/Tre_leggi_della_robotica
nel ciclo dei robot (serie di libri che tratta questo argomento).
ovvero hard-codare nel cervello positronico (cfr AI ASI) delle leggi "etiche":
0) Un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno.
1) Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Purché questo non contrasti con la Legge Zero
2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Legge Zero e alla Prima Legge.
3) Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Legge Zero, la Prima Legge e la Seconda Legge.
il problema nascerà per i robot da guerra che sicuramente ne saranno sprovvisti (vedi Terminator o Matrix o Ex machina o Her o I robot) (film che consiglio)
L'appello di Musk & co. penso si riferisse proprio a questo ovvero limitare il potenziale (dannoso) delle AI con delle regole (come quello di Asimov).
nel ciclo dei robot (serie di libri che tratta questo argomento).
ovvero hard-codare nel cervello positronico (cfr AI ASI) delle leggi "etiche":
0) Un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno.
1) Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Purché questo non contrasti con la Legge Zero
2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Legge Zero e alla Prima Legge.
3) Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Legge Zero, la Prima Legge e la Seconda Legge.
il problema nascerà per i robot da guerra che sicuramente ne saranno sprovvisti (vedi Terminator o Matrix o Ex machina o Her o I robot) (film che consiglio)
L'appello di Musk & co. penso si riferisse proprio a questo ovvero limitare il potenziale (dannoso) delle AI con delle regole (come quello di Asimov).
Porca puttana I robot 
C'è un post dedicato al teletrasporto su wait but why, che esamina tutti i possibili casi/filosofie del teletrasporto.
(e secondo me quello che arriva non sono davvero io, ma una copia)
In ogni caso, l'esempio che ho fatto è la riparazione di singole cellule, il corpo nel complesso resta quello. Quindi secondo me il discorso non è comparabile, e il problema non si pone
con kurzweil siamo già oltre il robot, che non è altro la proiezione dell'individualismo americano ( occidentale ), l'oggetto che diventa cosciente, un consumatore come un altro al quale vendere roba ( bender ).
la giusta visione è l'intelligenza del formicaio, l'ia è il software sopra un grosso sistema computazionale distribuito.
l'enorme intelligenza sta nel sentire ( attraverso l'accesso a miliardi di device di ogni tipo connessi ) il mondo nel suo insieme e questo che fa paura a kurzweil.
).la giusta visione è l'intelligenza del formicaio, l'ia è il software sopra un grosso sistema computazionale distribuito.
l'enorme intelligenza sta nel sentire ( attraverso l'accesso a miliardi di device di ogni tipo connessi ) il mondo nel suo insieme e questo che fa paura a kurzweil.
Perdonami ma se tu scrivi "rinnovare" e "ricostruire" sostituisci le molecole e gli atomi che compongono la materia di qualcosa. A poco a poco o totalmente a seconda di quante ne vai a toccare con questo "rinnovamento/ricostruzione". Non è che sposti da una parte all'altra la stessa materia. Per cui il problema si pone eccome a mio parere.
Poi chi lo decide quanto è "il corpo nel suo complesso"? C'è una percentuale? E un braccio vale quanto il cervello? Non credi che siano domande invece da porsi eccome? Poi boh ammetto che forse non è il tema centrale che volevi sollevare...
il problema visto da Asimov è quello odierno, stiamo parlando dello stesso oggetto, non fatevi sviare dalla parola robot, che adesso ha un'accezione precisa, Asimov quando parla di cervello positronico parla di AI.
e siccome le Ai farebbero quello che volgiono, l'unico modo per limitarle sono
delle leggi di comportamento (etica appunto).
Quello ipotizzato da Kurzweil deve essere comunque un device di qualche tipo, no? un programma deve essere scritto da qualche parte, no?
con del codice scritto sopra, anche auto-modellante, basta scrivere in questo codice delle regole che stiano fuori dal dominio della "rimodellazione" qualcosa che insomma stia sopra la volontà stessa delle AI. Un'etica appunto.
(na cazzata).
(che poi è la cosa che dice Musk e Hawking)
ecco qua: https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence
The ethics of artificial intelligence is the part of the ethics of technology specific to robots and other artificially intelligent beings.
EDIT: aggiungo fonte per Hawking e Musk ecc:
http://www.wired.it/attualita/tech/2015/01/14/lettera-aperta-futuro-intelligenza-artificiale/
e siccome le Ai farebbero quello che volgiono, l'unico modo per limitarle sono
delle leggi di comportamento (etica appunto).
Quello ipotizzato da Kurzweil deve essere comunque un device di qualche tipo, no? un programma deve essere scritto da qualche parte, no?
con del codice scritto sopra, anche auto-modellante, basta scrivere in questo codice delle regole che stiano fuori dal dominio della "rimodellazione" qualcosa che insomma stia sopra la volontà stessa delle AI. Un'etica appunto.
(na cazzata
).(che poi è la cosa che dice Musk e Hawking)
ecco qua: https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence
The ethics of artificial intelligence is the part of the ethics of technology specific to robots and other artificially intelligent beings.
EDIT: aggiungo fonte per Hawking e Musk ecc:
http://www.wired.it/attualita/tech/2015/01/14/lettera-aperta-futuro-intelligenza-artificiale/
Anche le tue cellule muoiono e vengono costantemente sostituite,eppure sei sempre tu. Per questo per me è fondamentale la continuità dell'essere (che nel teletrasporto non c'è, perché vieni creato da zero, con atomi completamente diversi).
Sono d'accordo che a sto punto bisogna capire però quanto è la percentuale massima di sostituzione contemporanea che non ti rende più te
però per tornare al tuo esempio, se ti cambiano un braccio, tu sei sempre tu, ma il braccio è nuovo (uguale oggi quando ti trapiantano un organo: quell'organo non è tuo, ma tu nel complesso sei sempre tu). Sicuramente il cervello è il componente più importante, ma non è l'unico. Per esempio se ti mettono il cervello nel corpo di un altro (quindi con un aspetto completamente diverso), secondo me non sei più tu.
Per quello parlavo di continuità, e di percentuale (che non è facile da definire, mi verrebbe da dire che bisogna andare a buon senso, per quanto sia poco scientifica come cosa
)
Un grande obbiettivo è quello di cambiare interfaccia imho. Mi domando fino a quando useremo l'approccio "oggetto fisico" + interazione, sia esso un pc/portatile/cellulare.
Ad esempio avere l'internetz tramite lenti a contatto + realtà aumentata non mi dispiacerebbe. Non mi pare nemmeno così futuristico come approccio.
Una sorta di google glasses, senza i glasses.
anche in termini puramente quantitativi, tu non sei quello che eri vent'anni (o dieci anni) fa, pure sorvolando sulla percentuale di materia che non è "te" (in senso organico), ma che il tuo corpo si porta appresso (flora batterica, parassiti, etc.)
e il problema della discontinuità dell'identità si pone pure a livello psicologico e/o qualitativo. Non esiste l'identità del corpo senza una rappresentazione (che in larga parte è illusoria) di tale continuità.
paradossalmente (rimanendo agli esempi per ora estremamente sci-fi), sarebbe più traumatico il fatto che qualcuno arrivi e sovrascriva il tuo cervello con i ricordi di un tuo "io" futuro o passato, piuttosto che il teletrasporto: il teletrasporto implicherebbe una rappresentazione mentale della realtà identica a quella dello stato di partenza (e possiamo fare un atto di fede, ipotizzando che quella rappresentazione abbia in sé una componente trascendente rispetto al substrato materiale che la genera), oltre che identità degli stati delle particelle elementari che ti compongono, e identità organica (parti organizzate in maniera identica che assolvono a funzioni identiche, prima e dopo).
In un certo senso, l'interrogativo neppure te lo dovresti porre.
Alla fine la morte del teletrasporto sarebbe identica a quella che vivi in ogni momento, a causa del cambiamento di ricordi, impressioni, etc. (e del ricambio cellulare
). Se ti trovassi di fronte un tuo "io" viaggiatore nel tempo, avresti tutte le ragioni per reputare di trovarti di fronte ad un'altra persona. Il patto che stringiamo con i nostri "io" passati o futuri, in termini identitari, è unicamente... stipulativo.
esempio per assurdo: se qualcuno ti rivelasse che ogni volta che dormi vieni "teletrasportato" (oppure che vieni distrutto e ricreato costantemente da un'entità divina che si annida tra un istante e l'altro dell'esistenza; oppure che l'universo fa i tunnel quantistici, viene distrutto e sostituito da innumerevoli universi paralleli, e dopo eoni ripoppa identico a quello dell'istante precedente), e che ciò è avvenuto migliaia o milioni di volte in vita tua, non ti faresti il benché minimo problema ad addormentarti nuovamente.
Quello che dovrebbe stupirti è proprio la rivelazione in merito al fatto che, in un certo senso, in ogni istante sei libero da chi sei stato e da chi sarai (nel bene e nel male). O meglio, puoi essere debitore o creditore di quei diversi "io", ma comunque non sei loro.
Chiedo scusa per non aver letto tutto il topic, ma ti chiedo: parti dalla certezza che ci saranno a breve intelligenze artificiali "forti" (ovvero inteliggenti quanto un essere umano o più).
Bhe, certi studiosi non pensano sia possibile, per la non replicabilità del nostro piccolo cervello. Premesso che io in realtà non sono d'accordo, ma non la stai facendo troppo semplice?
P.S: cmq mi sembrava di leggere kurzweil, che non mi sembra ci abbia preso così tanto..
Bhe, certi studiosi non pensano sia possibile, per la non replicabilità del nostro piccolo cervello. Premesso che io in realtà non sono d'accordo, ma non la stai facendo troppo semplice?
P.S: cmq mi sembrava di leggere kurzweil, che non mi sembra ci abbia preso così tanto..
la ricchezza è un termine relazionale, si definisce sempre in virtù della povertà altrui. Anche le AI non potrebbero modificare il fatto che le risorse, anche se a livello universale, sono limitate e, quindi, distribuibili
e non esiste (né può esistere) forma di alterazione chimica del cervello che non abbia conseguenze o aspetti "negativi". E' una questione proprio strutturale, da qualche parte qualcosa perderai (fosse anche solo il modo di vivere, a livello emozionale, determinate esperienze; a prescindere dalla natura piacevole o negativa della reazione emotiva; se fossimo in uno stato di perenne beatitudine saremmo tremendamente stupidi).
La cosa curiosa qui è questa: nascono un sacco di dubbi su cosa o chi sarebbe quel qualcuno teletrasportato, ma perché, se eviti del tutto il teletrasporto sai rispondere alla domanda "chi sono io?" o "cosa sono io?".
Alcuni si ovviamente, la maggior parte no, ed è qui il fascino che suscitano certe tematiche, una specie di porta di servizio per la metafisica quando uno non ha voglia di leggere la metafisica e spera che Asimov sia il bignami user friendly della stessa.
La stessa cosa riguardo ai temi esistenziali o politici trattati nella fantascienza. Che poi finché è una porta va pure bene, il problema è quando una si costruisce una visone del mondo, un'etica o una posizione politica in base a questa roba qui.
Alcuni si ovviamente, la maggior parte no, ed è qui il fascino che suscitano certe tematiche, una specie di porta di servizio per la metafisica quando uno non ha voglia di leggere la metafisica e spera che Asimov sia il bignami user friendly della stessa.
La stessa cosa riguardo ai temi esistenziali o politici trattati nella fantascienza. Che poi finché è una porta va pure bene, il problema è quando una si costruisce una visone del mondo, un'etica o una posizione politica in base a questa roba qui.
c'è anche una venatura grottesca. Se il medesimo dubbio identitario connesso al teletrasporto viene declinato in chiave religiosa, tutte le incertezze cadono.
Se il teletrasporto, difatti, viene presentato come resurrezione dei corpi o reincarnazione dell'anima (che altro non sono se non forme magiche di teletrasporto), nessuno starà a cavillare (e nessuno l'ha mai fatto) in merito al fatto che si tratti ESATTAMENTE degli stessi atomi o meno del morto
Se la resurrezione fosse, per assurdo, un fatto certo (e stiamo discutendo alla fine di quello, seppure vestito con i panni delle cazzabubbole tecnologiche), nessuno si lamenterebbe certo di questi elementi che, peraltro, danno per risolto (come dici anche tu) il problema identitario nell'esperienza biografica. Se tu non sei tu cinque minuti, un secondo o dieci anni fa, ma che cazzo te ne frega se vieni ressato da gesù o teletrasportato
Al limite l'interrogativo in merito al teletrasporto dovrebbe divenire l'occasione per ampliare quello scetticismo (desidero una prosecuzione della vita che implica una morte?), e per rendersi conto della sostanziale irrealizzabilità (o non auspicabilità) della vita eterna, anche nelle sue varianti mitologiche. Nessuna di esse può autenticamente eliminare la morte, né come evento puntuale (l'ultimo istante della vita), né come processo.
Ma pure qui, si torna al punto di partenza: l'interrogativo identitario esiste a prescindere da tutto ciò, ed è assurdo speculare su questi esempi o temi senza avvertirne la presenza nella mondanità.
Sono d'accordo anche in merito al fatto che certi interrogativi vanno presi come esercizi speculativi per vedere diversamente problemi attuali: discorrere di AI può essere un'occasione per meditare, partendo da un caso di scuola - per ora (e forse anche in futuro) puramente ipotetico - i temi dell'etica. Come si costruisce un'etica, senza dare nulla per scontato o acquisito (compresi soggetti ed oggetti dell'etica)?
Ho appena visto questa Ted Talk che mi ha fatto pensare a questo topic:
http://www.ted.com/talks/juan_enriquez_how_to_think_about_digital_tattoos?utm_campaign=social&utm_medium=referral&utm_source=facebook.com&utm_content=talk&utm_term=technology
http://www.ted.com/talks/juan_enriquez_how_to_think_about_digital_tattoos?utm_campaign=social&utm_medium=referral&utm_source=facebook.com&utm_content=talk&utm_term=technology
In breve: la personalità e la persona non sono l'individuo. Tant'è che nella lingua giuridica si parla di diritti della personalità quando si vogliono evocare i tratti sociali dell'individuo (l'onore, la reputazione; il diritto al nome); di diritti della persona (etimologicamente, si dovrebbe però discorrere più correttamente, di diritti dell'individuo; ma qua c'è la tradizione lessicale che ha estrapolato l'individuo dalla lingua dei giuristi), quando si intende parlare di quanto appartiene all'individuo (e cioè ciò che costituisce l'io quando non è più possibile procedere ad operazioni sottrattive, legate a quanto vi è al di fuori dell'io; compreso il riflesso dell'io nello specchio sociale). Cfr. la salute, l'integrità psico-fisica, etc.
Il problema della sopravvivenza della personalità esisteva da prima dei social, tant'è che da molto tempo esistono regole (giuridiche) che tutelano la personalità del defunto, anche se il defunto non c'è più, come un bene giuridico autonomo (rispetto ai diritti della personalità tutelati "in vita"). né tu né io siamo la nostra personalità "sociale" o social. O meglio, quello è un elemento che incide su di noi, ma di fatto si potrebbe anche vivere nascosti al mondo e senza reputazione, e continuare ad esistere, al di là di quello che (non) pensano gli altri
Molto pragmaticamente, l'oblio arriva per chiunque (non solo per limiti tecnici, ma per disinteresse), quindi è un falso problema. Gli individui esistiti nel passato esistono meno dei personaggi delle storie, ad un certo punto (spesso bastano pochi anni).Sappiamo che Romeo e Giulietta esistono, non sapiamo invece se ciccio formaggio sia vissuto - e come sia vissuto - negli anni che vanno dal 1810 al 1890.
E anche se potessimo saperlo... ce ne fotteremmo.
Il problema della sopravvivenza della personalità esisteva da prima dei social, tant'è che da molto tempo esistono regole (giuridiche) che tutelano la personalità del defunto, anche se il defunto non c'è più, come un bene giuridico autonomo (rispetto ai diritti della personalità tutelati "in vita"). né tu né io siamo la nostra personalità "sociale" o social. O meglio, quello è un elemento che incide su di noi, ma di fatto si potrebbe anche vivere nascosti al mondo e senza reputazione, e continuare ad esistere, al di là di quello che (non) pensano gli altri
Molto pragmaticamente, l'oblio arriva per chiunque (non solo per limiti tecnici, ma per disinteresse), quindi è un falso problema. Gli individui esistiti nel passato esistono meno dei personaggi delle storie, ad un certo punto (spesso bastano pochi anni).Sappiamo che Romeo e Giulietta esistono, non sapiamo invece se ciccio formaggio sia vissuto - e come sia vissuto - negli anni che vanno dal 1810 al 1890.
E anche se potessimo saperlo... ce ne fotteremmo.