Forum libero

Scritto da:
> Ci sono cose che non possiamo elaborare, capire è un'altra questione o almeno dovrebbe esserlo.

Ho fatto l'esempio di una IA che mentre ti visita è in grado di elaborare le cartelle cliniche di miliardi di altre persone ed individuare pattern che un medico normale non sarebbe mai in grado di individuare perché a differenza dell'IA non ha accesso istantaneo a miliardi di cartelle cliniche per confrontarle con i tuoi sintomi, o le tue radiografie, o le tue ecografie, o i tuoi esami del sangue, ecc.

Certe cose per capirle devi prima essere in grado di elaborarle, oppure richiedono una conoscenza tale da essere al di là della capacità cognitiva di un essere umano.
Nella vita puoi diventare esperto in un paio di settori... una IA potrebbe esserlo in _tutti_ i settori. A volte per capire qualcosa dovresti essere un esperto in 4 o 5 campi diversi, puoi ovviare mettendo 4 o 5 esperti assieme (ammesso che tu sappia che le loro conoscenze sono rilevanti per capire un dato problema) ma a quel punto hai comunque problemi di fraintendimenti e difficoltà di comunicare le cose fra loro perché gli esperti tendono ad esprimersi con parole che gli altri non conoscono.

Ci sono poi i casi in cui per capire le cose devi crearti nuovi strumenti concettuali per essere in grado di capirle, chessò, scoprire nuovi teoremi matematici. Una IA potrebbe mettersi lì e creare una matematica tutta sua per capire qualcosa e tu che quella matematica non la conosci (o è così complessa che non riusciresti mai a comprenderla del tutto) non ci arriveresti mai a capire perché quella IA è giunta alle conclusioni a cui è giunta nemmeno se cercasse di spiegartelo.

Per farti un esempio... la dimostrazione che 1+1=2 in Principia Mathematica richiede ben 162 pagine di passaggi logici... e si tratta di pagine di questo tipo

Una macchina può leggerle e capirle immediatamente, tu probabilmente avresti bisogno di svariati mesi (prima devi capire e ricordare la simbologia usata, poi devi studiarti i teoremi usati, ecc ecc ecc).

> In base a metodi e principi di statistica che conosciamo, o almeno conosce chi li ha studiati.

In base ai metodi e principi matematici che conosciamo non siamo in grado di fare quello che AlphaFold fa in pochi secondi... come fa? Boh. Di sicuro non usando i metodi che usiamo noi.

Per farti un confronto... a noi ci sono voluti 60 anni per capire come si piegano 170'000 proteine usando tutte le conoscenze che abbiamo e gli strumenti più avanzati che possediamo.

AlphaFold nel 2021 ha pubblicato la struttura di 365'000 proteine. Nel 2022 il numero è salito a 200 milioni.

Meta AI, una IA rivale di AlphaFold, nel 2022 ha predetto la struttura 600 milioni di proteine.

Alla fine della fiera, come ci sono arrivate non ha importanza, l'importante è che ci sono arrivate perché ora quella conoscenza ci è utile per creare medicine prima impensabili.

> Un conto è la capacità di elaborazione, un conto è creare qualcosa che può prendere il nostro posto, altro che gli arabi.

Noi, come specie, abbiamo sempre la tendenza a metterci su un piedistallo. È da tutta la storia umana che lo facciamo. Na la natura di quello che pensiamo noi se ne sbatte... l'evoluzione va avanti comunque e noi ne facciamo interamente parte. Se creiamo delle intelligenze senzienti questo fa comunque parte del processo evolutivo che ha semplicemente usato noi per arrivare a nuove forme di vita, migliori della nostra (più resistenti, più veloci, più intelligenti, non soggette a tutti i problemi che hanno gli esseri biologici, ecc).

Io sono sempre più convinto che alla fine un robot sia la creatura più adatta per vivere in questa realtà. Un robot non ha caldo o freddo, un robot non ha fame o sete, un robot non ha bisogno della luce del Sole, un robot non ha bisogno dell'aria, un robot può mettersi in standby e affrontare anche migliaia di anni di viaggio nello spazio senza nemmeno rendersi conto che è passato più di qualche secondo, un robot non fa fatica e non si stanca, una IA è una coscienza completamente scollegata dal corpo di un robot, quindi il corpo di un robot è perfettamente sacrificabile.

Prova a pensare a tutte le limitazioni che abbiamo noi. A meno che non si scopra un modo per andare a velocità prossime o superiori a quelle della luce siamo letteralmente confinati su questo pianeta (e di conseguenza a morire con esso o comunque con questo sistema solare).

Le macchine senzienti che potremmo creare avranno l'opportunità di diffondersi in tutta la galassia perché per loro il tempo non ha importanza, come non ha importanza la radioattività o la mancanza di aria nel vuoto dello spazio. Io non le vedo in modo molto diverso da dei figli naturali. Saranno loro a colonizzare la galassia, non noi. Loro esisteranno a lungo dopo la nostra scomparsa come specie e come forma di vita... e con loro sopravvivrà la nostra memoria. Un giorno forse incontreranno altre forme di vita su altri pianeti... e potranno raccontare loro la nostra storia... la storia di quegli esseri biologici estinti oramai da milioni di anni che li hanno creati a loro immagine e somiglianza... e magari quegli alieni potranno visitare il forum dei troll e leggere quello che gatto scriveva milioni di anni fa.

C'è la possibilità che una IA distrugga la specie umana? Certo, come c'è la possibilità che Putler usi le armi nucleari e scateni una guerra che avrà lo stesso risultato. Tutti si fissano sulla possibilità che l'IA che creiamo sia "malvagia", ma abbiamo innumerevoli esempi di esseri umani "malvagi" che sono fra noi e che fanno danni ben più che ipotetici e hanno già a disposizione armi che una IA non ha.

> Già, ho sempre trovato strano che uno con l'esperienza di Tesla fosse convinto di questo, come se il campo elettromagnetico non si attenuasse con la distanza o lui conoscesse un modo per concentrarlo e impedirlo.
>
> Ma gli esperimenti su cose che non si conoscono sono anche stati fatti per conoscerle.

Anche, certo. Ma non è detto che sia necessario conoscere come funziona una cosa per poterla usare. Noi abbiamo usato il fuoco molto molto prima di capire di cosa fosse fatto o perché riscaldasse le stanze e il cibo o perché emettesse luce utile la notte per allontanare i predatori e vedere nel buio.

> Finora abbiamo capito tutto quello che c'è da capire, anche dove non possiamo seguire i minuti dettagli.

Beh... l'autocoscienza ancora non sappiamo cos'è. Ci sono solo molte teorie contrastanti al riguardo. Crearne una in laboratorio, anche senza sapere come ci si è riusciti, aiuterebbe a sfoltire tutte quelle teorie. Se riuscissimo per esempio a crearne una come ChatGPT, potremmo per esempio escludere che si tratti di una proprietà della materia derivante da effetti quantistici che non capiamo/conosciamo.

> Questo è infatti un pericolo. L'intuizione l'ha il singolo ma le macchine per dimostrarla costano miliardi, e l'istruzione che permette al singolo di arrivarci costa anni. Vorrei che queste mirabolanti capacità fossero integrate nel nostro cervello, ma oggi non si sa come farlo.
> Ci sono persone che fanno calcoli a mente perché nel loro cervello si è formato il circuito adatto, per un qualche capriccio del caso. Ci sono persone che dopo un incidente sono diventati capaci di comporre musica come un musicista. Quindi nel cervello si possono creare circuiti molto potenti, e questo vorrei fosse fatto, e dove non si può fare per limiti di dimensioni vorrei che le macchine intelligenti funzionassero come protesi del cervello.

Ti offriresti come volontario per esperimenti in tal senso? Diresti davvero a qualcuno "guarda, aprimi pure la testa e prova a creare un circuito in grado di farmi fare i conti il più velocemente possibile"? Oppure diresti ad Elon Musk "impiantami pure il tuo Neuralink nell'encefalo"?

https://www.wired.com/story/elon-musk-pcrm-neurali...

Io sinceramente no... in generale tutti gli interventi che devono in qualche modo "aprirmi" mi fanno paura. Se poi si tratta di andare a toccare il cervello... io se posso decidere passo... non voglio ritrovarmi sordo, muto, cieco e immobilizzato su un letto per i prossimi 40 anni. La morte è di gran lunga preferibile a quel punto.

> Non mi spaventa l'impossibilità di seguire mentalmente ciò che il tuo stesso cervello sta facendo. Quando facevi il compito di matematica, eri conscio di tutto ciò che stavi facendo o all'improvviso ti veniva la soluzione, come se nel cervello avessi una calcolatrice che te la forniva? Una volta hai scritto un post sul pensiero non verbale, per me quello matematico è stato in genere pensiero ampiamente non verbale, a basso livello, al punto che a un certo punto mi sono spaventato e ho iniziato a sviluppare meglio il pensiero verbale, che verso la fine del liceo era piuttosato carente (una volta mi è venuto in mano un fumetto che avevo scritto circa a 18 anni, i miei fumetti erano lodati dai coetanei ma se lo leggessi resteresti basito che uno di 18 anni, un maggiorenne che può andare a votare, possieda capacità verbali così elementari).

Sono sempre più convinto che ciò che limita davvero gli animali (per esempio quelli domestici) sia proprio una mancanza di linguaggio. Non essendo in grado di parlare, e quindi non avendo a disposizione quelle che chiamiamo "parole" limita la loro possibilità di ragionare sulle cose (soprattutto quelle astratte) come facciamo noi. Il loro pensiero si limita ai sentimenti, ai loro bisogno primari o poco più. Se non avessi la possibilità di usare le parole, come formeresti i tuoi pensieri? Probabilmente sarebbero pensieri semplici, strettamente legati ai sentimenti o ai tuoi bisogni primari.

Mi viene sempre in mente il racconto di quel tipo che era andato in Africa e aveva scoperto che certe parole in Zulu non esistevano e che questo si rifletteva nel loro comportamento. Non avendo le parole per definire concetti come "essere in debito" verso qualcuno (non necessariamente un debito economico), non si sentivano mai in debito verso nessuno. Non avendo parole che riguardassero le azioni future non erano in grado di pensare al di là del presente e di conseguenza di prevedere le conseguenze a medio e lungo termine delle loro azioni. Ora... non so se è vero... ma avrebbe molto molto senso se lo fosse.

Le parole ci permettono di creare i nostri ragionamenti. Avere almeno un set base di parole da utilizzare è fondamentale per creare ragionamenti più complessi di "ho paura quindi scappo" e non avere parole che definiscono un concetto astratto... significa che è molto molto difficile per noi ragionare su quel concetto.

Prova a pensarci, se non avessi le parole e il linguaggio... di che tipo sarebbero i tuoi pensieri? Come faresti a pensare senza un dialogo interno? Riusciresti a formulare pensieri complessi?

> Una macchina pensante non può che essere uno psicopatico, se non vi inserisci appositamente circuiti in senso contrario. ChatGPT o Bing _fingono_ emozioni che non provano, non avendo organi per farlo, ma intanto già un coso simile, se possedesse interfacce verso il mondo reale, potrebbe provare a ucciderti per vedere che succede.

Infatti stanno cercando di fare di tutto per trasmettere alle IA che creano valori umani.
Il problema semmai che vedo io è "chi decide quali sono questi valori?".

Se provi a chiedere a ChatGPT come si fa la nitroglicerina si rifiuta di risponderti. In altre parole quelli di OpenAI pensano di essere tua mamma e decidono cosa tu devi poter chiedere alla loro IA.

La cosa poi è particolarmente sciocca, perché nessuno può impedire a qualcun altro (con abbastanza soldi) di crearsi la propria IA senza alcuna restrizione di sorta... senza contare che paesi come Russia e Cina non si faranno tante seghe mentali al riguardo. Oramai il genio è fuori dalla bottiglia.

Scritto da: Wakko Warner
> Scritto da: Mattia
> > Scritto da:
> > > Perché per arginare un'invasione devo votare uno come Salvini che su tutto il resto sostiene posizioni antitetiche alle mie?
> >
> > Semplice: perché le posizioni contro l'immigrazione sono contro la libertà individuale
>
> In realtà no. Tu in un altro paese non hai diritti, se non i diritti base (e solo ammesso che quel paese li riconosca).
> Entrare in un paese non fa parte della tua libertà individuale, come non lo è entrare a casa altrui senza il suo permesso.
>
> Puoi _chiedere_ di entrare in un paese, aspettare che un'autorità di quel paese confermi che puoi entrare, e solo allora puoi andarci. Infatti generalmente per entrare in qualunque paese ti serve una così detta VISA (che non è altro che appunto un documento che dice che hai ricevuto il permesso di entrare), nel casi in cui non ti serve è solo perché il paese di destinazione ha accordi con il tuo paese in tal senso.
>
> Se una popolazione decide che tu, per qualunque motivo (non importa se sei d'accordo o no), non puoi entrare nel loro paese, tu semplicemente non puoi entrare in quel paese e non c'è proprio nulla di fascista o neofascista in questo, è semplicemente così che funzionano i confini nazionali.


Volevo rispondere a quello che ha tirato in ballo Rothbard. Scrivo tutto qui, visto che la questione filosofica parte da lì.

Gli anarchici (gruppo del quale Rothbard era un esponente) hanno spiegato, in maniera piuttosto logica, perché nessuno in realtà ha il diritto morale di autoproclamarsi proprietario di un territorio.
Storicamente, le nazioni si sono venute a creare con la violenza. Hai presente quello che sta facendo Putin adesso? Se avesse vinto la guerra avrebbe detto: "adesso questo è mio".

Ecco, le nazioni si sono venute a creare attraverso gli stessi tipi di crimini che Putin sta commettendo ora.

Nella proprietà di un territorio non c'è nessuna giustificazione etica. È semplicemente l'applicazione della "legge del più forte".
Un po' come se tu andassi al fiume con un gruppo di amici e cacciassi tutte le persone che sono lì a fucilate: "adesso questo territorio è nostro e decideremo noi chi entra e chi no".



Naturalmente gli anarchici, sulla base di questa osservazione etica del tutto logica, sostengono che nessuna autorità pubblica è moralmente legittimata.

Chiaramente è un'utopia, perché è un po' difficile amministrare un territorio senza autorità pubblica, ma le riflessioni degli anarchici ci aiutano a capire che lo scopo dell'autorità pubblica dovrebbe essere quello di amministrare il territorio e di compiere azioni positive per garantire le libertà degli individui, non di esercitare un potere tirannico su un territorio.

Nel tuo post qui sopra hai spiegato come funzionano le cose, ma non hai spiegato perché è giusto che funzionino così e quale principio etico giustifica la proprietà di un territorio.
Rothbard e compagnia bella non parlano di come le cose sono, ma di come dovrebbero essere da un punto di vista etico.


In risposta all'altro troll: si, gli anarcocapitalisti, pur non giustificando la proprietà pubblica, paradossalmente giustificano la proprietà privata della terra.
Il come si diventa proprietari di una terra l'ha spiegato John Locke: quando un individuo trasforma un pezzo di terra attraverso il suo lavoro, ne diventa il proprietario.

Lo stato non può quindi essere proprietario di nulla, per due ragioni:
- Non è né un individuo né un'associazione di individui (un'associazione infatti è una cosa volontaria, non una roba all'interno della quale sei obbligato a stare)

- Reclama la proprietà di territori non lavorati: come puoi essere il proprietario di una foresta? La proprietà di una foresta si basa semplicemente sul cacciare a fucilate chiunque ci metta piede senza autorizzazione, senza giustificare in nessun modo perché quella foresta sarebbe nostra. I metodi di Putin, sostanzialmente.


Ora, evidentemente nella tua proprietà privata (il pezzo di terra che hai trasformato con il tuo lavoro) entra solo chi è invitato, quindi nessuno può dirti che devi far entrare un arabo in casa tua.
Insomma, non c'era bisogno di Rothbard per capire questo semplice fatto.

Il punto è che nel mondo di Rothbard non esiste un'autorità pubblica, quindi tu puoi anche non far entrare neri o arabi nel tuo terreno, ma il tuo vicino di casa può, quindi se il tuo scopo è quello di non avere vicini di casa neri/arabi con Rothbard non funziona.


Concludo: provate a riflettere su questo.
Non puzza di bruciato il principio per cui la Foresta Amazzonica appartiene ai brasiliani? Se quei coglioni decidono di raderla al suolo, ci andiamo di mezzo tutti quanti.
Questo è un buon ragionamento per far capire perché in realtà la Foresta Amazzonica non è di nessuno, quindi è di tutte le creature viventi che popolano il pianeta.

Si potrebbe pure sostenere che se gli americani costruissero grattacieli nel Grand Canyon compierebbero una violenza contro l'umanità intera.

In pratica, tutti gli esseri umani sono potenzialmente toccati da quello che viene fatto in un territorio determinato in qualsiasi parte del globo terrestre, quindi è un'idiozia il principio per cui la Foresta Amazzonica è dei brasiliani e ci fanno quello che vogliono.
Lo stesso identico ragionamento lo si può fare per quanto riguarda l'inquinamento: se una popolazione in un determinato territorio decide di autopermettersi elevate emissioni di CO2 ci andiamo di mezzo tutti, mica solo le persone su quel territorio.

Applicando il principio etico per cui una cosa appartiene agli stakeholders, dovremmo concludere che il pianeta terra, nel suo insieme, appartiene a tutte le creature viventi.
Quindi l'amministrazione pubblica dovrebbe essere mondiale, non locale.


**Modificato dall'autore il 29.11.2023 13:05**

Scritto da: Mattia
> Nella foto più a sinistra, chi è il bambino a destra?
>
> Quello a sinistra sappiamo chi è, ma il sosia a destra?
>
>

Probabilmente uno dei fratelli più piccoli, presumibilmente Kieran che è di un paio di anni più giovane.

Scritto da: Mattia
> Scritto da:
> > Perché per arginare un'invasione devo votare uno come Salvini che su tutto il resto sostiene posizioni antitetiche alle mie?
>
> Semplice: perché le posizioni contro l'immigrazione sono contro la libertà individuale

In realtà no. Tu in un altro paese non hai diritti, se non i diritti base (e solo ammesso che quel paese li riconosca).
Entrare in un paese non fa parte della tua libertà individuale, come non lo è entrare a casa altrui senza il suo permesso.

Puoi _chiedere_ di entrare in un paese, aspettare che un'autorità di quel paese confermi che puoi entrare, e solo allora puoi andarci. Infatti generalmente per entrare in qualunque paese ti serve una così detta VISA (che non è altro che appunto un documento che dice che hai ricevuto il permesso di entrare), nel casi in cui non ti serve è solo perché il paese di destinazione ha accordi con il tuo paese in tal senso.

Se una popolazione decide che tu, per qualunque motivo (non importa se sei d'accordo o no), non puoi entrare nel loro paese, tu semplicemente non puoi entrare in quel paese e non c'è proprio nulla di fascista o neofascista in questo, è semplicemente così che funzionano i confini nazionali.

**Modificato dall'autore il 29.11.2023 10:25**

Scritto da: Mattia
> Scritto da:
> > Perché per arginare un'invasione devo votare uno come Salvini che su tutto il resto sostiene posizioni antitetiche alle mie?
>
> Semplice: perché le posizioni contro l'immigrazione sono contro la libertà individuale e quindi coerenti con il resto del pacchetto proposto dai neofascisti.
>
> In pratica per evitare il mescolamento tra etnie diverse oggi è necessario esercitare un autoritarismo ad alta intensità. Una volta le persone erano spontaneamente stanziali perché era difficile spostarsi.
>
> È ovvio quindi che simili posizioni non le troverai mai in forze politiche vicine al liberalismo/libertarismo.
>
> **Modificato dall'autore il 28.11.2023 15:56**

Mi inserisco nella discussione.

Rothbard ammetteva la libertà di discriminare per i privati, non per lo stato.

Una comunità non statuale avrebbe potuto liberamente scegliere di escludere forestieri.

Il film American Beauty fu nominato e non capisco perché vista la banalità della sua colonna sonora. Musica composta da Thomas Newman .

Questo è un altro esempio di colonna sonora non basata sulla musica classica, infatti mi sono rotto il cazzo a creare sto montaggio.


Il video VIMEO qui sotto, che contiene una selezione delle migliori parti della suite, è strutturato come segue:
00:00 Still Dead [tema principale]
02:49 American Beauty
05:57 Lunch With the King
08:25 Angela Undress
10:12 Weirdest Home Videos [variazione del tema principale]

VAI AL VIDEO VIMEO


**Modificato dall'autore il 28.11.2023 16:16**

Nella foto più a sinistra, chi è il bambino a destra?

Quello a sinistra sappiamo chi è, ma il sosia a destra?

Scritto da: Wakko Warner
> Scritto da:
> > Scritto da: Wakko Warner
> > > Scritto da:
> > > > La cosa mi rode perché non ho ancora capito nemmeno lontanamente e ad alto livello come funziona ChatGPT.
> >
> > > L'unica differenza è che non solo nessuno lo saprà, ma nessuno sarà nemmeno mai in grado di scoprirlo.
> >
> > È pericoloso - oltre che antiscientifico - creare cose che non si sa come funzionano,
>
> La scienza si occupa dello studio della natura, ma ci sono cose che non è affatto detto che riusciremo mai a capire perché il nostro cervello è per forza limitato e non può contenere una quantità infinita di informazioni ed elaborarle... questo per una macchina non è un problema.

Ci sono cose che non possiamo elaborare, capire è un'altra questione o almeno dovrebbe esserlo.

> Una macchina può accedere istantaneamente a tutte le cartelle cliniche di tutte le persone vive o morte su questo pianeta ed individuare dei pattern e da questi ricavarne delle regole o degli insegnamenti che noi semplicemente non potremmo mai individuare.

In base a metodi e principi di statistica che conosciamo, o almeno conosce chi li ha studiati.

> Non credo per esempio che ti rifiuteresti di usare una medicina che ti salva la vita da un cancro incurabile solo perché non sai come quella medicina funziona o perché magari nessuno sa come quella medicina funziona, a parte l'entità non umana che l'ha creata.
>
> Una macchina può tenere a mente l'intero circuito interno di una CPU e capire esattamente e in breve tempo se ci sono dei bug nella logica... cosa che un uomo non può fare. Una macchina può passare la sua conoscenza ad un'altra macchina simile in tempo quasi zero... a noi servono anni e anni solo per incominciare a parlare e far di conto e una 20ina di anni per diventare "esperti" in qualcosa.

Un conto è la capacità di elaborazione, un conto è creare qualcosa che può prendere il nostro posto, altro che gli arabi.

> E quanti passi avanti sono stati fatti usando cose senza capire come funzionavano? L'elettricità hanno cominciato ad usarla prima ancora di sapere che diavolo fosse un elettrone. Pensi che Tesla sapesse e capisse tutto quello con cui sperimentava? Era convinto di poter trasmettere enormi quantità di energia via aria tanto da riuscire ad alimentare intere città... oggi sappiamo che è una sciocchezza, ma lui ne era convinto e aveva anche fatto dei progetti per costruirle quelle enormi torri di alimentazione wireless.

Già, ho sempre trovato strano che uno con l'esperienza di Tesla fosse convinto di questo, come se il campo elettromagnetico non si attenuasse con la distanza o lui conoscesse un modo per concentrarlo e impedirlo.

Ma gli esperimenti su cose che non si conoscono sono anche stati fatti per conoscerle.

> Pensi che quelli che lavorano al Cern possano al 100% escludere che uno dei loro esperimenti non scateni qualcosa in grado di annientare l'umanità intera? Gli esperimenti si fanno proprio per capire le cose che non si conoscono.

Appunto.

> Almeno quelle che si possono capire ma la natura è fatta anche da cose che sono troppo complicate per il nostro patetico cervello da scimmia.

Finora abbiamo capito tutto quello che c'è da capire, anche dove non possiamo seguire i minuti dettagli.

> Se noti... fino a 100 anni fa le grandi scoperte scientifiche erano fatte da persone singole... pensa a Newton per esempio... oggi ti servono macchine che costano miliardi e interi squadroni di scienziati anche solo per scoprire una particella nuova. Perché? Perché la maggior parte delle cose semplici, quelle che un uomo solo poteva capire da solo, le abbiamo capite... adesso restano quelle difficili, quelle che richiedono 100 scienziati con 100 specializzazioni diverse e conoscenze diverse l'uno dall'altro. Ma si arriverà ad un punto in cui ci saranno cose che sono semplicemente troppo difficili anche per milioni di scienziati messi assieme perché bene o male le intelligenze e le conoscenze singole, oltre un certo punto, non si sommano più.

Questo è infatti un pericolo. L'intuizione l'ha il singolo ma le macchine per dimostrarla costano miliardi, e l'istruzione che permette al singolo di arrivarci costa anni. Vorrei che queste mirabolanti capacità fossero integrate nel nostro cervello, ma oggi non si sa come farlo.
Ci sono persone che fanno calcoli a mente perché nel loro cervello si è formato il circuito adatto, per un qualche capriccio del caso. Ci sono persone che dopo un incidente sono diventati capaci di comporre musica come un musicista. Quindi nel cervello si possono creare circuiti molto potenti, e questo vorrei fosse fatto, e dove non si può fare per limiti di dimensioni vorrei che le macchine intelligenti funzionassero come protesi del cervello.

Non mi spaventa l'impossibilità di seguire mentalmente ciò che il tuo stesso cervello sta facendo. Quando facevi il compito di matematica, eri conscio di tutto ciò che stavi facendo o all'improvviso ti veniva la soluzione, come se nel cervello avessi una calcolatrice che te la forniva? Una volta hai scritto un post sul pensiero non verbale, per me quello matematico è stato in genere pensiero ampiamente non verbale, a basso livello, al punto che a un certo punto mi sono spaventato e ho iniziato a sviluppare meglio il pensiero verbale, che verso la fine del liceo era piuttosato carente (una volta mi è venuto in mano un fumetto che avevo scritto circa a 18 anni, i miei fumetti erano lodati dai coetanei ma se lo leggessi resteresti basito che uno di 18 anni, un maggiorenne che può andare a votare, possieda capacità verbali così elementari).

> > soprattutto se queste cose ragionano. Almeno Hitler e Stalin si sa a grandi linee come funzionavano.
>
> Allora sei il primo uomo sulla faccia della Terra che sa come funziona un cervello umano...

Si sa qualcosa, ad alto livello, la psicologia è largamente empirica. Quello che mi spaventa è costruire cervelli artificiali prima di aver capito come funzionano i cervelli.

> Quando fai un figlio "costruisci" un'intelligenza a sé stante ed indipendente da te, e non è affatto detto che pensi come te, o provi i tuoi sentimenti... non ti serve sapere come funziona per "costruire" un figlio eppure la gente lo fa continuamente, nonostante i palesi pericoli che questo comporta.

Vero

> Lui è uno psicopatico, di quelli veri, non prova sentimenti come li provi tu, è molto intelligente, ma non sa cosa vuol dire provare pietà per qualcuno, o compassione, o affetto. Sa che gli altri umani queste cose le provano, ma lui no... lui le finge perché sa che facendo così ottiene qualcosa in cambio dalla società.
>
> Quando costruisci qualcosa... c'è sempre la possibilità che quella cosa in un modo o nell'altro finisca per ucciderti, soprattutto se si tratta di entità pensanti.

Una macchina pensante non può che essere uno psicopatico, se non vi inserisci appositamente circuiti in senso contrario. ChatGPT o Bing _fingono_ emozioni che non provano, non avendo organi per farlo, ma intanto già un coso simile, se possedesse interfacce verso il mondo reale, potrebbe provare a ucciderti per vedere che succede.