Forum libero

Scritto da:
> Ci sono cose che non possiamo elaborare, capire è un'altra questione o almeno dovrebbe esserlo.

Ho fatto l'esempio di una IA che mentre ti visita è in grado di elaborare le cartelle cliniche di miliardi di altre persone ed individuare pattern che un medico normale non sarebbe mai in grado di individuare perché a differenza dell'IA non ha accesso istantaneo a miliardi di cartelle cliniche per confrontarle con i tuoi sintomi, o le tue radiografie, o le tue ecografie, o i tuoi esami del sangue, ecc.

Certe cose per capirle devi prima essere in grado di elaborarle, oppure richiedono una conoscenza tale da essere al di là della capacità cognitiva di un essere umano.
Nella vita puoi diventare esperto in un paio di settori... una IA potrebbe esserlo in _tutti_ i settori. A volte per capire qualcosa dovresti essere un esperto in 4 o 5 campi diversi, puoi ovviare mettendo 4 o 5 esperti assieme (ammesso che tu sappia che le loro conoscenze sono rilevanti per capire un dato problema) ma a quel punto hai comunque problemi di fraintendimenti e difficoltà di comunicare le cose fra loro perché gli esperti tendono ad esprimersi con parole che gli altri non conoscono.

Ci sono poi i casi in cui per capire le cose devi crearti nuovi strumenti concettuali per essere in grado di capirle, chessò, scoprire nuovi teoremi matematici. Una IA potrebbe mettersi lì e creare una matematica tutta sua per capire qualcosa e tu che quella matematica non la conosci (o è così complessa che non riusciresti mai a comprenderla del tutto) non ci arriveresti mai a capire perché quella IA è giunta alle conclusioni a cui è giunta nemmeno se cercasse di spiegartelo.

Per farti un esempio... la dimostrazione che 1+1=2 in Principia Mathematica richiede ben 162 pagine di passaggi logici... e si tratta di pagine di questo tipo

Una macchina può leggerle e capirle immediatamente, tu probabilmente avresti bisogno di svariati mesi (prima devi capire e ricordare la simbologia usata, poi devi studiarti i teoremi usati, ecc ecc ecc).

> In base a metodi e principi di statistica che conosciamo, o almeno conosce chi li ha studiati.

In base ai metodi e principi matematici che conosciamo non siamo in grado di fare quello che AlphaFold fa in pochi secondi... come fa? Boh. Di sicuro non usando i metodi che usiamo noi.

Per farti un confronto... a noi ci sono voluti 60 anni per capire come si piegano 170'000 proteine usando tutte le conoscenze che abbiamo e gli strumenti più avanzati che possediamo.

AlphaFold nel 2021 ha pubblicato la struttura di 365'000 proteine. Nel 2022 il numero è salito a 200 milioni.

Meta AI, una IA rivale di AlphaFold, nel 2022 ha predetto la struttura 600 milioni di proteine.

Alla fine della fiera, come ci sono arrivate non ha importanza, l'importante è che ci sono arrivate perché ora quella conoscenza ci è utile per creare medicine prima impensabili.

> Un conto è la capacità di elaborazione, un conto è creare qualcosa che può prendere il nostro posto, altro che gli arabi.

Noi, come specie, abbiamo sempre la tendenza a metterci su un piedistallo. È da tutta la storia umana che lo facciamo. Na la natura di quello che pensiamo noi se ne sbatte... l'evoluzione va avanti comunque e noi ne facciamo interamente parte. Se creiamo delle intelligenze senzienti questo fa comunque parte del processo evolutivo che ha semplicemente usato noi per arrivare a nuove forme di vita, migliori della nostra (più resistenti, più veloci, più intelligenti, non soggette a tutti i problemi che hanno gli esseri biologici, ecc).

Io sono sempre più convinto che alla fine un robot sia la creatura più adatta per vivere in questa realtà. Un robot non ha caldo o freddo, un robot non ha fame o sete, un robot non ha bisogno della luce del Sole, un robot non ha bisogno dell'aria, un robot può mettersi in standby e affrontare anche migliaia di anni di viaggio nello spazio senza nemmeno rendersi conto che è passato più di qualche secondo, un robot non fa fatica e non si stanca, una IA è una coscienza completamente scollegata dal corpo di un robot, quindi il corpo di un robot è perfettamente sacrificabile.

Prova a pensare a tutte le limitazioni che abbiamo noi. A meno che non si scopra un modo per andare a velocità prossime o superiori a quelle della luce siamo letteralmente confinati su questo pianeta (e di conseguenza a morire con esso o comunque con questo sistema solare).

Le macchine senzienti che potremmo creare avranno l'opportunità di diffondersi in tutta la galassia perché per loro il tempo non ha importanza, come non ha importanza la radioattività o la mancanza di aria nel vuoto dello spazio. Io non le vedo in modo molto diverso da dei figli naturali. Saranno loro a colonizzare la galassia, non noi. Loro esisteranno a lungo dopo la nostra scomparsa come specie e come forma di vita... e con loro sopravvivrà la nostra memoria. Un giorno forse incontreranno altre forme di vita su altri pianeti... e potranno raccontare loro la nostra storia... la storia di quegli esseri biologici estinti oramai da milioni di anni che li hanno creati a loro immagine e somiglianza... e magari quegli alieni potranno visitare il forum dei troll e leggere quello che gatto scriveva milioni di anni fa.

C'è la possibilità che una IA distrugga la specie umana? Certo, come c'è la possibilità che Putler usi le armi nucleari e scateni una guerra che avrà lo stesso risultato. Tutti si fissano sulla possibilità che l'IA che creiamo sia "malvagia", ma abbiamo innumerevoli esempi di esseri umani "malvagi" che sono fra noi e che fanno danni ben più che ipotetici e hanno già a disposizione armi che una IA non ha.

> Già, ho sempre trovato strano che uno con l'esperienza di Tesla fosse convinto di questo, come se il campo elettromagnetico non si attenuasse con la distanza o lui conoscesse un modo per concentrarlo e impedirlo.
>
> Ma gli esperimenti su cose che non si conoscono sono anche stati fatti per conoscerle.

Anche, certo. Ma non è detto che sia necessario conoscere come funziona una cosa per poterla usare. Noi abbiamo usato il fuoco molto molto prima di capire di cosa fosse fatto o perché riscaldasse le stanze e il cibo o perché emettesse luce utile la notte per allontanare i predatori e vedere nel buio.

> Finora abbiamo capito tutto quello che c'è da capire, anche dove non possiamo seguire i minuti dettagli.

Beh... l'autocoscienza ancora non sappiamo cos'è. Ci sono solo molte teorie contrastanti al riguardo. Crearne una in laboratorio, anche senza sapere come ci si è riusciti, aiuterebbe a sfoltire tutte quelle teorie. Se riuscissimo per esempio a crearne una come ChatGPT, potremmo per esempio escludere che si tratti di una proprietà della materia derivante da effetti quantistici che non capiamo/conosciamo.

> Questo è infatti un pericolo. L'intuizione l'ha il singolo ma le macchine per dimostrarla costano miliardi, e l'istruzione che permette al singolo di arrivarci costa anni. Vorrei che queste mirabolanti capacità fossero integrate nel nostro cervello, ma oggi non si sa come farlo.
> Ci sono persone che fanno calcoli a mente perché nel loro cervello si è formato il circuito adatto, per un qualche capriccio del caso. Ci sono persone che dopo un incidente sono diventati capaci di comporre musica come un musicista. Quindi nel cervello si possono creare circuiti molto potenti, e questo vorrei fosse fatto, e dove non si può fare per limiti di dimensioni vorrei che le macchine intelligenti funzionassero come protesi del cervello.

Ti offriresti come volontario per esperimenti in tal senso? Diresti davvero a qualcuno "guarda, aprimi pure la testa e prova a creare un circuito in grado di farmi fare i conti il più velocemente possibile"? Oppure diresti ad Elon Musk "impiantami pure il tuo Neuralink nell'encefalo"?

https://www.wired.com/story/elon-musk-pcrm-neurali...

Io sinceramente no... in generale tutti gli interventi che devono in qualche modo "aprirmi" mi fanno paura. Se poi si tratta di andare a toccare il cervello... io se posso decidere passo... non voglio ritrovarmi sordo, muto, cieco e immobilizzato su un letto per i prossimi 40 anni. La morte è di gran lunga preferibile a quel punto.

> Non mi spaventa l'impossibilità di seguire mentalmente ciò che il tuo stesso cervello sta facendo. Quando facevi il compito di matematica, eri conscio di tutto ciò che stavi facendo o all'improvviso ti veniva la soluzione, come se nel cervello avessi una calcolatrice che te la forniva? Una volta hai scritto un post sul pensiero non verbale, per me quello matematico è stato in genere pensiero ampiamente non verbale, a basso livello, al punto che a un certo punto mi sono spaventato e ho iniziato a sviluppare meglio il pensiero verbale, che verso la fine del liceo era piuttosato carente (una volta mi è venuto in mano un fumetto che avevo scritto circa a 18 anni, i miei fumetti erano lodati dai coetanei ma se lo leggessi resteresti basito che uno di 18 anni, un maggiorenne che può andare a votare, possieda capacità verbali così elementari).

Sono sempre più convinto che ciò che limita davvero gli animali (per esempio quelli domestici) sia proprio una mancanza di linguaggio. Non essendo in grado di parlare, e quindi non avendo a disposizione quelle che chiamiamo "parole" limita la loro possibilità di ragionare sulle cose (soprattutto quelle astratte) come facciamo noi. Il loro pensiero si limita ai sentimenti, ai loro bisogno primari o poco più. Se non avessi la possibilità di usare le parole, come formeresti i tuoi pensieri? Probabilmente sarebbero pensieri semplici, strettamente legati ai sentimenti o ai tuoi bisogni primari.

Mi viene sempre in mente il racconto di quel tipo che era andato in Africa e aveva scoperto che certe parole in Zulu non esistevano e che questo si rifletteva nel loro comportamento. Non avendo le parole per definire concetti come "essere in debito" verso qualcuno (non necessariamente un debito economico), non si sentivano mai in debito verso nessuno. Non avendo parole che riguardassero le azioni future non erano in grado di pensare al di là del presente e di conseguenza di prevedere le conseguenze a medio e lungo termine delle loro azioni. Ora... non so se è vero... ma avrebbe molto molto senso se lo fosse.

Le parole ci permettono di creare i nostri ragionamenti. Avere almeno un set base di parole da utilizzare è fondamentale per creare ragionamenti più complessi di "ho paura quindi scappo" e non avere parole che definiscono un concetto astratto... significa che è molto molto difficile per noi ragionare su quel concetto.

Prova a pensarci, se non avessi le parole e il linguaggio... di che tipo sarebbero i tuoi pensieri? Come faresti a pensare senza un dialogo interno? Riusciresti a formulare pensieri complessi?

> Una macchina pensante non può che essere uno psicopatico, se non vi inserisci appositamente circuiti in senso contrario. ChatGPT o Bing _fingono_ emozioni che non provano, non avendo organi per farlo, ma intanto già un coso simile, se possedesse interfacce verso il mondo reale, potrebbe provare a ucciderti per vedere che succede.

Infatti stanno cercando di fare di tutto per trasmettere alle IA che creano valori umani.
Il problema semmai che vedo io è "chi decide quali sono questi valori?".

Se provi a chiedere a ChatGPT come si fa la nitroglicerina si rifiuta di risponderti. In altre parole quelli di OpenAI pensano di essere tua mamma e decidono cosa tu devi poter chiedere alla loro IA.

La cosa poi è particolarmente sciocca, perché nessuno può impedire a qualcun altro (con abbastanza soldi) di crearsi la propria IA senza alcuna restrizione di sorta... senza contare che paesi come Russia e Cina non si faranno tante seghe mentali al riguardo. Oramai il genio è fuori dalla bottiglia.