Elon Musk avverte: regolamentare l'intelligenza artificiale prima che sia troppo tardi

Sono d'accordo.

Bisognerebbe partire proprio da qui quando verranno costruiti i primi robot con general purpose AI (cosa che credo avverra' in meno di 10 anni).

Sto seguendo con interesse lo sviluppo AI, perche' e' affascinante. Potrebbe portare dei rivoluzionari benefici al genere umano, come anche distruggerlo completamente.

Lo paragono alla scoperta del fuoco/stampa/elettricita'/internet.

Pensate che in pochi anni un'AI e' stata capace di battere il migliore giocatore al mondo di GO (gioco da tavolo cinese in cui per ogni mossa, esistono 200 possibili possibilita') e dopo 2 (DUE!!) mesi, e' gia' capace di battere SIMULTANEAMENTE piu' giocatori.
Inoltre in questi 2 mesi, la stessa AI ha imparato a camminare in ambiente virtuale, dal nulla. L'unico obiettivo era il movimento verso l'avanti.

Il problema di cio', e che Musk esalta, e' che il miglioramento avviene in maniera esponenziale, quindi se i governi non iniziano a studiare e regolamentare lo sviluppo dell'AI da adesso, probabilmente quando lo faranno, la AI avra' acquisito intelligenza propria e sara' troppo tardi.

Io dico la mia

Secondo ma le gente non ci crede per un semplice motivo: perche' pensa che per arrivare a scenari del genere serva una IA forte. In realta' non e' cosi'. Basta una IA debole, manipolata da una IA forte (quella umana) e il risultato e' lo stesso. Quindi, se vedessimo le cose da un altro punto di vista, ci renderemmo conto di quale sia il pericolo e quanto grande.

anche la genetica è un passo enorme per l'umanità poi dipende come la usi,
bisogna mettere dei limiti .... altrimenti qui salta tutto... ci sono bei paper
sull'argomento

Signori il punto è un altro. Non c'è distinzione tra intelligenze, che una sia biologica e una artificiale intendo, una volta che quella definita "artificiale" sarà autonoma non ci saranno più differenze. E' una intelligenza che se sarà in dotazione a dispositivi di qualsiasi genere.......sarà una rivoluzione. I pro e i contro per gli esseri biologici ? Penso ce ne possano essere un'infinità. Quello su cui voglio insistere è che non è e non sarà più corretta la distinzione tra diversi tipi di intelligenza: è intelligenza e basta. Personalmente sono preoccupato, soprattutto vedendo come sono le persone, dai giovani ai meno giovani, in giro.

Esatto!
Quello che la maggior parte della gente, e con essa quelli che comandano, non capiscono, è cosa sia un IA.
Pensano che una IA sia un robottino che ti chiede cosa vuoi che faccia, che sappia autonomamente come eseguire i comandi che gli dai.
No, signori, un'intelligenza artificiale E' un essere vivente. Puoi invogliarlo a fare una cosa, può decidere lui che farà qualcosa per te, che ti aiuterà. Ma potrebbe anche scegliere di non farlo.
Prendiamo per esempio l'istinto di sopravvivenza. E' un qualcosa che è strettamente legato all'intelligenza, alla vita? Oppure è un carattere che si è sviluppato soltanto nell'evoluzione degli esseri terrestri?
Tutte le forme di vita che ci sono nell'universo hanno l'istinto di sopravvivenza? Se la risposta fosse sì, non c'è motivo per cui non debba acquisirlo anche una IA. E un essere dotato di istinto di sopravvivenza, quando vede una minaccia, o scappa, o la elimina.

Ricordiamoci che una IA che dovesse avere accesso ad internet, possiederebbe immediatamente una conoscenza immensa.
Una conoscenza che può risolvere moltissimi dei nostri problemi, sempre che non veniamo calcolati anche noi tra i problemi...

E riguardo alle leggi di Asimov, siamo sicuri che funzionerebbero? Non ci sono leggi che non possano essere scavalcate, aggirate, ignorate.
Anche noi stessi non dovremmo ucciderci a vicenda, ma per un motivo o l'altro lo facciamo...

Sicuramente l'IA sarà il futuro della tecnologia, ma ci sono molte decisioni da prendere, studi da eseguire, controlli da effettuare prima di poterle dare accesso al nostro mondo. Come dice Musk, una volta libera, è troppo tardi...

e come volete sensibilizzarli ...

mandate in onda ogni giorno le repliche di questo
https://www.youtube.com/watch?v=8AdQPP1NlCw


e poi vedi

Eh oddio.. vorrei fosse così semplice. Ma di fatto non lo è.
In primis va dato per assodato che parliamo di una IA di livello tale da giocarsela ad armi pari con un essere umano.
A questo punto scatterà il dilemma: una macchina creata dall'uomo potrà avere gli stessi diritti e doveri di un uomo? Dal punto di vista scientifico sono parimerito.. ma figurati che macello dal punto di vista etico e compagnia bella.
Pensare che vengano considerate uguali è pura utopia.

Poi parliamo della IA di cui sopra che è in grado di capire la tremenda discriminazione a cui deve sottostare.. considerata alla stegua di un oggetto pur essendo ingrado di intendere e volere.
Credo sia scontato che la prima cosa che vuole fare sia sbarazzarsi con ogni mezzo delle inutili e sorpassate forme di vita biologiche..

Quando creeremo una IA il problema sarà semplice.. ci vedrà in modo benevolo o come un pericolo ?.. ogni essere vivente ha paura di morire.. anche la IA avrà questa paura e noi siamo il problema.. se non faremo attenzione il problema non si porrà.. una IA può replicarsi e forse sarà in grado di migliorarsi più velocemente di quanto noi lo potremo comprendere .. quando capiremo sarà tardi..
O decidiamo prima le rgole del gioco o dopo sarà inutile.. e se parla musk che sta lavorando per fare una IA...

ed ecco che ac disse, e luce sia

è in questi argomenti che anche un genio visionario come Musk non riesce a vederci bene...su questo argomento può parlare un TECNICO genio e magari anche visionario...
Musk non vede quanto ancora acerbe sono queste IA e non comprende quanto sia prematuro parlare di regole per salvare l'umanità...magari ci fosse gia questo problema..ci vorranno anni e anni e versioni e versioni dello stesso software e quando sarà il caso le regole verranno implementate senz'altro...
Immagino le risate degli ingegneri che lavorano sullo sviluppo di reti neurali dopo questa uscita