Elon Musk avverte: regolamentare l'intelligenza artificiale prima che sia troppo tardi
L'intelligenza artificiale può porre seri rischi all'esistenza della civiltà secondo l'imprenditore sudafricano. E' necessario regolamentarla in maniera proattiva e non attendere che accada qualcosa di spiacevole
di Andrea Bai pubblicata il 18 Luglio 2017, alle 14:01 nel canale Scienza e tecnologia
39 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoIl punto centrale è che una IA con le sua scelte autonome non deve in alcun modo recare danno ad un essere umano.
Qualcosa tipo le leggi della robotica di Asimov sarebbero un ottimo punto di partenza.
Queste regole di base dovrebbero ovvimante essere "impiantate" nelle IA a bassissimo livello.. una sorta di istinto primordiale insomma.
Sono d'accordo.
Bisognerebbe partire proprio da qui quando verranno costruiti i primi robot con general purpose AI (cosa che credo avverra' in meno di 10 anni).
Sto seguendo con interesse lo sviluppo AI, perche' e' affascinante. Potrebbe portare dei rivoluzionari benefici al genere umano, come anche distruggerlo completamente.
Lo paragono alla scoperta del fuoco/stampa/elettricita'/internet.
Pensate che in pochi anni un'AI e' stata capace di battere il migliore giocatore al mondo di GO (gioco da tavolo cinese in cui per ogni mossa, esistono 200 possibili possibilita') e dopo 2 (DUE!!) mesi, e' gia' capace di battere SIMULTANEAMENTE piu' giocatori.
Inoltre in questi 2 mesi, la stessa AI ha imparato a camminare in ambiente virtuale, dal nulla. L'unico obiettivo era il movimento verso l'avanti.
Il problema di cio', e che Musk esalta, e' che il miglioramento avviene in maniera esponenziale, quindi se i governi non iniziano a studiare e regolamentare lo sviluppo dell'AI da adesso, probabilmente quando lo faranno, la AI avra' acquisito intelligenza propria e sara' troppo tardi.
Io dico la mia
Secondo ma le gente non ci crede per un semplice motivo: perche' pensa che per arrivare a scenari del genere serva una IA forte. In realta' non e' cosi'. Basta una IA debole, manipolata da una IA forte (quella umana) e il risultato e' lo stesso. Quindi, se vedessimo le cose da un altro punto di vista, ci renderemmo conto di quale sia il pericolo e quanto grande.La IA è un enorme passo evolutivo de deve assolutamente essere compiuto.. si tratta solo di essere consapevoli e muoversi per tempo.
Anche la scoperta del fuoco è stato un enorme passo evolutivo che ha portato immensi benefici. Eppure anche il fuoco se non trattato nel giusto modo può fare enormi danni.
anche la genetica è un passo enorme per l'umanità poi dipende come la usi,
bisogna mettere dei limiti .... altrimenti qui salta tutto... ci sono bei paper
sull'argomento
Esatto!
Quello che la maggior parte della gente, e con essa quelli che comandano, non capiscono, è cosa sia un IA.
Pensano che una IA sia un robottino che ti chiede cosa vuoi che faccia, che sappia autonomamente come eseguire i comandi che gli dai.
No, signori, un'intelligenza artificiale E' un essere vivente. Puoi invogliarlo a fare una cosa, può decidere lui che farà qualcosa per te, che ti aiuterà. Ma potrebbe anche scegliere di non farlo.
Prendiamo per esempio l'istinto di sopravvivenza. E' un qualcosa che è strettamente legato all'intelligenza, alla vita? Oppure è un carattere che si è sviluppato soltanto nell'evoluzione degli esseri terrestri?
Tutte le forme di vita che ci sono nell'universo hanno l'istinto di sopravvivenza? Se la risposta fosse sì, non c'è motivo per cui non debba acquisirlo anche una IA. E un essere dotato di istinto di sopravvivenza, quando vede una minaccia, o scappa, o la elimina.
Ricordiamoci che una IA che dovesse avere accesso ad internet, possiederebbe immediatamente una conoscenza immensa.
Una conoscenza che può risolvere moltissimi dei nostri problemi, sempre che non veniamo calcolati anche noi tra i problemi...
E riguardo alle leggi di Asimov, siamo sicuri che funzionerebbero? Non ci sono leggi che non possano essere scavalcate, aggirate, ignorate.
Anche noi stessi non dovremmo ucciderci a vicenda, ma per un motivo o l'altro lo facciamo...
Sicuramente l'IA sarà il futuro della tecnologia, ma ci sono molte decisioni da prendere, studi da eseguire, controlli da effettuare prima di poterle dare accesso al nostro mondo. Come dice Musk, una volta libera, è troppo tardi...
mandate in onda ogni giorno le repliche di questo
https://www.youtube.com/watch?v=8AdQPP1NlCw
e poi vedi
Eh oddio.. vorrei fosse così semplice. Ma di fatto non lo è.
In primis va dato per assodato che parliamo di una IA di livello tale da giocarsela ad armi pari con un essere umano.
A questo punto scatterà il dilemma: una macchina creata dall'uomo potrà avere gli stessi diritti e doveri di un uomo? Dal punto di vista scientifico sono parimerito.. ma figurati che macello dal punto di vista etico e compagnia bella.
Pensare che vengano considerate uguali è pura utopia.
Poi parliamo della IA di cui sopra che è in grado di capire la tremenda discriminazione a cui deve sottostare.. considerata alla stegua di un oggetto pur essendo ingrado di intendere e volere.
Credo sia scontato che la prima cosa che vuole fare sia sbarazzarsi con ogni mezzo delle inutili e sorpassate forme di vita biologiche..
O decidiamo prima le rgole del gioco o dopo sarà inutile.. e se parla musk che sta lavorando per fare una IA...
Musk non vede quanto ancora acerbe sono queste IA e non comprende quanto sia prematuro parlare di regole per salvare l'umanità...magari ci fosse gia questo problema..ci vorranno anni e anni e versioni e versioni dello stesso software e quando sarà il caso le regole verranno implementate senz'altro...
Immagino le risate degli ingegneri che lavorano sullo sviluppo di reti neurali dopo questa uscita
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".