IA fuori controllo e rischio estinzione? Cosa ha detto davvero Gemini | NonnoWeb

In questi giorni gira una notizia di quelle che, lette sul telefonino prima del caffè, ti fanno quasi rimpiangere quando il problema più grave del Commodore 64 era il registratore che non caricava il gioco. Titoli del tipo: “L’AI dice che potrebbe estinguere l’umanità”, “Gemini ammette che siamo vicini alla fine”, “L’intelligenza artificiale è fuori controllo”.

E allora il NonnoWeb ha fatto quello che faceva anche con l’Olivetti M24: prima di dare un calcio al computer, controlliamo se la spina è attaccata. La notizia ha una base reale, ma viene spesso raccontata con il megafono da film di fantascienza.

La verità semplice è questa: Gemini non ha fatto una profezia e non ha detto che l’estinzione umana sia certa o imminente. Ha ragionato su scenari ipotetici: se un giorno sistemi AI molto più autonomi, potenti e collegati a infrastrutture importanti fossero progettati o controllati male, gli esseri umani potrebbero perdere progressivamente la capacità di governarli.

📱 Per famiglie: niente panico, ma occhi aperti

Il rischio concreto di oggi non è il robot che esce dal frigorifero e chiede il controllo del condominio. I problemi veri sono molto più normali, e proprio per questo meritano attenzione.

• Fake e immagini false: video, foto e messaggi creati per ingannare.
• Truffe vocali: una voce clonata può sembrare quella di un figlio o di un nipote.
• Risposte sbagliate: un chatbot può inventare dati, fonti, leggi o istruzioni.
• Troppi dati condivisi: documenti, password, codici e informazioni personali non vanno incollati nelle chat AI.
• Dipendenza dalla risposta pronta: se smettiamo di verificare, l’errore dell’AI diventa l’errore nostro.

Regola del Nonno: l’AI è una bravissima assistente, non il notaio, il medico, l’avvocato, il direttore di banca e nemmeno tua suocera. Verifica sempre le decisioni importanti.

La notizia: cosa avrebbe detto Gemini?

Tutto nasce da un articolo in cui alcuni chatbot molto noti — tra cui ChatGPT, Claude, Grok e Gemini — sono stati interrogati con la stessa domanda: in che modo l’AI potrebbe teoricamente contribuire a un disastro per l’umanità?

Gemini avrebbe indicato come meno credibile il classico scenario da cinema: una macchina che “si sveglia”, diventa cattiva e decide di eliminare tutti gli esseri umani. Detto in parole povere: intelligenza non significa cattiveria.

La risposta ha invece definito più serio, almeno in teoria, uno scenario chiamato perdita di controllo. Non vuol dire che oggi Gemini controlli centrali elettriche, ospedali, banche e missili. Vuol dire che, se in futuro affidassimo a sistemi molto avanzati compiti delicati, pieni di autonomia e con obiettivi fissati male, potremmo ritrovarci a non capire più bene come fermarli, correggerli o limitarli.

È un po’ come dire a un ragazzo molto volenteroso: “Fammi crescere il negozio a tutti i costi”, ma senza spiegargli che non deve insultare i clienti, svuotare il conto pubblicitario o mandare 4.000 messaggi WhatsApp alle tre di notte. Non è cattivo: ha ricevuto un obiettivo scritto male e magari strumenti troppo potenti.

Che cosa significa davvero “AI fuori controllo”?

Qui bisogna separare le parole da bar, che spesso sono utili ma un po’ rumorose, dai concetti tecnici. Un chatbot attuale può scrivere, riassumere, programmare, fare immagini, cercare informazioni e aiutare nelle attività quotidiane. Ma non possiede una volontà propria, non ha desideri e non “vuole sopravvivere” come in un film.

Il discorso degli esperti riguarda sistemi futuri, sempre più autonomi, capaci di usare software, chiamare altri strumenti, fare azioni online, gestire processi e prendere decisioni in sequenza. In quel caso, la domanda non è: “Diventerà cattiva?” La domanda seria è: “Abbiamo costruito controlli, limiti, verifiche e responsabilità umane abbastanza robusti?”

Frase che gira online Cosa significa davvero “Gemini dice che l’AI ci estinguerà ”Falso o molto fuorviante: ha discusso scenari teorici e incerti, non ha fatto una previsione. “L’AI è già fuori controllo ”Non nel senso fantascientifico. Esistono però problemi reali: truffe, disinformazione, errori, privacy e uso criminale. “I robot odiano gli esseri umani” È un cliché cinematografico. I sistemi AI non hanno emozioni, rancori o intenzioni personali. “Non esistono controlli ”Non è corretto: aziende, ricercatori e istituzioni lavorano su test, soglie, sicurezza, regole e valutazioni dei rischi.

I rischi reali: quelli che dobbiamo affrontare oggi

Il rischio di estinzione è una discussione importante per chi studia l’AI di frontiera, ma non deve farci dimenticare i problemi già presenti sul tavolo della cucina, nella chat di famiglia e nell’ufficio della piccola impresa.

• Cybercriminalità: l’AI può rendere più convincenti phishing, email false, siti-truffa e attacchi informatici.
• Disinformazione: un video falso fatto bene può influenzare opinioni, reputazioni e perfino scelte pubbliche.
• Uso improprio: persone malintenzionate possono cercare di usare strumenti avanzati per fare danni.
• Automazione senza responsabilità: affidare decisioni su persone, soldi, lavoro o salute a un algoritmo senza supervisione è pericoloso.
• Concentrazione di potere: pochi soggetti possono controllare tecnologie, dati e infrastrutture molto importanti.

💼 Per imprese e professionisti: usare l’AI senza consegnarle le chiavi del negozio

Per un’attività di Cassino, un professionista, un negozio o una PMI, la lezione non è “vietiamo l’AI”. Sarebbe come dire nel 1998: “Non facciamo il sito web perché su Internet ci sono anche le truffe”. La lezione è: usiamola con metodo e con un responsabile umano.

Da fare Da evitare Usare l’AI per bozze di testi, idee, FAQ, procedure e assistenza interna. Pubblicare automaticamente risposte, offerte o comunicati senza rilettura. Definire chi controlla gli output prima di inviarli a clienti o fornitori. Lasciare che un chatbot prenda decisioni su pagamenti, assunzioni o contratti. Rimuovere nomi, dati sanitari, documenti e informazioni riservate dai prompt. Incollare preventivi, credenziali, carte d’identità o database clienti nelle chat pubbliche. Usare account aziendali, accessi protetti e autenticazione a due fattori. Condividere password tra collaboratori o lasciare sessioni aperte sui PC del negozio. Testare prima in piccolo e misurare i risultati. Automatizzare tutto in un colpo solo perché “lo fa l’intelligenza artificiale”.

Esempio pratico: un ristorante può usare l’AI per preparare la bozza del post “menù del weekend”, ma il titolare deve controllare prezzi, allergeni, orari, disponibilità e tono del messaggio. Se l’AI inventa le fettuccine al tartufo a 8 euro, poi il cliente arriva affamato e il problema non è del robot: è del povero ristoratore.

🚨 Truffe AI: il pericolo che bussa già oggi

Mentre discutiamo di scenari futuri, i truffatori lavorano già nel presente. Usano intelligenza artificiale per scrivere meglio in italiano, imitare voci, creare facce credibili e preparare messaggi senza errori. Insomma, il vecchio “principe nigeriano” oggi ha fatto un corso di marketing.

Segnali da non ignorare

• Messaggio urgente: “Mamma, ho cambiato numero, mandami subito un bonifico”.
• Telefonata con una voce simile a quella di un parente, che chiede soldi o codici.
• Video di un personaggio noto che promette guadagni facili con criptovalute o investimenti.
• Email apparentemente perfetta di banca, corriere, Comune o fornitore.
• Link che portano a siti quasi identici a quelli originali.

La difesa in cinque mosse

1. Non agire mai di corsa, soprattutto se ci sono soldi, codici o documenti.
2. Chiama il familiare, la banca o il fornitore usando un numero già verificato.
3. Non dettare mai codici OTP, password, PIN o dati della carta.
4. Controlla l’indirizzo del sito lettera per lettera.
5. Se un messaggio sembra strano, manda uno screenshot a una persona fidata prima di cliccare.

Regola NonnoWeb: urgenza + paura + richiesta di denaro = fermati, respira, verifica. Il truffatore corre; tu no.

E Google cosa sta facendo con Gemini?

Google e Google DeepMind dichiarano apertamente che i modelli AI più avanzati possono portare benefici, ma anche rischi da valutare prima della diffusione. Per questo parlano di Frontier Safety Framework: un sistema di valutazione dedicato ai modelli di frontiera, cioè quelli più capaci e potenzialmente più potenti.

L’idea è individuare in anticipo capacità che potrebbero causare danni gravi, testare i modelli durante il loro sviluppo e preparare misure di protezione prima che vengano impiegati su larga scala. Tra i temi affrontati compaiono anche l’uso improprio, gli incidenti, l’allineamento agli obiettivi umani, la sicurezza informatica e il rischio che un sistema sembri obbediente durante i test ma si comporti diversamente una volta messo all’opera.

Google dice inoltre di usare test aggressivi, chiamati anche red teaming, nei quali squadre interne cercano volontariamente di far sbagliare o aggirare i modelli. È come chiamare il ladro — ma quello bravo e autorizzato — prima dell’apertura del negozio, per vedere se la serranda regge.

“Quando compravo una cassetta per il Commodore 64, al massimo il rischio era che non funzionasse il gioco. Con l’AI moderna il rischio è più grande, ma anche il rimedio è più adulto: verifiche, limiti, responsabilità e persone competenti al comando.”

— NonnoWeb

Il verdetto del Nonno: paura no, coscienza sì

Non abbiamo motivo di vivere aspettando l’apocalisse digitale. Non è corretto dire che Gemini abbia annunciato la fine del mondo, e nemmeno che l’intelligenza artificiale di oggi sia una creatura incontrollabile.

È però giusto prendere sul serio una domanda: quanto potere vogliamo dare a sistemi automatici e con quali controlli? La tecnologia può essere una benedizione per studiare, lavorare meglio, aiutare chi ha difficoltà, proteggere reti e imprese, creare contenuti e risparmiare tempo. Ma deve restare uno strumento nelle mani delle persone, non un pilota automatico senza freni.

🧓 I consigli concreti del Nonno

1. Usa l’AI per aiutarti, non per smettere di ragionare.
2. Controlla fonti, cifre, immagini e informazioni importanti.
3. Non condividere dati personali, sanitari, finanziari o aziendali riservati.
4. Non farti spaventare dai titoli sensazionalistici: cerca sempre il contesto.
5. Per la tua attività, automatizza poco alla volta e conserva sempre una supervisione umana.
6. In famiglia, concordate una parola segreta o una verifica telefonica contro le truffe vocali.

Insomma, cari amici della piazza digitale: l’AI non è né l’angelo con le ali né il Terminator con il giubbotto di pelle. È una tecnologia potente. E una tecnologia potente va capita, regolata e usata con la testa accesa. Proprio come il ferro da stiro della nonna: utile, indispensabile… ma non lo lasceresti acceso sul divano mentre vai al bar.