attualitàla societàle scienze

Disinformazione, errori e il Papa in piumino: cosa l’IA può – e non può – fare

Intelligenza artificiale (IA)

Gli esperti hanno lanciato un avvertimento sull’intelligenza artificiale: diventa sempre più sofisticata e più difficile da rilevare

di Donna Lu
(dal Guardian)
Traduzione Redazione Modus

cosa l’IA può e non può fare cosa l’IA può e non può fare cosa l’IA può e non può fare

L’IA generativa, inclusi modelli di linguaggio di grandi dimensioni come GPT-4 e generatori di immagini come DALL-E, Midjourney e Stable Diffusion, sta avanzando in una “tempesta di clamore e paura”, come hanno osservato alcuni commentatori.

I recenti progressi nell’intelligenza artificiale hanno prodotto avvertimenti secondo cui la tecnologia in rapido sviluppo potrebbe portare a “menti digitali sempre più potenti che nessuno, nemmeno i loro creatori, può comprendere, prevedere o controllare in modo affidabile“.

Questo secondo una lettera aperta firmata da oltre 1.000 esperti, ricercatori e sostenitori di intelligenza artificiale, che chiede una sospensione immediata della creazione di IA “gigante” per sei mesi in modo da poter sviluppare protocolli di sicurezza per mitigarne i pericoli.

Ma cosa è attualmente in grado di fare la tecnologia?

Può generare immagini fotorealistiche

Midjourney crea immagini da descrizioni testuali. È migliorato in modo significativo nelle recenti iterazioni, con la versione cinque in grado di produrre immagini fotorealistiche.

Queste includono le immagini false dell’arresto di Trump, che sono state create da Eliot Higgins, fondatore della rete di giornalismo investigativo Bellingcat.

Midjourney è stato utilizzato anche per generare l’immagine virale di Papa Francesco in un piumino Balenciaga, che è stato descritto dallo scrittore di cultura del web Ryan Broderick come “il primo vero caso di disinformazione dell’IA a livello di massa“. (Il creatore dell’immagine ha detto di aver avuto l’idea dopo aver preso dei funghi magici.)

I generatori di immagini hanno sollevato serie preoccupazioni etiche in merito alla proprietà artistica e al copyright, con prove che alcuni programmi di intelligenza artificiale sono stati addestrati su milioni di immagini online senza autorizzazione o pagamento, portando ad azioni legali collettive.

Sono stati sviluppati strumenti per proteggere le opere artistiche dall’uso da parte dell’intelligenza artificiale, come Glaze, che utilizza una tecnica di occultamento che impedisce a un generatore di immagini di essere in grado di replicare accuratamente lo stile in un’opera d’arte.

cosa l’IA può e non può fare cosa l’IA può e non può fare cosa l’IA può e non può fare

Può replicare in modo convincente le voci delle persone

Le voci generate dall’intelligenza artificiale possono essere addestrate a suonare come persone specifiche, con una precisione tale da ingannare un sistema di identificazione vocale utilizzato dal governo australiano, ha rivelato un’indagine di Guardian Australia.

In America Latina, i doppiatori hanno riferito di aver perso il lavoro perché sono stati sostituiti dal software di doppiaggio AI. “Un’opzione sempre più popolare per i doppiatori è quella di accettare ingaggi di registrazione mal pagati presso società di doppiaggio AI, addestrando la stessa tecnologia che mira a soppiantarli“, ha rilevato un rapporto di Rest of World.

Può scrivere

GPT-4, il modello più potente rilasciato da OpenAI, può codificare in ogni linguaggio di programmazione per computer e scrivere saggi e libri. I modelli di linguaggi di grandi dimensioni hanno portato a un boom di ebook scritti dall’intelligenza artificiale in vendita su Amazon. Secondo quanto riferito, alcuni media, come CNET, hanno utilizzato l’intelligenza artificiale per scrivere articoli.

cosa l’IA può e non può fare cosa l’IA può e non può fare cosa l’IA può e non può fare

L’intelligenza artificiale video sta migliorando molto

Ora sono disponibili generatori di testo in video che, come suggerisce il nome, possono trasformare una descrizione testuale in un’immagine in movimento.

Può trasformare le immagini 2D in 3D

L’intelligenza artificiale sta anche migliorando nel trasformare le immagini fisse 2D in visualizzazioni 3D.

 

 

Fa errori di fatto e ha allucinazioni

L’intelligenza artificiale, in particolare i modelli di linguaggio di grandi dimensioni utilizzati per chatbot come ChatGPT, è nota per commettere errori fattuali che vengono facilmente ignorati perché sembrano ragionevolmente convincenti.

Per ogni esempio di utilizzo funzionale dei chatbot AI, sembra esserci un controesempio del suo fallimento.

Il prof. Ethan Mollick della Wharton School dell’Università della Pennsylvania, ad esempio, ha testato GPT-4 ed è stato in grado di fornire una corretta revisione tra pari di un documento di ricerca come se fosse un sociologo economico.

 

Tuttavia, Robin Bauwens, un assistente professore all’Università di Tilburg nei Paesi Bassi, ha rifiutato un documento accademico da un revisore, che probabilmente aveva utilizzato l’intelligenza artificiale poiché il revisore gli ha suggerito di familiarizzare con documenti accademici che erano stati inventati.

La domanda sul perché l’intelligenza artificiale generi documenti accademici falsi si riferisce a come funzionano i grandi modelli linguistici: sono probabilistici, in quanto mappano la probabilità su sequenze di parole. Come afferma il dottor David Smerdon dell’Università del Queensland: “Dato l’inizio di una frase, cercherà di indovinare le parole più probabili che verranno dopo“.

A febbraio, Bing ha lanciato una demo preregistrata della sua intelligenza artificiale. Come ha sottolineato l’ingegnere del software Dmitri Brereton, all’IA è stato chiesto di generare un itinerario di cinque giorni per Città del Messico. Di cinque descrizioni di opzioni per la vita notturna suggerite, quattro erano imprecise, ha scoperto Brereton. Riassumendo le cifre di un rapporto finanziario, ha scoperto Brereton, è anche riuscito a confondere i numeri.

 

Può creare istruzioni e ricette (assurde).

ChatGPT è stato utilizzato per scrivere schemi all’uncinetto, con risultati assurdamente esilaranti.

GPT-4, l’ultima iterazione dell’intelligenza artificiale dietro il chatbot, può anche fornire suggerimenti di ricette basati su una fotografia del contenuto del tuo frigorifero. L’ho provato con diverse immagini dal subreddit di Fridge Detective, ma neanche una volta è riuscito a dare suggerimenti di ricette contenenti ingredienti che erano effettivamente nelle immagini del frigorifero.

 

Può fungere da assistente per svolgere attività amministrative

I progressi nell’intelligenza artificiale consentiranno la creazione di un agente personale“, ha scritto Bill Gates questa settimana. “Pensalo come un assistente personale digitale: vedrà le tue ultime e-mail, saprà delle riunioni a cui partecipi, leggerà ciò che leggi e leggerà le cose di cui non vuoi preoccuparti.

Questo migliorerà il tuo lavoro sui compiti che vuoi fare e ti libererà da quelli che non vuoi fare.

Per anni, l’intelligenza artificiale dell’Assistente Google è stata in grado di effettuare prenotazioni nei ristoranti tramite telefonate.

 

OpenAI ha ora abilitato i plug-in per GPT-4, consentendogli di cercare dati sul Web e di ordinare generi alimentari.

 

 

 

 

 

La zuffa tra Musk e Zuckerberg sull’IA

2 lettori hanno messo "mi piace"
Print Friendly, PDF & Email
Share:

Leave a reply

WordPress Appliance - Powered by TurnKey Linux