Intelligenza artificiale (IA)

Gli esperti hanno lanciato un avvertimento sull’intelligenza artificiale: diventa sempre più sofisticata e più difficile da rilevare

di Donna Lu
(dal Guardian)
Traduzione Redazione Modus

cosa l’IA può e non può fare cosa l’IA può e non può fare cosa l’IA può e non può fare

L’IA generativa, inclusi modelli di linguaggio di grandi dimensioni come GPT-4 e generatori di immagini come DALL-E, Midjourney e Stable Diffusion, sta avanzando in una “tempesta di clamore e paura”, come hanno osservato alcuni commentatori.

I recenti progressi nell’intelligenza artificiale hanno prodotto avvertimenti secondo cui la tecnologia in rapido sviluppo potrebbe portare a “menti digitali sempre più potenti che nessuno, nemmeno i loro creatori, può comprendere, prevedere o controllare in modo affidabile“.

Questo secondo una lettera aperta firmata da oltre 1.000 esperti, ricercatori e sostenitori di intelligenza artificiale, che chiede una sospensione immediata della creazione di IA “gigante” per sei mesi in modo da poter sviluppare protocolli di sicurezza per mitigarne i pericoli.

Ma cosa è attualmente in grado di fare la tecnologia?

Può generare immagini fotorealistiche

Midjourney crea immagini da descrizioni testuali. È migliorato in modo significativo nelle recenti iterazioni, con la versione cinque in grado di produrre immagini fotorealistiche.

Incredible to see so much Gen AI progress in one year

Credit: https://t.co/wyQIILjPss pic.twitter.com/fJwJq492Tc

Midjourney v5 has pushed into photorealism, a goal which has eluded the computer graphics industry for decades (!) 🤯

Insane progression, and all that by 11 people with a shared dream.

🧵 Let’s explore what these breakthrough in Generative AI mean for 3D & VFX as we know it… pic.twitter.com/GlycHcPQqA

— Bilawal Sidhu (@bilawalsidhu) March 25, 2023

— Kris Kashtanova (@icreatelife) March 23, 2023

Queste includono le immagini false dell’arresto di Trump, che sono state create da Eliot Higgins, fondatore della rete di giornalismo investigativo Bellingcat.

Making pictures of Trump getting arrested while waiting for Trump’s arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

Midjourney è stato utilizzato anche per generare l’immagine virale di Papa Francesco in un piumino Balenciaga, che è stato descritto dallo scrittore di cultura del web Ryan Broderick come “il primo vero caso di disinformazione dell’IA a livello di massa“. (Il creatore dell’immagine ha detto di aver avuto l’idea dopo aver preso dei funghi magici.)

AI-generated image of Pope Francis goes viral on social media. pic.twitter.com/ebfLK4F850

— Pop Base (@PopBase) March 25, 2023

I generatori di immagini hanno sollevato serie preoccupazioni etiche in merito alla proprietà artistica e al copyright, con prove che alcuni programmi di intelligenza artificiale sono stati addestrati su milioni di immagini online senza autorizzazione o pagamento, portando ad azioni legali collettive.

Sono stati sviluppati strumenti per proteggere le opere artistiche dall’uso da parte dell’intelligenza artificiale, come Glaze, che utilizza una tecnica di occultamento che impedisce a un generatore di immagini di essere in grado di replicare accuratamente lo stile in un’opera d’arte.

cosa l’IA può e non può fare cosa l’IA può e non può fare cosa l’IA può e non può fare

Può replicare in modo convincente le voci delle persone

Le voci generate dall’intelligenza artificiale possono essere addestrate a suonare come persone specifiche, con una precisione tale da ingannare un sistema di identificazione vocale utilizzato dal governo australiano, ha rivelato un’indagine di Guardian Australia.

In America Latina, i doppiatori hanno riferito di aver perso il lavoro perché sono stati sostituiti dal software di doppiaggio AI. “Un’opzione sempre più popolare per i doppiatori è quella di accettare ingaggi di registrazione mal pagati presso società di doppiaggio AI, addestrando la stessa tecnologia che mira a soppiantarli“, ha rilevato un rapporto di Rest of World.

AI voice cloning is getting shockingly good.

This video by ElevenLabs uses Leonardo DiCaprio’s famous climate change speech and turns it into other cloned actors’ voices.

You can even clone your own voice on their website. pic.twitter.com/L38vAvcU7Z

— Rowan Cheung (@rowancheung) March 13, 2023

Può scrivere

GPT-4, il modello più potente rilasciato da OpenAI, può codificare in ogni linguaggio di programmazione per computer e scrivere saggi e libri. I modelli di linguaggi di grandi dimensioni hanno portato a un boom di ebook scritti dall’intelligenza artificiale in vendita su Amazon. Secondo quanto riferito, alcuni media, come CNET, hanno utilizzato l’intelligenza artificiale per scrivere articoli.

cosa l’IA può e non può fare cosa l’IA può e non può fare cosa l’IA può e non può fare

L’intelligenza artificiale video sta migliorando molto

Ora sono disponibili generatori di testo in video che, come suggerisce il nome, possono trasformare una descrizione testuale in un’immagine in movimento.

“Will Smith eating spaghetti” generated by Modelscope text2video

credit: u/chaindrop from r/StableDiffusion pic.twitter.com/ER3hZC0lJN

— Magus Wazir (@MagusWazir) March 28, 2023

Text2Video-Zero: Text-to-Image Diffusion Models are Zero-Shot Video Generators

abs: https://t.co/5xCsj4PNRj
github: https://t.co/BdSzlepGQG pic.twitter.com/XY4piH6j4v

— AK 🤗 in SF for the Open-Source AI meetup (@_akhaliq) March 24, 2023

Può trasformare le immagini 2D in 3D

L’intelligenza artificiale sta anche migliorando nel trasformare le immagini fisse 2D in visualizzazioni 3D.

Everyone will be able to be anyone soon.

MegaPortraits by SamsungLabs uses new neural architectures that produce high-quality avatars from medium-resolution videos and high-resolution images.

Deepfakes are getting scary good. pic.twitter.com/tCOljxt60H

— The Rundown AI (@TheRundownAI) March 19, 2023

3D capture is moving so fast – I scanned & animated this completely on an iPhone.

Last summer you’d need to wrangle COLMAP, Instant NGP, and FFmpeg to make NeRFs.

Now you can do it all inside Luma AI’s mobile app. Capture anything and reframe infinitely in post!

Thread 🧵 pic.twitter.com/hDngpVBas6

— Bilawal Sidhu (@bilawalsidhu) March 19, 2023

After weeks of research and development I finally managed to turn AI generated images into 3d scenes, refine them in real time in a non-destructive and streamlined workflow… It’s beyond camera projection since you can make entire scenes viewable in any angles.. It’s not a… pic.twitter.com/4pfAF9skPZ

— Aloner One (@al_oner_one) March 23, 2023

Fa errori di fatto e ha allucinazioni

L’intelligenza artificiale, in particolare i modelli di linguaggio di grandi dimensioni utilizzati per chatbot come ChatGPT, è nota per commettere errori fattuali che vengono facilmente ignorati perché sembrano ragionevolmente convincenti.

Per ogni esempio di utilizzo funzionale dei chatbot AI, sembra esserci un controesempio del suo fallimento.

Il prof. Ethan Mollick della Wharton School dell’Università della Pennsylvania, ad esempio, ha testato GPT-4 ed è stato in grado di fornire una corretta revisione tra pari di un documento di ricerca come se fosse un sociologo economico.

Not sure how to feel about this as an academic: I put one of my old papers into GPT-4 (broken into into 2 parts) and asked for a harsh but fair peer review from a economic sociologist.

It created a completely reasonable peer review that hit many of the points my reviewers raised pic.twitter.com/VTVwkB8ubL

— Ethan Mollick (@emollick) March 19, 2023

Tuttavia, Robin Bauwens, un assistente professore all’Università di Tilburg nei Paesi Bassi, ha rifiutato un documento accademico da un revisore, che probabilmente aveva utilizzato l’intelligenza artificiale poiché il revisore gli ha suggerito di familiarizzare con documenti accademici che erano stati inventati.

A reviewer rejected my paper, and instead suggested me to familiarize myself with the following readings. I could not find them anywhere. After a control in GPT-2, my fears where confirmed. Those sources where 99% fake…generated by AI. https://t.co/ynx2igLObW

— Robin Bauwens (@BauwensRobin) March 27, 2023

La domanda sul perché l’intelligenza artificiale generi documenti accademici falsi si riferisce a come funzionano i grandi modelli linguistici: sono probabilistici, in quanto mappano la probabilità su sequenze di parole. Come afferma il dottor David Smerdon dell’Università del Queensland: “Dato l’inizio di una frase, cercherà di indovinare le parole più probabili che verranno dopo“.

Why does chatGPT make up fake academic papers?

By now, we know that the chatbot notoriously invents fake academic references. E.g. its answer to the most cited economics paper is completely made-up (see image).

But why? And how does it make them? A THREAD (1/n) 🧵 pic.twitter.com/kyWuc915ZJ

— David Smerdon (@dsmerdon) January 27, 2023

A febbraio, Bing ha lanciato una demo preregistrata della sua intelligenza artificiale. Come ha sottolineato l’ingegnere del software Dmitri Brereton, all’IA è stato chiesto di generare un itinerario di cinque giorni per Città del Messico. Di cinque descrizioni di opzioni per la vita notturna suggerite, quattro erano imprecise, ha scoperto Brereton. Riassumendo le cifre di un rapporto finanziario, ha scoperto Brereton, è anche riuscito a confondere i numeri.

Può creare istruzioni e ricette (assurde).

ChatGPT è stato utilizzato per scrivere schemi all’uncinetto, con risultati assurdamente esilaranti.

GPT-4, l’ultima iterazione dell’intelligenza artificiale dietro il chatbot, può anche fornire suggerimenti di ricette basati su una fotografia del contenuto del tuo frigorifero. L’ho provato con diverse immagini dal subreddit di Fridge Detective, ma neanche una volta è riuscito a dare suggerimenti di ricette contenenti ingredienti che erano effettivamente nelle immagini del frigorifero.

Può fungere da assistente per svolgere attività amministrative

“I progressi nell’intelligenza artificiale consentiranno la creazione di un agente personale“, ha scritto Bill Gates questa settimana. “Pensalo come un assistente personale digitale: vedrà le tue ultime e-mail, saprà delle riunioni a cui partecipi, leggerà ciò che leggi e leggerà le cose di cui non vuoi preoccuparti.”

“Questo migliorerà il tuo lavoro sui compiti che vuoi fare e ti libererà da quelli che non vuoi fare.”

Per anni, l’intelligenza artificiale dell’Assistente Google è stata in grado di effettuare prenotazioni nei ristoranti tramite telefonate.

OpenAI ha ora abilitato i plug-in per GPT-4, consentendogli di cercare dati sul Web e di ordinare generi alimentari.

2/ Collaborations with major companies

Here’s an example of meal planning for your weekend:

• Restaurant recommendation for Saturday (OpenTable)
• Recipe for Sunday (ChatGPT)
• Calculate calories (WolframAlpha)
• Order the ingredients (Instacart) pic.twitter.com/qz01ch8fh3

— Alex Banks (@thealexbanks) March 25, 2023

La zuffa tra Musk e Zuckerberg sull’IA