LLM come una scatola nera.

 Sicuramente gli esperti in intelligenza artificiale, nel leggere il prosieguo del post, mi diranno che sto sbagliando a fare i prompt.

No. Non me ne frega nulla di sapere la risposta alla domanda. La so già. Il mio problema è un altro.

 Ho avuto un'esperienza nello sviluppo degli ADAS (sistemi di ausilio alla guida) in cui acquisivano i dati “tipici” del veicolo (velocità. imbardata. RPM. freni luci marcia...) da rete CAN, dati da telecamere a volte anche a infrarossi, dati dalla cartografia digitalizzata ovviamente con il veicolo posizionato tramite GPS, eventuali radar e altri sensori specifici... e poi dal data fusion si eseguivano certe funzioni specifiche per i vari progetti. Sapevamo gli scenari che dovevano essere gestiti e come avrebbero dovuto essere gestiti. Quindi sapevamo quale avrebbe dovuto essere l'output in un contesto di numerosi ed instabili dati di input. Per la maggior parte delle altre applicazioni informatiche il testing è molto più standardizzato. Si parla di Test DrivenDevelopement. Qui invece era più probabile che di fronte a certe situazioni non bastava avere tanti pezzettini di codice ognuno dei quali funzionante. Ma in ogni caso sapevamo cosa volevamo. Invece nella cosiddetta Intelligenza Artificiale l'utente non sa cosa vuole.

Ecco, io sapevo benissimo cosa volevo ed ecco il risultato del test

 

 

 

 

 

Considerazioni. Come ho già scritto qui e ribadito da un personaggio più autorevoledi me LLM tende a dire sempre qualcosa, indipendentemente dalla verità. Nella sua ricerca, trova aree di argomenti e costruisce con quello che “trova”. Poi ha il brutto vizio di aggiungere ancora informazioni non richieste ma “bonus pack” che evocano l'erlebnis dell'imputato che mentre l'avvocato teneva l'arringa finale urla “Tagli corto avvocato, altrimenti perdiamo la causa!”

Con questo non distruggo l'utilità di applicazioni che "sfogliano" rapidamente grandi quantità di dati, ma ecco che il compito che lo scolaretto si fa fare dall'intelligenza artificiale ha alte probabilità di essere sbagliato

5 Maggio

 

Ringrazio #ChatGPT per avermi fornito “a gratis” queste due mie foto di Napoleone. Su questo tema (foto fake) ne parlerò in un prossimo post.

Invece ora parlo della mia identificazione con Napoleone. Ma come? Credersi Napoleone è un luogo comune, quasi una  frusta macchietta da sketch da avanspettacolo, per rappresentare uno che è impazzito.

Specifico meglio. Io mi riconosco in Napoleone in alcuni versi della poesia 5 maggio.

 Ei si nomò: due secoli,
l’un contro l’altro armato,
sommessi a lui si volsero,
come aspettando il fato;
ei fe' silenzio, ed arbitro
s’assise in mezzo a lor

 In effetti ho visto due secoli l'un contro l'altro armato in almeno due circostanze. 

1) Innanzitutto nel rapporto di lavoro. Sebbene non fossi per nulla un nerd, siccome la falsa invalida e il tangentista raccomandato da un massone (per essere generosi nei loro confronti!) avevano sentito dire che gli informatici trovano facilmente lavoro, nella loro insaziabile avidità, per avere “il mio contributo in casa”, mi avevano bloccato le possibilità di altri percorsi più vicini alle mie attitudini e alle mie aspirazioni ed ero finito in una software-house, scoprendo così, negli anni '80, una precarietà di condizioni che nè la precedente generazione nè altri miei coetanei avevano conosciuto e che invece è la prassi per la maggior parte dei giovani attuali. Ovviamente ho capito che i sindacati non stavano cogliendo il cambiamento.

2) Nel modo di lavorare. Intorno al 2010 scoprii l'Agile, e mi accorsi dei limiti della “torinesità” lavorativa, cioè un mondo in cui il paradigma era la catena di montaggio. Dopo aver lavorato per anni in un settore R&D in cui di fatto tendevamo a muoverci secondo alcuni principi agili, mi trovai in un contetesto qualcuno voleva imporre la catena di montaggio e il "comando-controllo" anche allo sviluppo del software. Ovviamente nel piccolo mio contesto aziendale vinse il vecchio secolo, nel mondo dell'informatica per tutto il decennio successivo non si parlava altro che di Agile.

I secoli non si volsero a me sommessi, ma io dentro di me un giudizio su di loro lo avevo.

Come sul capo al naufrago
l’onda s’avvolve e pesa,
[...]
tal su quell’alma il cumulo
delle memorie scese! 

In effetti a volte i ricordi emergono non sollecitati, e mi fanno stare male.

[...]narrar sé stesso imprese,
e sull’eterne pagine
cadde la stanca man! 

Questo invece mi capitò verso il 60 anni quando dovetti scrivere dei CV. Sappiamo che il CV descrive per il 5% te stesso e per il 95% l'azienda in cui hai prestato la tua opera. Veramente spesso mi cadeva la stanca man a pensare quanto poco,e a volte anche male, la cattiva organizzazione aziendale aveva fatto fare ai dipendenti, sprecando tempo ed energie!

[…] ma valida
 venne una man dal cielo
e in più spirabil aere
pietosa il trasportò;

In questi versi manzoniani é spiegato un po' troppo superficialmente quanto è accaduto nella mia vita, ma spiegnano che, in ultima analisi la mia gratitudine superi il mio rancore!

 

 

 

 

 

 

 

 

Altri giochi con LLM

 

In alcuni post precedenti avevo scritto di come mi ero divertito a porre domande bizzarre agli LLM in particolare ChatGPT e poi anche Gemini. (Non riesco a chiamarla intelligenza artificiale, mi ricorda troppo i tempi in cui ero studente di informatica e sentivo la gente parlare di cervello elettronico!)

Qualche giorno fa ho ripetuto il giochetto aggiungendo anche DeepSeek. 

Due domande un po' strane.

1 Domanda – Trovare l'analogia/affinità tra Donald Trump e Mike Bongiorno.

ChatGPT e DeepSeek hanno subito centrato il punto ricordando che Mike Bongiorno era un conduttore televisivo di giochi tra concorrenti e, seppur non avesse fatto solo questo in vita sua, anche Trump si era cimentato in questa veste. Inoltre hanno aggiunto che entrambi hanno uno stile comunicativo diretto, ma un po' grezzo per cui sono apprezzati da alcuni e mal considerati da altri. Con qualche piccola differenza, prolissità e imprecisione nell'elenco delle trasmissioni di Mike, sostanzialmente promossi entrambi gli LLM. Invece Gemini si è rifiutata di rispondere (Allora non solo la Cina ha degli argomenti tabù!) . Comunque invito i  miei lettori a ripetere questa domanda.

2 Domanda, più difficile: Trovare l'analogia/affinità tra JD Vance e Cagliuso

Incredibilmente sia ChatGPT sia DeepSeek hanno capito che Cagliuso era un personaggio di una novella di Basile, una delle tante versioni di quella fiaba nota come “Il Gatto con gli Stivali”. Interessante la versione di ChatGPT 

DeepSeek dice sostanzialmente le stesse cose, ma in modo più prolisso.
Gemini non capisce che sia Cagliuso, probabilmente pensa sia un sindaco o un assessore di qualche paese dell'Italia medidionale, visto che risponde:

Entrambi sono stati oggetto di critiche da parte di ‰figure politiche e dell'opinione pubblica per le loro dichiarazioni e azioni.
JD Vance ha ricevuto forti critiche per i suoi commenti verso l'Europa.
Cagliuso ha generato controversie politiche a livello locale

 

 

chatGPT 3.5 mi prende per i fondelli ?

 

In un mio articolo su Linkedin avevo parlato di alcuni dei test fatti sugli LLM. In realtà di test ne ho fatti di più: quelli mi sembravano i più significativi.

Una cosa evidente è che gli LLM non sanno fare i lipogrammi.

Nel test non avevo usato direttamente la parola “lipogramma” semplicemente avevo chiesto di scrivere un breve testo senza usare una certa lettera.

Qui ho provato invece a chiedere esplicitamente un lipogramma a chatGPT 3.5.

Ecco il risultato. Mi sono sentito preso per i fondelli.

Ho pensato a due scenari. 

Primo: Siccome sono evidentemente profilato nelle mie ricerche su internet, come qualunque utente – per rendersene conto basta vedere le pubblicità mirate che arrivano in base ai prodotti cercati poco prima – vuol dire che mi ha riconosciuto e risposto a tono. Ma questa profilazione “dispettosa” apre scenari distopici. Se un ricercato dalla polizia chiedess un'informazione relativa ad un percorso, l'AI potrebbe indirizzarlo proprio verso un posto di blocco per essere fermato! Oppure, peggio ancora, in una guerra inter-etnica potrebbe dare informazioni mediche errate alle etnie rivali... e via discorrendo.

Secondo: Ho scoperto un punto debole degli LLM.  I lipogrammi!  I casi sono due: 

O il punto debole rimane per cui alla domanda “Che differenza c'è tra l'intelligenza umana e quella artificiale?” la risposta sarà: “L'intelligenza artificiale non sa fare i lipogrammi”

 Oppure, presto i manager del settore faranno un enachement per coprire questa lacuna. Il costo sarà considerevle, non tanto per chi lavora (noi, i ragazzi del software siamo sempre costati poco!) ma per tutte le riunioni tra strapagati manager che prendono questa decisione strategica, pianificatori di WBS Pert e Gantt con “chi fa cosa quando”, SAL (avanzamento lavoro), colpevolizzazione dei ritardi, comunicazione della nuova feature... insomma si investiranno soldi per una cosa totalmente inutile. Perché a che cavolo servono i lipogrammi?

 

Gli dei “semplicemente” non esistono o sono diavoli?

 

Domanda che potrebbe sembrare oziosa, ma in questo periodo per me ha una grande rilevanza. Ho una risposta che viene quasi dalla formulazione della domanda stessa. Per puro sfizio ho provato a porla a chatGPT 3.5 e la risposta è stata questa.

 

Vediamo alla mia risposta, quella contenuta in qualche modo nella domanda stessa.

Etimologicamente la parola diavolo deriva da “calunniatore” a sua volta da (der. di διαβάλλω «gettare attraverso, calunniare»), in qualche modo un essere legato alla menzogna. Quindi il fatto stesso di attribuire esistenza e culto, cioè azioni finalizzate ad esaudire i dettami di entità non esistenti autonomamente, ma solo frutto di una “narrazione” o “costruzione”, è una forma di menzogna e quindi di “diavolo”.

La falsità della religione è una tematica particolarmente importante per me oggi per vari motivi.

Uno è contenuto in questo mio vecchiopost A cui ci sarebbe molto da aggiungere....

Un altro: la lettura di un articolo di Luigino Bruni su Avvenire in cui “redarguiva” la Chiesa di aver “battezzato” troppo facilmente riti agresti pagani. È vero, è importante l'inculturazione, il parlare con il linguaggio dei popoli da evangelizzare, valorizzare i semi di verità in ogni tradizione, il non imporre un modello culturale ecc... ma non si può tralasciare o trascurare il cambio di prospettiva portato dal Cristianesimo. Purtoppo la chiesa o certe sue gerarchie hanno preferito avere "chiese piene" e processioni affollate che insegnare il modo nuovo di guardare l'esistenza donato dalla presenza di Gesù. 

Un altro: E' la quarta volte che affronto il testo “Il Senso Religioso” di don Giussani. Testo che innanzitutto esalta la ragione umana, tutt'altro che un “fideismo acritico”. Sono passati più di quarant'anni dal primo impatto, sono cambiato io, è cambiata la situazione sociale in cui don Giussani aveva scritto il testo. Non solo perchè nel "processo della conoscenza" si inseriscono le cosiddette "intelligenze artificiali" (notare il plurale!). Ma anche perchè dopo lo scientismo ed il riduzionismo materialista in voga nel periodo in cui naque quel testo e fino agli anni 70, nella nostra società, a partire dagli anni 80, si è diffuso una pseudo religiosità stile new-age, per poi finire in un bigottismo di credenze in bolle autoreferenziali.... senza contare la religione del consumismo che cambia il nome agli idoli, velocemente, al passo della moda. Uno dei punti a cui devo fare attenzione è che il mio cristianesimo non sia un "paganesimo battezzato" come diceva Bruni.

Altri spunti: il sedicente laico Recalcati ricorda che nell'antico testamento il problema dell'ateismo non si pone: il nemico è l'idoltria.

 Nella predica sentita ieri, il sacerdote ha detto che Gesù era andato con i discepoli a Cesarea di Filippo, il centro più "ellenistico" della Palestina. Lì sorgevano molti templi pagani, anche a divinità "infere". In quel contesto il "NON PREVALEBUNT" di Gesù assume un significato ben più forte che se fosse stato detto in altri luoghi.