Benvenuto benvenuta,
io sono Filippo Strozzi e stai ascoltando Avvocati Mac Compendium.
Compendium è un podcast in cui parlo delle mie esperienze quotidiane con la tecnologia e in particolare con quella Apple.
Questa è la puntata 51 nella quale parlerò dei progetti open source,
browser use e web UI,
alternative open e free con un asterisco,
ad opereto e deep search di open AI,
ma anche a tanti altri prodotti simili che stanno venendo fuori.
Ma prima,
sigla!
Prima di iniziare,
come al solito,
alcune comunicazioni di servizio.
Doveva anche questa essere la puntata del Club del Libro,
ma il libro io ancora non lo sto iniziando a leggere.
È un periodo un po' così,
un periodo un po' complicato.
Mettiamola in questa maniera.
Sto facendo ogni settimana tre ore di lezione,
questo mi devasta e soprattutto toglie veramente un sacco di tempo,
perché ovviamente oltre a fare tre ore di lezione tutte le settimane,
devo preparare le famose tre ore e questo ovviamente,
assieme a tutta l'attività professionale,
mi riduce notevolmente il tempo e la forza mentale anche di fare cose,
soprattutto di leggere un libro relativamente impegnativo.
Quindi direi a questo punto più intorno ad aprile,
ma lo vedremo vivendo,
mettiamola in questi termini.
Comunque la puntata ci sarà,
devo mettere in cantiere tutta la vicenda.
Questa puntata nasce abbastanza stemporanea,
devo dire la verità,
l'ho preparata in un giorno,
un giorno e mezzo ed è il risultato sostanzialmente dei
miei esperimenti recenti con queste nuove tecnologie di cui
ti voglio poi parlare e avevo bisogno di buttarla fuori,
nel senso che avevo bisogno di fare un punto su questa vicenda,
questa mappa mentale in parte,
spero seguirà una serie di articoli,
però diciamo è l'attività che ho fatto nell'ultima settimana di giocamento vario ed eventuale.
Bene,
visto che possiamo entrare nel vivo della puntata e mi sembra corretto partire dalle premesse.
Cosa sono Operator e Deep Research di OpenAI?
Ovviamente lo segnalo,
io sto facendo riferimento a questi che sono gli strumenti più noti e recentemente,
mentre registro questa puntata,
saliti alle cronache,
ma ho visto che per esempio Deep Search esiste già una versione simile per Google,
esiste una versione simile per Perplexity,
nel caso di Perplexity si chiama ricerca approfondita,
quindi sostanzialmente utilizzo come al solito ChatGPT,
riferimento a ChatGPT per parlare degli LLM e quindi di Operator
e Deep Search di OpenAI per parlare di strumenti simili
che vengono utilizzati con ovviamente i linguaggi,
i LLM sostanzialmente.
Operator cos'è?
Nella sostanza utilizza ChatGPT per navigare con un browser sui server di OpenAI con cui tu puoi interagire.
Cosa fa?
Tu puoi teleguidare,
diciamo,
grazie a LLM,
un browser per fare determinate cose,
quindi cercami questa pagina web piuttosto che vai su questo sito e fai questa tipologia d'acquisto,
cercami una cosa e fammi questa tipologia d'acquisto,
ecco l'esempio tipico è andare su Amazon e cercare un oggetto e poi inserirlo nel proprio carrello.
E questo cosa significa?
Significa che sostanzialmente utilizzare i cosiddetti modelli che ragionano,
cioè nel caso specifico O3 per OpenAI piuttosto che DeepSeek R1 e così via,
cioè tutti quei modelli che a fronte di una richiesta,
diciamo,
possono creare,
chiamiamola così,
un ragionamento e quindi ipotizzare e prevedere un qualche tipo di azione.
DeepResearch invece è una cosa parallela,
in parte collegata,
però nella sostanza DeepResearch funziona solo con l'abbonamento da 200 dollari al mese di OpenAI ed effettivamente è veramente costoso,
mettiamola in questi termini,
e nella sostanza promette,
rispetto diciamo all'LLM che va online e diciamo fa delle ricerche,
quindi sostanzialmente fa delle RAG,
andando a fare le ricerche online,
promette di fare delle ricerche più avanzate,
più approfondite.
Anche qui ci mette svariato tempo a fare queste ricerche,
però in questa maniera toglie tutta una serie di adempimenti,
di compiti e così via,
e in estrema sintesi dopo il tempo della ricerca cosa fa?
Va su internet,
cerca su un argomento,
ovviamente su una richiesta che viene fatta all'LLM,
va a fare delle ricerche e va a esaminare ovviamente il contenuto delle pagine web,
quindi estrappola i dati eventualmente utili,
li salva e a questo punto crea poi in ultima analisi una risposta diciamo una risposta approfondita,
quindi anche strutturata di maggior respiro.
Devo dire la verità,
mi rendo conto di aver scritto perplexity sbagliato,
nella mappa mentale se stai guardando su youtube lo dico per chi fosse interessato,
sto registrando questa puntata in diretta su youtube,
poi ovviamente se te la ascolti nelle cuffiette la sentirai
editata e pulita per quello che riesco a fare e senza
le sbavature che invece sono presenti su youtube.
Comunque perplexity ha una funzione simile,
anche qui io non sto molto dietro le news però tutti i vari competitor hanno buttato fuori questa funzione più o meno similarmente.
Anche qui perplexity fa una cosa simile cioè fa un ragionamento,
fa la ricerca.
Perplexity è la prima società,
è il primo motore diciamo di ricerca alla base dei large
language model e appunto a fronte di queste ricerche
ti dà un risultato simile appunto a deep search.
Devo dire la verità,
l'ho testato perché invece qui è possibile creare un
account gratuito su perplexity e è possibile utilizzare
una ricerca approfondita una volta al giorno,
diciamo sostanzialmente uno specchietto per la lodole per appunto farti poi pagare la versione a premio.
Devo dire la verità,
per il test che ho fatto non è significativo nel senso che probabilmente non ha
un valore statistico rilevante però il risultato che mi ha dato è stato negativo
cioè ha fatto un lavoro non ottimale però questo è stato solo un esperimento
col medesimo prompt che ho utilizzato poi per fare i miei
primi test con sostanzialmente web ui ma lo vedremo dopo.
A questo punto vediamo perché ho deciso invece di non utilizzare questi
strumenti diciamo gli strumenti cosiddetti commerciali ma invece ho
scoperto poi ovviamente nelle mie navigazioni online questi due strumenti.
A dire la verità a livello temporale ho scoperto prima web ui e poi
browser use ma per utilità diciamo di spiegazione è meglio che ti
spieghi prima cos'è browser use e poi di fatto che cos'è invece web ui.
Nella sostanza browser use è l'operator open source mettiamola così generato appunto dalla community.
Nella sostanza cosa fa?
Da un agente l'utilizzo di un browser per navigare su internet,
abbastanza semplice come concetto l'abbiamo già visto con operator,
nasce solo a terminale e con degli script per fare la gestione quindi nella sostanza è un'installazione relativamente,
chiamiamola così,
complesso cioè comunque da conoscere bene o male,
da utilizzare anzitutto il terminale,
secondarimente da conoscere un minimo le variabili e i cosiddetti environment e
le varie ricerche vengono date con degli script apposti poi alla fine lo script
è abbastanza banale sostanzialmente c'è il prompt da fare eseguire appunto
all'LLM che gestisce il browser ma grazie alla possibilità di essere programmato
può fare cose anche relativamente complesse e tuttavia anche complesso per
l'utente medio mettiamola in questi termini e diciamo questo servizio questo
questo strumento open source è possibile appunto scaricarlo e installarlo sul
proprio computer a parte le conoscenze tecniche che sono necessarie ovvero hanno
creato una piattaforma di hosting sostanzialmente e quindi a pagamento è
possibile utilizzarlo e browser use ha due opzioni sostanzialmente la
possibilità di utilizzare questo browser diciamo con l'LLM in una macchina
virtuale che ovviamente è più sicuro perché la macchina virtuale non può fare
danni diciamo al tuo computer vero e proprio ed è sostanzialmente il metodo che
utilizza anche openAI cioè openAI con operator tu digiti del testo chiedendo di
fare A,B,C all'LLM in una finestra a lato vedi questo browser e vedi le
operazioni che vengono effettivamente più o meno in tempo reale svolte
dall'Larger Language Model per movimentare far fare cose al browser.
La cosa molto interessante però di browser use è che può utilizzare anche il tuo browser del tuo computer.
Il tuo browser è Chrome,
a dir la verità io non sono un amante dell'utilizzo di Chrome ma questo è quanto
anche perché oggettivamente Chrome è il browser più utilizzato dagli
sviluppatori quindi non c'è niente da fare mettiamola in questi termini e questo
è molto interessante da un certo punto di vista perché ti permette per esempio
di appunto darli in mano il tuo browser quindi anche andare su amazon senza
dover per esempio digitare la password di amazon nel browser per esempio di un
server remoto che non sai oggettivamente che cosa fa e tu puoi avere già le
credenziali quindi andare sulle varie pagine web dove appunto accedi
attraverso il servizio pagamento comunque con login
e fargli fare cose senza nessun tipo di problema.
Ovviamente la comodità ha anche dei rischi quindi è ovvio che se io dico "vammi a cercare un nuovo microfono su amazon,
scegli un microfono con queste caratteristiche poi acquistalo" se lui
utilizza il mio browser lo può fare e tendenzialmente può acquistare
il microfono e spendere i miei soldi in base a questo quindi
è ovvio che c'è da tenere presente questa circostanza.
Potenzialità enormi ma anche rischi enormi.
Potenzialità enormi appunto perché io per esempio già mi immagino la possibilità per un avvocato come il sottoscritto di utilizzare appunto il mio browser,
fare il login alla mia banca dati online e a questo punto chiedere all'LLM di fare tutte le ricerche,
di fare delle ricerche e estrappolare informazioni appunto dalle pagine web.
Ma vediamo a questo punto a cos'è invece WebUI.
WebUI è un prodotto open source più recente e meno evoluto rispetto a browser use ma che ha tutte le basi sostanzialmente in browser use.
In estrema sintesi cos'è WebUI?
è un'interfaccia web appunto web UI user interface per browser use.
La cosa molto interessante è che WebUI si può installare sia
ovviamente con i soliti script e tutto il resto a riga di
comando ma è anche possibile installarlo attraverso docker.
Adesso ho registrato un video ma non l'ho ancora editato comunque ho in
programma di far vedere appunto e tutta una serie di servizi diciamo che
utilizzo con l'intelligenza artificiale utilizzano sotto la scocca docker.
Docker ha il vantaggio appunto di permettere di creare questi container che sono
una strazione ulteriore e comunque una piccola scatola dove gira un programma
che è appunto l'applicazione specifica quindi nel caso specifico WebUI
all'interno browser use per fare cose ed è molto comodo perché una volta che si
imparano due trucchetti per farlo funzionare devo dire la verità è un sistema
rapido per installare disinstallare diciamo sperimentare con questi strumenti
strumenti che ovviamente sono in continuo sviluppo che sono in continua
maturazione e che ovviamente devono essere aggiornati in tempo reale ma sono
applicazioni web e quindi non sono facilmente
installabili come una normale applicazione.
La cosa interessante di appunto WebUI è che non solo ti permette di utilizzare
browser use per fare le solite cose ma ti permette appunto con una schermata
apposta anche di fare le famose deep research di chiedere di fare una domanda
sostanzialmente alle LM di dargli dei parametri diciamo così non di ricerca ma
di iterazioni quindi quanto deve fare quanto deve quanti tentativi di
approfondimento fare e quanto diciamo di vagare mettiamole in questi termini
per andare a approfondire un determinato argomento e per andare a cercare
appunto tutte le informazioni su un determinato
argomento su una domanda che fai alle LM.
Anche qui funziona richiede decisamente del tempo mettiamolo in questi termini
però grazie a questo sistema grazie a questo sistema che apre qui una parentesi
non l'ho detto fino adesso ma sia browser use che WebUI funziona anche con LM
locali quindi con Lama potenzialmente e questo è molto utile perché è ovvio
che a questo punto io non devo neanche andare a pagare dei soldi a OpenAI,
Google e così via.