Benvenuto benvenuto, io sono Filippo Strozzi e stai ascoltando Avvocati Mac Compendium.
Compendium è un podcast in cui parlo delle mie esperienze quotidiane con la tecnologia, in particolare con quella Apple.
Questa è la puntata 69 nella quale ti parlerò di degli assistenti di programmazione IA o AI, dipende da come lo si legge, a riga di comando, e dei loro potenziali usi nel mondo legale e più in generale nel mondo della scrittura.
La prima sigla, alcune comunicazioni di servizio.
Sto registrando questa puntata il 10 di novembre, sono più o meno incareggiata, nel senso che ho ancora una puntata, diciamo, in cassetto.
L'argomento di questa puntata è introduttivo.
Sto giocando con questo nuovo sistema da poco, una settimana, credo, ho abbozzato, anzi, ho già pubblicato oggi un articolo che sfiora l'argomento, mettiamola così.
Questa puntata, diciamo, è l'inizio, diciamo di una serie, probabilmente adesso.
Poi ovvio che sto facendo i miei esperimenti e quindi oggi te ne parlo in generale.
Domani, casomai invece approfondirò con flussi di lavoro, idee, utilizzi concreti che sto facendo.
Devo dire la verità, piccolo spoiler.
Per ora sono rimasto molto molto soddisfatto dal sistema.
Non ho ancora fatto nulla di concreto.
Diciamo, sto facendo le prove, però queste prove si sono rivelate sufficientemente interessanti.
Bene, andiamo quindi iniziamo.
E ovviamente, per iniziare bisogna, immagino che tu ti stia ponendo la domanda, ma perché mai mi sono messo a testare gli assistenzi di programmazione IA per la riga di comando.
Beh, allora, innanzitutto di cosa stiamo parlando?
Perché effettivamente è il termine potrebbe sembrare generale.
Si intende per assistenti di programmazione app per riga di comando, quei programmi come Cloud Code, Gemini Code, Codec di Open AI.
Nel mio caso specifico, io sto facendo vari approfondimenti, oltre che su Cloud Code e su Gemini CLI, anche su Open Code.
Dopo ti spiegherò perché.
Questi strumenti cosa sono?
Sono strumenti che ti permettono, o meglio, permettono di utilizzare l'intelligenza artificiale, in particolare la large language model, all'interno della finestra di un terminale.
Questo porta dei vantaggi adesso lo vedremo velocemente.
Porta dei potenziali vantaggi e però la prima cosa che ovviamente ti potrebbe stonare, ma perché uno si dovrebbe mettere a invece della chat, invece di altri sistemi, a utilizzare appunto questi strumenti all'interno del terminale, ci sono tutta una serie di motivi che adesso anche qui vedremo nei punti successivi.
Prima ti voglio fare una dopo averli nominati velocemente, ti voglio fare una panoramica veloce dei principali sistemi che si possono utilizzare: Cloud Code è quello più famoso e quello che attualmente probabilmente è anche il più maturo, e nella sostanza, è la versione appunto di sistema di programmazione con A righe di comando di Antropic, cioè quelli di cloud.
E diciamo una cosa interessante se utilizzi questo, se utilizzi i software o meglio, il large language model di Antropic, è che oltre avere la possibilità di utilizzarli a consumo, cioè utilizzando gli API di Antropic, hai anche la possibilità di collegarti.
Collegare questo strumento al tuo abbonamento mensile, che può essere quello da 200 dollari, 200 dollari o 100 dollari.
L'unica cosa che ti segnalo, perché ovviamente sto approfondendo abbastanza in dettaglio: anche perché appunto una, la curiosità che ho, anche di effettivamente provare a testare consonate e così via, è che da quello che ho capito io, e da quello che ho visto io, il consumo di token è abbastanza notevole, mettiamoli in questi termini, e quindi tendenzialmente, sicuramente per la programmazione, l'abbonamento da 20 dollari non è sufficiente, o meglio, lo riesci a utilizzare, ma vai a impattare, diciamo, sui limiti che Antropica ha messo sulla vicenda, sicuramente, quello che Entropic cerca di fare, è quello di venderti l'abbonamento da 200 dollari al mese, che oggettivamente, però, diciamo, se può essere eventualmente giustificato per un programmatore che fa quello di mestire, ecco, diciamo, per persone normali, mettiamola in questo termine, direi che non è così.
A proposito, sempre di Card Code, proprio perché ci sono questi limiti abbastanza significativi.
Io ho trovato un scamoce, ma non andiamo oltre, mettiamoli in questi termini, perché questa è la puntata che chiamata così introduttiva dell'argomento, però, ti dico già che se la cosa ti interessa, ci sono poi, probabilmente nelle prossime puntate, ne parlerò di questi scamotage e così via.
L'altro sistema che è molto interessante perché, nella sostanza, è gratuito, o meglio, anche qui è gratuito entro determinati limiti, ma comunque ti permette di fare di sperimentare un po' con queste cose gratuitamente.
Infatti, lo sto utilizzando anche per questo motivo.
È Gemini CLI.
Gemini, ovviamente è della famiglia di Google.
La cosa molto interessante è che appunto, per ora, mentre sto registrando, è possibile appunto utilizzarlo generosamente gratuitamente.
Basta avere ovviamente ha un account Google e va associato a un account Google.
Da quel momento lì, poi ci sono una serie di possibilità, però, devo dire la verità, sono abbastanza generose.
Diciamo che io credo di essere riuscito a mangiarmi il credito giornaliero, ma solo perché stavo facendo tutta una serie di test, e ovviamente facendo n ricerche, mi sono andato un po' in pelagare.
La cosa molto interessante, è che Gemini CLI CLI in italiano, ti permette anche di fare le ricerche attraverso Google, adesso esattamente cosa va sistema di Google va a cercare, non te lo so dire, ma se fai domande, ti risponde, appunto, facendo le opportune ricerche e così via.
Quindi anche qui può diventare utile per queste finalità, codice lo segnalo solo perché non l'ho minimamente utilizzato, è quello di Open AI, anche qui è come sistema, diciamo, se aggancia eventualmente alle API di Open AI o all'abbonamento, e invece, l'ultimo, quello che ho utilizzato di più, io, è quello che diciamo personalmente ad oggi predilico, anche se probabilmente un po' più indietro rispetto a code, devo dire la verità attualmente, è la prepista.
Anche Gemini, stavo vedendo prima di iniziare la registrazione, un video che discutibile, ma nella sostanza, stanno aggiungendo funzioni e stanno rincorrendo, diciamo, quello che sta facendo Cloud Code, Open Code è un'alternativa a Cloud Code simile come approccio come mentalità, dopo vedremo un po' come ce la faccio come funzionano in generale, ma open source, open source, questo significa anche che sai esattamente come funziona, poi anche intervenire sul programma di ma cosa veramente interessante rispetto a tutti gli altri di cui abbiamo parlato fino adesso è che Open Code si può agganciare a n servizi.
Quindi non solo ai servizi più blasonati, appunto Antropic, Open AI, Gemini di Google e così via, ma anche ad altri servizi.
Io, tra altre cose, ovviamente sono molto interessato perché abitualmente utilizzo con Open router tutta una serie di servizi alternativi di LLM e quindi che costano anche meno, tra l'altro.
E quindi diventa molto comodo e appunto il grosso degli esperimenti che ho fatto fino adesso, si dividono tra open code per la maggior parte, Cloud, diciamo, per un'altra grossa fetta, e poi, infine, ho fatto qualche test veloce proprio per provarlo e effettivamente è molto interessante con Gemini CLI.
Da dove è venuta, però, questa idea, perché ovviamente non è nata dal niente, diciamo, diciamo che appunto scrivere documenti dal mio punto di vista è sempre stato molto simile a scrivere programmi.
Ne parlo, ne parlavo già mentre facevo le ricerche per questa puntata, mi sono accorto di questo articolo del 2019.
Appunto, io ho iniziato a utilizzare strumenti di scrittura, diciamo, per il codice per scrivere i miei atti.
I miei atti sono un po' particolari, ne ho già parlato in varie altre puntate quindi non mi ci dilungo, però, nella sostanza, ho sempre avuto questo affetto per la rigga di comando, il terminale e così via.
E appunto l'origine di tutti i miei mali di questa puntata è che ho visto un video di Network Chuck, ovviamente in inglese molto interessante.
Che appunto ha fatto una panoramica generale per l'utilizzo di questi strumenti, non per scrivere codice, perché questi strumenti nascono, diciamo, per gli sviluppatori per lavorare su una codebase, cioè su un progetto scritto in vari tipologie di codice, i vari tipologie di codice, ovviamente sono vari tipologie di linguaggio, e alla fine il linguaggi di programmazione, avendo ovviamente una modalità totalmente diversa dal linguaggio, chiamiamo così standard, sono comunque dei linguaggi.
E se i large language model sono degli strumenti che lavorano bene con il linguaggio, in particolare con linguaggio chiamiamo così per le macchine, oltre che il nostro, è evidente che questi strumenti possono essere utilizzati in questa maniera.
Per cui, ovviamente, nelle note dell'episodio troverai il link al video, in particolare troverai anche il link al video che, secondo me, è il capostipito, come mia caratteristica tipica, sono andato a approfondire a guardare ovviamente sull'argomento, anche perché non c'è tantissimo materiale in giro, cioè specifico intendo: sì, tantissimo materiale su come funziona Open Code, come funziona Cloud Code e gli altri, ma ovviamente nell'ottica di programmare.
Ho trovato invece questo video, che probabilmente il capo stipito è originario, però, rispetto a Network Chuck che ha più di un milione di iscritti al canale, quindi comunque ha una capacità, diciamo di diffondere le informazioni molto maggiore.
Questo canale è piccolino, perché ho 8.000 iscritti di un inglese, appunto di Darren Hide, penso che si legga, che probabilmente è uno dei primi, perché il video che ho visto è di 3-4 mesi fa.
È uno dei primi che invece ha ragionato su come utilizzare questi strumenti, non solo appunto per scrivere codice, ma per fare dell'altro, e l'altro è quello che mi interessa a me.
Questi assistenti, cosa fanno?
Utilizzano modelli linguistici di grande dimensione, quindi la large language model per comprendere richieste testuali, interagire tramite la shell o la CLI, cioè command line interface, quindi la riga di comando, appunto, sono in grado di manipolare e analizzare testi, completare codice, spiegare script complessi e generare documentazione rispondere a domande tecniche.
Ovviamente la parte di codice è quella che mi interessa di meno.
Invece, tutto il resto, cioè tutta la parte di scrittura è la cosa diciamo più interessante di questa vicenda, infatti, ti permette di dialogare con il terminale, quindi lavorare sul tuo computer con gli LLM ed è questa la cosa, ovviamente molto interessante.
Ti permette di avere invece di avere, diciamo, tutto nelle varie chat, alcuni potrebbero utilizzare il terminale, appunto per interrogare, io originariamente lo facevo anche io per interrogare anche gli LLM locali e non solo.
Tendenzialmente il grosso lo si fa in chat.
Il problema della chat è ovviamente che è in parte dispersiva.
L'altra considerazione da fare, però tenere presente e l'avvertenza che mi interessa che tu colga, diciamo, in questa puntata, in questa descrizione.
È che ovviamente avere un large language model che lavora sul tuo computer, che quindi può accedere ai file sul tuo computer è da una parte molto potente e vedremo dopo perché io lo ritengo molto utile per lavorare anche per la scrittura, ma dall'altro è pericolosissimo.
Perché col comando sbagliato o con un momento sbagliato del Large Language Model, potrebbe addirittura resettare totalmente il tuo computer o cancellare file che invece non vuoi che vengano cancellati.
Attenzione, diciamo, questi sono strumenti da utilizzare sono molto potenti da un certo punto di vista, ma dall'altro potenzialmente altamente rischiosi.
Come ti dicevo, appunto, io sono sempre stato un fan del terminale.
Tuttora scrivo gli articoli di Avocati Mac all'interno di un terminale.
Io utilizzo Itermo, ma questo poco interessa.
E appunto non scrivo più i miei app dentro un terminale, semplicemente perché utilizzo overleaf che mi permette di mi dà tutta una serie di chiamiamo così vantaggi.
Ma fino a qualche fino a due anni fa, quando non utilizzavo Overleaf, io gli atti li scrivevo direttamente appunto nel terminale.
Quindi vabbè, ovviamente ti fa capire che già hai una predilezione, ma adesso ti spiegherò perché, secondo me, è veramente vantaggioso.
Tutto questo.
Se vuoi recuperare alcune cose di cui parlavo all'epoca, ti segnalo la puntata 22, che è denominata vita da terminale.
Appunto, e che ti fa capire uno, la passione che ho per queste vicende, ma anche il grosso vantaggio di poter lavorare con la riga di comando e con file di testo, perché alla fine di tutto questo discorso a prescindere da tante cose.
Appunto, l'approccio che io e che ho trovato essere molto efficace per ottimizzare la mia vita professionale, la mia vita lavorativa è quella di lavorare con file di testo semplici, proprio perché questo ti dà la possibilità di fare automazioni, di fare tantissime cose che abitualmente invece i file proprietari non ti danno tutte queste funzionalità.
Ma ovviamente, a prescindere dall'amore che ho per lavorare nel terminale, ci sono altri motivi.
Di fatto, tutto sul tuo computer come file di testo, questi sistemi possono accedere a tutti i file sul tuo computer che siano file di testo.
Quindi se abilita una sostanza, il problema è di avere mille chat e organizzare i contenuti in un progetto, soprattutto, tra l'altro, una delle cose che lavorando molto con l'intelligenza artificiale nell'ultimo periodo ho notato.
Appunto, è che da una parte io lavoro per esempio in uno spazio di perplexity e faccio fare cose ai large language model, faccio delle ricerche e così via.
Ma c'è tutta una parte, diciamo fastidiosa, no, però comunque mi fa perdere tempo, dove una volta che ho fatto la ricerca, una volta che ho fatto generare questo quel file, ovviamente devo scaricarlo, andare a prendere il file, e inserirlo nella cartella corretta.
Tra l'altro, ogni volta che io devo passare dei file a large language mode per elaborarli per lavorarli e così via, devo fare la stessa cosa.
Quindi devo trascinare dei documenti casomai non li trovo perché alla fine l'ho fatti velocemente e quindi non li ho poi salvati nella posto dove dovevano stare.
Quindi il grosso vantaggio di questo approccio, secondo me, è il fatto che hai un contesto specifico e una migliore ovviamente organizzazione del tuo flusso di lavoro e della tua attività lavorativa.
L'altra cosa molto interessante è che rispetto appunto a chatbot, diciamo presenti online, ma anche quelli per girare per esempio ho Open Web UI, o faccio girare tutti i vari modelli attraverso l'ama.
Però, tutti questi cosa fanno?
Lavorano singolarmente quindi, comunque richiedono maggior tempo.
Con questi strumenti nella sostanza si possono creare dei cosiddetti subagenti quindi si possono lanciare contemporaneamente più agenti.
Quindi possono venir a svolte più attività in contemporanea.
Per esempio, un esempio abbastanza banale.
Tuttavia, appunto, voglio fare cercare materiale online posso lanciare per esempio arriva fino a 10 subagenti, posso lanciare 10 istanze contemporanee di ricerca su casomai argomenti non medesimo argomento, ma argomenti simili ma differenti, farli fare le ricerche in contemporanea e ottenere i 10 risultati più o meno simultaneamente e quindi avere ovviamente spaziato molto di più.
Questo che è un vantaggio da un certo punto di vista è anche uno svantaggio perché ovviamente crea un maggior costo.
Ma a fronte del maggior costo, perché ovviamente tutti questi sistemi consumano una quantità di token che fa paura, ed uno dei motivi per cui a un suo senso fare l'abbonamento è quello dell'utilizzo dei token.
Io recentemente per fare delle prove per fare sostanzialmente per provare a fargli fare un atto d'appello in semi-autonomia, diciamo, ho utilizzato circa 13 milioni di token, una quantità esponenziale di roba quindi maggior consume ma maggiore efficiente maggiore efficienza.
Per cui anche qui, per esempio, un subagente può occuparsi può avere un prompt specializzato per fare un determinato scopo e invece avere il prompt generale per l'agente, diciamo, coordinatore e così via.
L'altro vantaggio enorme di tutta questa situazione è questo: cioè avere un contesto specifico.
Proprio perché per lavorare su dei software sostanzialmente quindi dei programmi.
Abitualmente i software non sono un file di testo monolitico, ma sono più file di testo dove le routine piuttosto che altre cose, sono suddivise in vari file, come nella realtà spesso e venuti, cosa succede?
Nel mio caso specifico avevo la sentenza, avevo l'atto d'appello su quella sentenza, avevo la giurisprudenza ricercata.
Io una volta che ho appunto salvato le varie cose nelle varie sottocartelle, e do accesso all'LLM a questi documenti sul mio computer.
L'LLM può andare a estrappolare le informazioni che gli servono da questi documenti e ovviamente utilizzare solo le informazioni chiamiamole così necessarie per darmi la risposta.
Quindi questo vuol dire avere un contesto specifico per un progetto specifico.
Abitualmente questo vuol dire anche avere la possibilità di avere delle risposte migliori, più centrate e con meno spreco di risorse da parte dell'Aarge Language Model.
Oltretutto, una volta che appunto strutturato il tuo progetto anche in una struttura cartelle e avendo spiegato ovviamente come funziona la struttura cartelle a Large Language Model, appunto, sa anche dove andare a ricercare le cose in autonomia, chiamiamola così.
Quindi questo è maggiormente vantaggioso proprio perché una volta che tu gli hai dato diciamo le indicazioni generali, mettiamole in questi termini, e il Large Language More è sufficientemente potente, diciamo, questo può muoversi in relativa autonomia senza appunto fermarsi e senza richiedere informazioni nelle eventualità.
L'altra cosa molto interessante è che c'è la possibilità di personalizzare il funzionamento degli app grazie a dei file specifici che gli spiegano esattamente cosa fare.
Ne esistono di vari formati, di varie denominazioni, ma nella sostanza sono funzionano nella stessa maniera, più o meno nella stessa maniera si chiama cloud.md, Gemini.md, agent.md, nella sostanza è un prompt, chiamiamolo così di sistema, ma che viene salvato all'interno di una specifica cartella e quando l'Aarge Language Model, quando il programma di Cloud Code viene lanciato all'interno di quella cartella, la prima cosa che fa è leggere il file Cloud MD.
Se il file cloud MD ha tutta una serie di caratteristiche.
Quindi, quindi per esempio, sto creando un l'atto d'appello.
Ovviamente gli dico come va a creato il l'atto d'appello, gli dico quali sono gli step di lavoro, gli dico dove sono i file.
Dove sono i documenti da analizzare, dove deve andare a salvare eventualmente nella prima fase la giurisprudenza che va a cercare dopo aver fatto l'esame documentale e casomai avendo dopo aver estratto la giurisprudenza le normative di riferimento per poi andare a fare le ricerche.
Questo permette di organizzare in maniera anche strutturata e ben fatta il singolo progetto.
Questo vuole anche dire che dando le istruzioni corrette e quindi programmando, però programmando testualmente e non utilizzando il linguaggio della macchina, si possono fare cose veramente molto interessanti.
Come dicevo, appunto, scrivere come per scrivere codice, far fare il punto, per esempio, all'EA della fine della sessione di lavoro, anche qui altra cosa che trovo decisamente molto interessante.
Nel senso che io sto lavorando su un progetto, spesso volentieri è difficile che io concluda il progetto in una sessione di lavoro singola, mettiamola così, ma spesso volentieri mi capita, non so, atto d'appello, tanto leggo gli atti che mi interessano, faccio le ricerche giurisprudenziali, le salvo nella cartella della giurisprudenza, ragiono sulle criticità o meno e così via.
Tutta questa attività la posso fare a qua diuvato dall'intelligenza artificiale, ma a un certo punto la giornata ha otto ore lavorative, quindi a un certo punto ti fermi o comunque hai degli altri impegni, siccome queste chat non sono effimere, ma sono chat vere, puoi anche dirli va bene, fammi il riassunto di quello che è stato fatto fino adesso e il giorno dopo o anche una settimana dopo, recuperando queste sessioni sostanzialmente, questi rassunti di cosa è stato fatto, addirittura questo sistema ti permette di ripartire da dove avevi lasciato, anche qui lo potresti fare tranquillamente prendendo punti o lasciandoti scritte le cose ancora da fare.
Io spesso volentieri lo faccio.
Ma questa modalità, diciamo con questo sistema, buona parte di queste cose possono essere lasciate, diciamo, queste attività chiamiamo così banali, che sono organizzative, ma sono utili, non sono così essenziali per il risultato finale, possono essere delegate alla macchina, alla macchina che però tendenzialmente proprio perché capisce il testo, riesce ovviamente a creare questi file senza troppi problemi, riassumere l'attività svolta per sapere ciò che si è fatto, cosa è stato utile, quindi anche imparare dagli errori fatti.
Quindi, anche qui, siccome più lavori con questi strumenti, più ti rendi conto da una parte dei loro limiti o delle loro idiosincrasie, chiamiamole così, se però appunto tieni traccia di questa attività il giorno dopo, una volta che sai e c'è traccia di queste particolarità, puoi evitare i cosiddetti vicoli ciechi.
Prima, e ovviamente tutte questa serie di informazioni, diciamo, sono tutte, chiamiamo così metadati che spesso volentieri non tieni, cioè nel senso non emergono, diciamo da queste chat.
Il vantaggio grosso di questa modalità di lavoro è proprio quello di poter estrappolare maggiore informazioni anche dall'attività che stai svolgendo, anche poter fare dei ragionamenti di verifica e di revisione del tuo modo di lavorare.
Perché ovviamente lavorando in questa maniera.
Tutto può essere chiamiamo così tracciato dall'LLM, i concetti fondamentali possono essere appunto estrapolati.
Tutto questo flusso di lavoro può essere progressivamente reso più concreto, mettiamola così, dagli strumenti, appunto dei modelli di grandi dimensioni e dalla loro capacità, diciamo, soprattutto da una grossa mole dei dati di estrapolare il succo, mettiamola in questo termine.
Quindi, di fatto questa premessa è credo spiegato un po' quelli che sono, secondo me, appunto i punti fondamentali di funzionamento di questi sistemi.
Ti parlo velocemente, diciamo, dei due che mi interessano di più.
A video sto facendo vedere appunto la scherm a terminale di Open Code nel mio caso specifico, tra l'altro tra le varie cose che sto testando.
Appunto, sto testando anche come assistente per la scrittura dei miei articoli, come si vede appunto nella schermata, l'ho aperto all'interno della cartella in scrittura che ho deciso di denominare in maniera decisamente molto esplicita per me stesso degli articoli di avvocati e Mac.
E in questa maniera posso utilizzare, posso avantaggiarmi di questi strumenti anche mentre scrivo non solo ovviamente gli atti giuridici, ma anche le mie cosiddette attività collaterali.
La cosa interessante, appunto di Open Code, come te l'ho già detto, è soprattutto il fatto che è possibile utilizzare n modelli di grande dimensione.
Nel caso mio specifico recentemente è uscito oggi mentre sto registrando l'articolo su Minimax M2, ho utilizzato attraverso Open Router Minix M2 in modalità gratuita, perché per fortuna ancora a gratis, anche se apro chiudono una parentesi, giusto perché non voglio dare cattivi abitudini, diciamo, open router ha il vantaggio di avere l'accesso a tantissimi modelli sia open che closed, ovviamente quelli open a volte sono gratuiti a volte no, perché comunque la creazione di inferenze con i large language model ha un costo, un costo anche significativo a livello di hardware e a livello di consumi energetici, mettiamolo in questi termini.
È ovvio che le versioni free abitualmente hanno tutta una serie di postille a cui fare riferimento.
Nel mio caso specifico posto che per avvocati Mac, ovviamente non ho nulla di particolare da tenere a riguardo, per invece gli atti.
Io non l'ho detto, ma lo specifico: ad esempio, in quest'atto d'appello che l'atto di costituzione dell'appello che ho provato a far fare a large language model, la prima cosa che ho fatto, ovviamente è la sentenza e il lato d'appello l'ho anonimizzato.
Appunto, ho utilizzato questo atto in particolar modo perché era un atto, avevo da anonimizzare poca roba, nel senso che la sentenza piuttosto che lato d'appello, avevano sì dei dati che ho tolto, ovviamente, ma non erano tantissimi dati.
Già già più complicato sarebbe stato, per esempio, avere tutta una serie di documenti e così via, anche molto più interessante da un certo punto di vista a livello teorico.
Tuttavia, ho utilizzato avendocelo a mano, diciamo in questa maniera, avendo già studiato di la verità.
Quindi volevo anche vedere, avendo già un'idea di quella che era la mia linea difensiva, sostanzialmente, cosa riuscivo a fare, cosa riuscivo a fare, perché poi, nella sostanza, non so, ne parlerò più in dettaglio, probabilmente più avanti.
Ma io ho guidato comunque l'intelligenza artificiale.
Perché da sola non è che era in grado di fare tutto, ma grazie all'intelligenza artificiale, sono riuscito a te lo dico già, a creare una bozza di atto che non era perfetta, tutt'altro, però molto interessante.
I risultati sono stati decisamente promettenti per quel poco che ci ho lavorato sopra e soprattutto anche per le tempistiche di lavoro.
Poi, ovviamente, è tutto forché un risultato perfetto, ma quello che interessava a me era vedere se effettivamente questo sistema.
Che, tra l'altro mentre lo utilizzavo, lo stavo imparando a utilizzare quindi con tutte le problematiche, ovviamente di imparare mentre fai, diciamo, i risultati ci sono.
Infatti, continuo a ripetere, per ora sono molto interessato a questa soluzione, perché, secondo me, è forse un buon compromesso per l'utilizzo dei modelli di grande dimensione, soprattutto quelli online, perché apro qui di una parentesi, quelli offline e quelli in locale, non sono in grado di gestire queste quantità di testo e questa struttura per il lavoro.
Come ti dicevo, open code, dal mio punto di vista, è quello più interessante, proprio perché mi permette di sperimentare anche con modelli di nicchia, chiamiamole così, o comunque non così dispendiosi come Cloud Gemini.
Ci sono appunto queste soluzioni gratuite, ma bisogna stare attenti, perché queste soluzione gratuita, appunto, tendenzialmente, quantomeno utilizzano i dati che tu li mandi per fare del training o per comunque ottimizzare questi flussi di lavoro.
Quindi è ovvio che queste informazioni viaggiano, mettiamole in questi termini, dal mio punto di vista, appunto sugli articoli avvocati Mac non c'è un grosso problema.
Sulla questione, ovviamente concreti di lavoro, l'attenzione maggiore che ho è quella di ovviamente lavorare anonimizzando il più possibile e quando non è possibile fare queste cose qua.
Solitamente il mio approccio, qual è il lavoro in locale per avere un riassunto dei punti fondamentali per esempio del lato.
A questo punto una volta che ho strappolato questi dati che di fatto sono facilmente anonimizzabili, perché solitamente al massimo se ne vengono inseriti due o tre informazioni e quindi quelle possono essere manipolate velocemente e il testo è poco.
Dopo, a fronte di quello faccio fare invece le ricerche giurisprudenziali e così via all'intelligenza artificiale e anche nella creazione dei documenti, faccio inserire dei segni a posto, che poi possono essere relativamente facilmente modificati nella seconda fase successiva.
L'altra caratteristica che trovo molto interessante è la personalizzazione avanzata degli agenti.
Cioè con questo sistema è possibile creare degli agenti specializzati.
Quindi l'agente specializzato nella ricerca giuridica, l'agente specializzato nella stesura dell'atto, quindi con delle informazioni con un prompt e quindi delle istruzioni diverse per i singole attività che devono essere svolte.
Questo, secondo me, appunto si può fare tranquillamente tutto quello che ti sta raccontando, anzi, l'ho controllato perché ero interessato, lo stesso flusso di lavoro si può fare con un chatbot normale, ho fatto una cosa simile con Perplexity, ho fatto anche dei test proprio di comparazione, mettiamolo così.
È ovvio che fare tutto in un'unica interfaccia è molto più comodo e ti permette di lavorare in maniera più concentrata.
Attualmente, da quello che ho visto e dalle funzioni che ci sono, Cloud Code è probabilmente il capo stibile da una parte, ma sicuramente anche è quello migliore, quello da cui, tra virgolette, tutti stanno cercando di rubare o aggiungere funzionalità.
È ovvio che l'approccio che ti ho raccontato fino adesso è un approccio contrario, chiamiamolo così, o comunque non è quello per cui nascono questi strumenti.
Quindi è ovvio che questi strumenti, comunque vanno in parte forzati per funzionare in questa maniera e probabilmente forse è questo il difetto maggiore, però attualmente proprio per l'adutilità anche di questi strumenti che lavorano con il linguaggio è possibile farlo.
L'altra considerazione, diciamo che voglio fare, poi andiamo a chiudere è il fatto che uno dei motivi per cui amo di più, ho deciso di utilizzare Perplexity per il lavoro mettiamolo così, è che nella sostanza questo flusso di lavoro con agenti che partono, diciamo, sotto il cofano, è già di fatto, già più o meno strutturato all'interno di Perplexity, anche Clued fa una cosa simile.
Spesso e volentieri quando vado a fare delle ricerche relativamente complesso o quando gli chiedo di fare degli sforzi, diciamo un po' particolari, spesso volentieri, oltre ad andare ovviamente a ravnare nell'internet per cercare informazioni, spesso e volentieri creano so, piccoli programmi per manipolare file di testo, crea tutta una serie di cose.
Gli agenti proprio sono uno strumenti molto utili in questo, soprattutto per attività diciamo che sono relativamente complesse e strutturate.
E la possibilità di crearne dei miei, mettiamoli in questi termini, è molto molto interessante perché posso creare gli agenti specializzati nelle specifiche attività o flussi di lavoro che voglio fare, in particolare, tra l'altro, anche se devo dirtelo sulla funzione agentica, chiamiamolo così, gli LLM locali non sono così performanti, ma si può unire le cose buone degli LLM locali con la potenza, diciamo di calcolo di quelli invece online.
Per esempio, volendolo almeno è un ragionamento che ho fatto ancora a livello solo teorico, ma appunto posso dire utilizza l'LLM locale per lavorare a determinate cose, per esempio, per i documenti in quella cartella, che sono appunto i documenti casomai delle parti della causa, lavora solo, cioè fai riassunti utilizzando un larger language model locale a cui ti do accesso.
Poi una volta che hai fatto questi rassunti, quei riassunti me li vai a salvare in quest'altra cartella e da qui poi, per esempio, poi andare a fare tutto in modalità online.
In parte ne ho ne ho già parlato, quindi andrò un po' più veloce anche perché, come al solito, cerco sempre di stare nell'oretta di puntata, anche se dopo con i vari tagli, poi sarà sarà più breve di quella che ho registrato, diciamo, su YouTube.
Breve descrizione di quello che ho fatto.
Appunto, te l'ho già detto, ho scritto una comparsa di costituzione appello, gli ho dato appunto la sentenza l'atto d'appello, ovviamente anonimizzati, gli ho chiesto di esaminare il caso usando questi documenti quindi di estrapolare una normativa e la giurisprudenza relativa di fare le ricerche specifiche, quindi, ovviamente, si vede un flusso di lavoro a passi, di fare le ricerche specifiche a fronte della normativa di riferimento, a fronte della giurisprudenza citata da controparte e così via, a questo punto.
Una volta che diciamo, l'ho sguinzaliato su internet e ho fatto fare tutte queste ricerche, a fronte di queste ricerche, gli ho chiesto di strutturare una linea difensiva.
Sulla base di questa linea difensiva, ho richiesto di generare una bozza del lato stesso.
Anche qui si vede proprio a pezzi, anche qui ho dovuto ovviamente aggiustare il tiro su varie cose, perché per esempio, non so, nella primissima bozza di atto che ha generato, era evidentemente un atto non idoneo, diciamo, al deposito telematico.
Non è mia intenzione neanche depositare quest'atto in questa maniera mettiamola così.
Ma una volta che mi sono reso conto che non aveva delle linee guida, chiamiamole in questi termini per scrivere correttamente l'atto, gli ho detto vai a cercare le comparsi di risposta online, vai a fare altre cose che adesso oggi non ha senso discutarne diciamo, e a fronte di tutte queste ulteriori ricerche già un nuovo atto, il secondo atto, diciamo era decisamente migliore del primo, proprio perché una volta che ho visto i suoi limiti e gli ho dato invece l'info o li ho fatto cercare nel caso specifico.
Il top sarebbe stato appunto dargli una struttura più dettagliata e più precisa, diciamo di quello che volevo fare.
Ma ovviamente ero di fretta, quindi ho fatto una roba raffazzonata, però anche qui appunto nell'ottica di dire ti spiego in maniera molto chiaro ho tutta una serie di atti, modelli, chiamiamoli così di atti a cui lui può attingere, da cui può copiare, diciamo, gli do le regole di scrittura come dico io con queste particolarità e i risultati effettivamente migliorano notevolmente e lo ripeto, molto legato al contesto, cioè una volta che tu riesci a passargli le cose che servono, le caratteristiche specifiche che vuoi che il documento finale o comunque che quel passo di lavoro venga fatto, ecco, lì i risultati sono interessanti, poi ovviamente anche qui sulla parte giuridica, diciamo, c'è da controllare tutto quello che scrive, soprattutto le citazioni e così via, però, appunto, nell'ultimo periodo, sto notando che dandogli le guide giuste, mettiamola così, ovviamente verificando sempre, i risultati non sono affatto male, anzi, spesso e volentieri, le allucinazioni ci sono a volte, ma non sono neanche così tante.
Quindi, una volta che si trova il tiro giusto, attività di revisione, non può essere mai tolta, perché, comunque questi strumenti sono intrinsecamente indeterministici.
Quindi, la volta che non guardi, abitualmente è quella dove avrai un problema.
Quindi, bisogna fare sempre una revisione umana, mettiamola così.
Tuttavia, sicuramente è molto utile, ti permette di lavorare veramente molto velocemente.
A proposito di questo, appunto, proprio per dimostrarti che i risultati sono stati promettenti pur essendo solo un test, e pur avendo fatto, diciamo gli approfondimenti mentre lavoravo.
Quindi, ovviamente, è stata tutta un'attività doppia, mettiamola così, ovviamente non ho ottenuto il risultato che volevo, ma ha fatto un buon lavoro da praticante, mettiamolo così, e giusto per darti un'idea.
Nelle due ore di attività che ho svolto davanti al computer con questo sistema.
Se la prima oretta, diciamo, l'ho utilizzato più che altro per fare i test iniziali per trovare la quadra del sistema, l'altra ora ha scritto latto nella sostanza, quindi, comunque anche qui non sono risultati eccelsi è un primo test, ma diciamo sicuramente positivo.
Positivo a fronte, però del fatto che, come ti dicevo all'inizio della puntata, ho consumato 13 milioni di token che è una quantità enorme.
Però proprio perché ho fatto anche dei test paralleli che gli agenti che hanno fatto le ricerche hanno fatto ricerche molto simili per esempio a quelle ottenute.
Diciamo nello stesso contesto di ricerca online senza l'utilizzo di banche dati, ma questo questi strumenti non possono farlo, attualmente, sono riusciti a creare, però a ottenere risultati simili a quelli di Perplexity in autonomia.
Quindi, anche qui, non volendo utilizzare Perplexity, che per ora, secondo me, a livello generale è uno degli strumenti di intelligenza artificiale che ritengo più validi, mettiamola così per l'attività professionale, le potenzialità, diciamo, ci sono.
Veniamo a conclusione di questa puntana, quindi cerchiamo di tirare le somme di quello che ti ho raccontato fino adesso, ovviamente è ancora presto per dare un giudizio definitivo di questi strumenti, sono sicuramente strumenti interessanti da conoscere, ma soprattutto anche da testare.
I vantaggi sono sicuramente il contesto focalizzato, il fatto che hai tutto direttamente sul tuo computer, con tra l'altro la possibilità di riutilizzare queste ricerche, perché anche qui non ne ho parlato.
Ma uno dei vantaggi grossi di questo sistema è che sul lungo periodo lo sto immaginando ancora non l'ho fatto, ma posto che appunto male la ricerca di oggi tra uno due o tre mesi potrebbero risultati utile in futuro, è ovvio che avere tutte queste ricerche in un unico posto, chiamiamoli così, avere strappolato tutte queste informazioni, e avendo poi questa conoscenza, diciamo, da dare in pasto potenzialmente ai large language model, a conoscenza giuridica intendo, ovviamente diventa molto utile, un volano molto molto potente sostanzialmente per il futuro.
Quindi anche qui, mentre le singole ricerche alla fine sì, me ne devo andare a salvare, mi devo ricordare dove sono, devo eventualmente strappolarle da dove li ho salvate sul mio computer, se invece io ho questi strumenti che possono accedere a determinate cartelle del mio computer e quindi possono lavorare in questa maniera, è ovvio che più lavoro con questi strumenti, più questi strumenti migliorano e più i risultati sono corretti, più velocemente lavorerò e meglio questi strumenti potranno funzionare.
L'altro vantaggio di questi strumenti è la creazione di un flusso di lavoro molto personalizzato con una chiamiamola così programmazione testuale.
È ovvio che per l'utente diciamo che vuole chiamiamolo in questi termini la pappa pronta e la pappa semplice, sono strumenti comunque che richiedono, hanno una curva d'apprendimento relativamente alta, però danno poi risultati anche molto elevati.
L'altro discorso che ovviamente a me piace sempre è questi strumenti possono salvare file, modificare file, fare cose con i file sul tuo computer, quindi anche qui automazione molto elevata.
Perché per esempio proprio per velocizzare notevolmente l'utilizzo di questi strumenti, gli ho fatto creare tantissima roba direttamente dalle model.
Gli ho dato delle indicazioni, ma appunto tutto il flusso di lavoro e così via, non sono andato a crearlo io manualmente anche perché ci avrei messo delle ore, ma bene o male glielo fatto creare a lui, dandogli due o tre dritte.
Poi ovvio che non era il flusso di lavoro perfetto, ma appunto quello che io trovo molto vantaggioso del Large Language Model è che se tu sai come indirizzarli, riescono a generare velocemente testo, anche testo relativamente strutturato bene, e dopo a te c'è il compito di dare la quadratura, diciamo del cerchio.
Le perplessità di questa cosa, ovviamente, te l'ho già detto: consumo enorme di token.
Io per ora ho usato risorse gratuite o in abbonamento, ma pagare consumo è decisamente impegnativo.
Ho fatto qualche test anche a consumo e devo dire la verità, in poco tempo ho speso 5 dollari senza aver fatto di concreto.
Anzi, a fronte di quella speso, ho deciso che andavo su delle risorse gratuite.
Che era meglio, come si suol dire per fare questi esperimenti, appunto, a consumo, secondo me, ad oggi non ne vale la pena.
Ovviamente esistono tecniche, diciamo, sto approfondendo per ottimizzare il consumo di questi token.
L'altro discorso che ho già detto c'è una curva di apprendimento ripida e soprattutto per il mondo legale perché per tanti compiti, diciamo, questi strumenti alla fine per scrivere in generale questi strumenti possono diventare molto utili nel mondo legale o comunque dove ci sono dati che non devono uscire o comunque delle informazioni riservate, la necessità di anonimizzare è essenziale.
Se ci sono molti documenti e molti atti, è ovvio che diventa impegnativo e potenzialmente tra altre cose, parlando di errori quindi con possibilità che questi escalo fuori, diciamo.
Quindi comunque nel mondo legale, sicuramente deve essere fatto con molta attenzione e non ci si può improvvisare.
Bene, come al solito abbiamo finito.
Se ti è piaciuto quel che hai ascoltato, ti propongo di iscriverti alla mia newsletter ogni mese.
Ti inviarò una mail con i link ad articoli che ho trovato interessanti e a volte dei piccoli piccoli commenti o delle piccole curiosità che mi sono capitate in quel mese.
Avrei anche sarei anche avvisato per ogni podcast, un nuovo articolo, un nuovo video che uscirà.
Come sempre trovi le note nell'episodio all'indirizzo https due punti slash slash www.avvocati mac.it slash podcast 69 che è il numero di questa puntata.
Come sempre ci sentiamo alla prossima.