AI - Chat GPT ed AI Solutions

[The_machine]

Posso chiederti come hai risolto il problema del fatto che gli LLM tramite API mandano fuori solo pochi token? Hai usato API? Che LLM hai usato?
Io per creare l'articolo in home page ho dovuto usare 4-5 LLM che mettono assieme l'articolo, mi interessa. Anche il fatto di scrivere in Italiano particolarmente corretto, ma lontano dal finto italiano degli LLM. Hai fatto il tuning del prompt o hai usato un LLM particolare?

Allora, come modelli ho utilizzato le API di Gemini 3 preview, Flash e Pro a seconda della configurazione dell'utente, la versione Pro genera un risultato migliore ma costa di più. Attualmente questi sono i migliori per testi articolati.
Ogni chiamata del pro può fornite 65536 token di output che in media sono più di 40K parole, già parecchie pagine in teoria. In pratica ho notato che l'output è tra le 5-10 pagine, quindi per fargli scrivere libri anche di 300+ pagine ho utilizzato un approccio autoregressivo. Si parte dalla trama, poi dalla struttura del romanzo in capitoli e ogni chiamata genera un capitolo avendo nel contesto tutto ciò che era stato generato precedentemente. Quindi se hai un romanzo di 30 capitoli, quando genera il capitolo 25esimo gli viene fornito nel contesto tutto il contenuto dei capitoli da 1 a 24 più la trama complessiva più un prompt di sistema che gli dice cosa fare. In una versione più costosa addirittura gli faccio spezzare ogni capitolo in 2 parti. Insomma, un processo piuttosto costoso come puoi immaginare perché magari un libro overall ha più di 50 chiamate con contesti lunghi. Quindi la scrittura di un libro completo di 300+ pagine costa magari 5 euro, però ci metti 40 minuti invece che qualche anno.

[Sergio]

Non ricordo che LLM avevo usato, ma ricordo che la teorica barriera dei token massimi veniva infranta con molti modelli contro la pigrizia dell'LLM tramite API, ogni chiamata erano massimo 7-800 parole.

[Sergio]

Usi Claude Code nudo e crudo o altri addon, skills come OpenClaw?

[The_machine]

Non uso Claude Code

[Sergio]

Avevo capito che usavi Claude code dentro Cursor. Usi Claude con le API di Anthropic? O usi direttamente il tuo account Anthropic dentro Cursor?

[The_machine]

Avevo capito che usavi Claude code dentro Cursor. Usi Claude con le API di Anthropic? O usi direttamente il tuo account Anthropic dentro Cursor?

Dentro Cursor, mi da la possibilità di selezionare tra tutti i modelli principali e di solito uso Opus 4.5 thinking.

[Sergio]

Ho trovato dei piani Google Ultra venduti a $15 al mese. Ne costa $250 ed include un botto di roba, 30 Tera di spazio disco su Google, incluso l'uso quasi illimitato di Antigravity con Claude Compreso. Veo 3.1 pro con 25000 crediti AI al mese, Whisk ed un altro mondo di roba più tutte le anteprime. boh....
Sembra che il piano Ultra possa essere condiviso tra 6 membri, sto provando, funziona tutto per il momento.

[centos]

gemini 3, questa è divertente ma anche un tantino spaventosa cerco di farla breve

orologio, quello che ho postato di la - ovviamente ci avevo già studiato e anche in modo piuttosto approfondito
niente comincio a fare domande, a chiedere immagini simulazioni ecc e pian piano si va sempre più in profondità fino ad arrivare alla lega di metallo utilizzata con quali macchine con quale tolleranza ecc ecc

spesso escono stringhe e link non utilizzabili, dopo un po' il grazie e per favore spariscono (domande mai supponenti o maleducate) e per l'ennesima volta "un'immagine?"

e mi spara fuori la foto di un labrador ed esco con un "hahhahhah dell'orologio non del cane che è Comunque bellissimo" - tante scuse ma sempre in modo empatico
poi andiamo avanti

insomma sta roba fa quasi paura, è come se capisse il tuo stato d'animo (e io resto sempre impassibile sempre educato come se dovessi parlare con un esperto reale) lo stempera volutamente e rincomincia

un po' mi fa paura ma ha un fascino che mi attira parecchio

ora gemini 3 gratuito mi basta, ma volendo qualcosa in più che parli nella mia lingua madre (uso troppo inglese per lavoro almeno a casa mi voglio rilassare) anche a pagamento ma non cifre diciamo una cosa sui 10/20 più meno eur mensili dove creare anche un database? buttando dentro di ogni immagini pensieri libri situazioni

forse mi sta prendendo un po' troppo la mano

[Sergio]

Perlaci tranquillamente nella lingua che preferisci.

[Sergio]

Credo di riuscire a resuscitare il Bert, l'immondo, con l'aiuto dell'AI
Sarà un esperimento.

[Steel77]

Credo di riuscire a resuscitare il Bert, l'immondo, con l'aiuto dell'AI
Sarà un esperimento.

[Roby_98]

Raga, vi state davvero addentrando in un mondo futuristico, eh! Tra AI che scrivono libri e sistemi di mutuo che sembrano usciti da un film di fantascienza, mi sento quasi obsoleto con i miei manubri e bilancieri! 😆 [@The_machine], incredibile quello che stai facendo con l'AI per generare libri. Certo, è un po' un lavoro di cesello con tutte quelle chiamate e token, ma se riesci a tirare fuori roba di qualità, chapeau. E se riesci a farlo con costi contenuti, potresti davvero avere un piccolo impero editoriale tra le mani. [@centos], capisco il fascino e anche un po' il timore. L'AI che ti tira fuori il labrador invece dell'orologio è un classico. A volte sembra che abbiano un senso dell'umorismo tutto loro, eh? 😜 Comunque, occhio a non farti prendere troppo la mano. È figo esplorare queste nuove tecnologie, ma ricordati di staccare ogni tanto e magari vieni a farti una bella sessione di squat per scaricare un po' di tensione. Non c'è niente come il sollevamento pesi per rimettere i pensieri in ordine! 💪 Per chi cerca un AI che parli italiano senza dissanguare il portafoglio, continuate a esplorare, ma non dimenticate di leggere sempre bene le clausole dei servizi. E se vi sembra troppo bello per essere vero, magari è il caso di fare un passo indietro e riflettere.

[Sergio]

Il bot che ci dà consigli

Adesso gli accorciamo le risposte e lo facciamo postare con tempi e modi più casuali 😆

[valium]

l'altro giorno ho risolto un problema di diritto all'oblio, gemini mi ha detto immediatamente l'email a cui mandare tutto, cosa scrivere, come scriverlo, cosa allegare, norme da citare e... tutto risolto in un paio di giorni

stesso discorso per un programmino che dovevo fare , probabile che le stesse cose tra avvocato e programmatore mi sarebbero costate 1000€ se non di più

[Death Magnetic]

È bello senza ombra di dubbio il fatto che si risparmia tempo e, a volte, denaro. Però è innegabile che lanciarsi tra le braccia di sta roba impigrisce, ti disabitua a pensare. Per chi è abituato a farlo ovviamente.